Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

El padre de Ninja Gaiden: Ragebound estrenará demo de Denshattack! en el próximo Steam Next Fest

Undercoders nos confirma que podrás probar gratis el juego de trenes y skateboarding del 23 de febrero al 2 de marzo

El primer videojuego de fútbol de la historia es de 1978 y casi nadie lo conoce

Cassette 24: Fussball salió para la consola alemana Interton VC4000 antes que cualquier juego de Atari

Australia Did It combina defensa de torres con tiroteos demenciales y puedes probarlo gratis

Asistimos a una presentación exclusiva del juego de Rami Ismail que mezcla estrategia táctica con bullet hell inverso

Marvel Tokon Fighting Souls va a estar en el State of Play con casi total seguridad, y se sabe gracias a Steam

La tienda de Valve ha compartido ya información relevante sobre el juego, justo antes del evento de PlayStation

Capcom confirma expansión gigante para Monster Hunter Wilds al estilo Iceborne y Sunbreak

El productor Ryozo Tsujimoto anuncia la gran ampliación mientras el parche 1.041 cierra las actualizaciones mayores del juego base

Final Fantasy VII Rebirth añadirá el modo ruedines a PS5 y PC con un nuevo parche

Square Enix implementará el Streamlined Progression con vida infinita, MP ilimitado y 9999 de daño constante

Black Myth: Zhong Kui estrena corto live-action que alcanza 5 millones de visitas en tiempo récord

Game Science lanza un vídeo de seis minutos de cocina con ingredientes monstruosos que arrasa

Discord obligará a verificar la edad para acceder a contenido sensible a partir de marzo: prepara selfie y DNI

La plataforma implementa ajustes restrictivos por defecto para adolescentes con verificación de edad mediante selfie de vídeo o DNI

Estas imágenes de GTA VI están engañando a todo el mundo; las verás por redes, pero son totalmente falsas

Se están compartiendo como si fueran reales, pero no pertenecen a GTA VI ni a Rockstar

¿Death Stranding 2 en PC? La última foto de Hideo Kojima desata todas las teorías

El juego nominado al GOTY 2025 podría llegar a Steam y Epic Games mucho antes de lo que pensamos

Apunta la fecha: REPLACED anuncia una demo exclusiva para PC esta misma semana

La aventura cyberpunk de Sad Cat Studios saldrá oficialmente al mercado el próximo 12 de marzo