Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

El fracaso de Highguard explicado en cifras: por qué tiene reviews tan negativas (aunque era esperable)

Creado por antiguos responsables de Apex Legends y abanderado en The Game Awards: Highguard es el nuevo free to play que no necesitábamos

Por sólo 3,32 €: PS Store derrumba el precio de uno de los juegos de terror más influyentes de los últimos años en PS4 y PS5

Una de las nuevas ofertas de PS Store más apetecibles: si te gusta el terror (y la tensión), dale caña.

Delta Force recibe su nueva temporada el 3 de febrero con destrucción masiva y modo Flashpoint

El shooter táctico gratuito de Team Jade añade nuevo operador, mapa con destrucción de edificios y una campaña con Saeed

BALL x PIT recibe la actualización gratuita Regal con nuevos personajes y un modo muy esperado

El roguelite de fusión de bolas añade dos personajes, ocho bolas nuevas y el esperado modo infinito

¡No más filtraciones! Esta es la decisión que Rockstar Games ha tomado con GTA VI y seguro que no te gustará

La llegada de GTA VI podría contar con ciertos cambios para evitar la publicación temprana de contenido

Clair Obscur: Expedition 33 apunta a una nueva llegada a Nintendo Switch 2 este 2026 y le acompañarían estos otros juegos

El futuro de la nueva generación de Nintendo apunta a ser prometedor en cuanto a su catálogo

Resident Evil Requiem es el más sangriento de la saga y Capcom confirma que Leon tiene la culpa

Los nuevos vídeos de Resident Evil Requiem lo dejan claro: el nivel de gore en la franquicia ha subido drásticamente, y todo apunta a que Leon es el responsable

Xbox Game Pass tiene muchos juegos, pero ahora es uno de los años 80 el que está petándolo

Es uno de los RPGs más influyentes de toda la historia y que marcó el inicio de todo un género

Resident Evil: Requiem podría recibir un DLC protagonizado por Alyssa y los fans ya están en alerta

Según filtraciones de Dusk Golem, Capcom estaría trabajando en contenido extra que pondría a Alyssa en el centro de la acción