Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

PS Plus enero 2026: todos los juegos gratis para los suscriptores Essential

PlayStation confirma los tres primeros juegos de PS Plus Essential de 2026 para el mes de enero

Como Dark Souls pero usando cartas y con un pixel art espectacular: prueba gratis el juego que está enamorando en Steam

Un soulslike con creación de barajas y una historia fascinante: este indie merece la pena.

Ni The Witcher 4 ni FABLE: este es el RPG que lo reventará en 2026, y no mucha gente lo conoce todavía

El año que viene saldrá un RPG que cuenta con un potencial tremendo para hacerse con un hueco entre los más grandes del género

Todo lo que Nintendo podría anunciar para celebrar los 40 años de The Legend of Zelda

El 40º aniversario de Zelda apunta a convertirse en uno de los momentos clave del año para Nintendo

De 90€ a 18€: PS Store destruye el precio de un pack con dos juegazos de Star Wars de críticas muy positivas

Si estás buscando dos aventuras de Star Wars de calidad, este pack de PS Store está muy rebajado y no te va a dejar indiferente

Este juego llegó hace tiempo a PS Plus, pasó algo desapercibido y hace que merezca la pena estar suscrito al servicio

Una joya indie que muchos pasaron por alto y que ahora brilla dentro del catálogo del servicio

Ni Expedition 33 ni Call of Duty: descubre los 12 juegos de 2025 más vendidos en Steam

Valve publica una lista de los juegos que más ingresos generaron a lo largo del año

Mezcla lo mejor de Hogwarts Legacy con Stardew Valley, pero llevamos mucho esperando: ¿qué pasa con Witchbrook?

Los amantes de Harry Potter y los juegos de simulación van a tener que seguir esperando.

Es el mejor soulslike de la historia y el director de Another Crab's Treasure da con la clave: imitarlo es el mayor error

Imitar al Dark Souls que ya lo ha hecho todo bien no funciona para el director de Another Crab’s Treasure.

Avatar: Frontiers of Pandora cuadruplica su récord de jugadores dos años después de su lanzamiento

El juego de Ubisoft ha superado los 12.000 jugadores simultáneos en Steam gracias al estreno de Fire and Ash y el nuevo DLC

4 juegos en 1: una colección de cuatro juegos es el nuevo regalo gratis de Epic Games Store

Después de varios días seguidos dando un videojuego gratis al día, este es el último