Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

Si juegas en PC, esta herramienta es OBLIGATORIA: te dirá si un juego funcionará bien antes de comprarlo

Esta herramienta nos permite ver si nuestro PC es capaz (o no) de mover ciertos juegos, evitando gastar dinero a lo bruto

Por solo 10 euros, puedes hacerte con uno de los mejores juegos de Capcom en PS Store (y no es Resident Evil)

La saga lleva muchos años totalmente parada, pero esta última entrega te dará varias hora de auténtica calidad

Un casino, Solaris y hasta imágenes: BioShock 4 filtra detalles inéditos aunque su desarrollo sigue pintando infernal

Un reciente informe habla de varias ubicaciones que tendrá el juego y hasta hay una imagen preliminar de una de ellas

Crash Bandicoot llegará a Fornite: una filtración afirma que Epic Games lleva meses trabajando en ello

El legendario personaje de videojuegos sería una de las próximas grandes colaboraciones que llegarían al juego

LEGO y Astro Bot juntos: el proyecto que puede convertirse en el set más deseado por los fans de PlayStation

El carismático robot de PlayStation podría dar el salto a LEGO si la comunidad se moviliza

Zelda: Breath of the Wild VR saldrá esta misma semana, y será gratuito para todo aquel que quiera probarlo

Un mod que cambia por completo la perspectiva del juego y algunas características para adaptarlo al nuevo modo

High On Life 2 confirma también su llegada a Nintendo Switch 2, aunque de forma accidental

Esta versión del título ya ha aparecido listada en numerosas tiendas europeas

No volverás a jugar al ajedrez de la misma manera: prueba gratis este adictivo roguelike que revoluciona las reglas clásicas

Esta mezcla entre ajedrez y roguelike es una maravilla: puedes probar ahora mismo su acceso anticipado.

¿Y si Resident Evil no se hubiese llamado Resident Evil? Estos son algunos de los curiosos nombres que se barajaron

Ni Resident Evil ni Biohazard, imagina que Capcom hubiese elegido alguno de estos nombres para la icónica saga.

Expedition 33 no es el final, sino todo lo contrario: su director confirma que la saga continuará en una dirección clara

Expedition 33 marca el inicio de la franquicia Clair Obscur: Sandfall Interactive continuará.

Estos han sido los 10 juegos más abandonados de todo 2025: una de las mejores sagas de JRPG encabeza la lista

¿Qué juegos han dejado a medias más jugadores en 2025? Aquí tenemos a los diez primeros.