Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

¿Qué está pasando con el remake de Prince of Persia? Estas novedades pueden satisfacernos, pero...

... hay algo que sigue sin cuadrar con el regreso de Prince of Persia: Las Arenas del Tiempo.

Las curiosas señales encontradas en Cyberpunk 2077 que sugieren que todavía queda un último contenido

La nueva actualización 2.3 de Cyberpunk 2077, que iba a ser la última, puede que no lo sea.

Se desvela el misterio de la extraña imagen de Pikachu para el Pokémon Presents y... no es lo que esperábamos

La sorprendente imagen de Pikachu que nos volvió locos de cara al Pokémo Presents es... raro.

Estos son los lanzamientos más destacados del 21 al 25 de julio: Wuchang y Mario Party lideran una semana de contrastes

Switch 2 recibe nuevos exclusivos mientras los amantes del terror y la estrategia tienen citas imprescindibles en PC y consolas

Quién iba a decir que Donkey Kong Bananza iba a dar tanto de qué hablar con esta llamativa novedad

Hay verdaderos artistas utilizando Donkey Kong Bananza para crear esculturas realmente alucinantes.

En PS Plus tienes uno de los mejores indies de los últimos años y, para muchos, candidato a GOTY 2025

Este juegazo, incluido en la suscripción de PS Plus, es uno de los mejores juegos independientes del catálogo.

La mejor manera de esperar a GTA VI: hazte con uno de los mejores juegos de Rockstar con un 75% de descuento

Uno de los mejores juegos de la historia tiene una rebaja brutal con el sello de calidad Rockstar.

Inazuma Eleven: Victory Road se retrasa otra vez. El juego de Level-5 no llegará hasta otoño

Ni uno, ni dos, ni tres... este juego se anunció en 2016 y ha sufrido más de 10 retrasos y parece que nunca va a llegar

Una de las sagas de Ubisoft más importantes va a recibir una nueva entrega con un cambio radical

Ubisoft lo ha anunciado de forma muy discreta, pero es una nueva saga de la saga Ghost Recon.

Queda poco más de un mes para el lanzamiento de Gears of War: Reloaded y estos son sus requisitos para PC

La primera entrega de la franquicia llegará de una forma completamente renovada y disfrutable

Increíble pero cierto: puedes jugar a Donkey Kong Bananza con estos icónicos (y raros) bongos

Aunque hay que montar un poco de follón, estos bongos funcionan con Donkey Kong Bananza.