Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

Tides of Annihilation celebra el Año Nuevo Chino con un tráiler especial lleno de caballos y buen humor

El prometedor juego de acción y aventura de Eclipse Glow Games nos deja ver a su protagonista Gwendolyn en una situación muy diferente

¿Está God of War: Sons of Sparta en PS4? Esta es la respuesta definitiva a la gran duda

Muchos jugadores dan por hecho que saldrá en PS4, pero la realidad podría sorprenderte

El remake de God of War Trilogy podría borrar/censurar una función que muchos jugadores recuerdan perfectamente

La icónica mecánica opcional de los juegos originales podría desaparecer en esta nueva versión para adaptarse a los nuevos tiempos

La mayor decepción del State of Play fue cosa de Ubisoft por ilusionarnos con una de sus sagas más queridas

El evento de PlayStation contó con la presencia de uno de sus personajes más míticos, pero no de la forma en la que nos hubiera gustado a muchos

El nuevo Silent Hill cambia las reglas: Townfall será en primera persona

Konami ha mostrado un primer gameplay del juego dentro del State of Play del 12 de febrero

Hay alguna razón por la que PlayStation apoya tanto a este shooter y lo descubriremos gratis: fechas de prueba para Marathon

El próximo proyecto de Bungie, padres de Destiny, tendrá un fin de semana de prueba gratuito en PS5, Xbox Series X/S y PC.

5 cosas que debes saber sobre God of War: Sons of Sparta, el nuevo juego 2D de Kratos en PS5

Desde el regreso de TC Carson como la voz original de Kratos hasta la música de Bear McCreary, repasamos todo lo que hace especial a este sorprendente spin-off

John Wick tendrá videojuego oficial con Keanu Reeves y el director de la saga

El juego de acción en tercera persona contará una historia original ambientada años antes de los eventos de la primera película

Oficial: God of War Trilogy Remake traerá de vuelta los clásicos de Kratos a PS5

Solo se ha confirmado el desarrollo de esta colección y se desconoce una ventana de lanzamiento aproximada

Ya sabemos qué le pasa exactamente a Leon en Resident Evil Requiem. Y no, no son buenas noticias

El último adelanto de Resident Evil Requiem mostrado en el State of Play aclara mucho sobre la enfermedad de Leon S. Kennedy.

Dino Crisis 1 y 2 llegan por primera vez a Steam pero con un DRM polémico que ya está generando quejas

Los clásicos de Capcom de la era PS1 están disponibles a mitad de precio por su lanzamiento

Krafton anuncia Project Windless, un RPG de acción de mundo abierto donde serás el gallo del corral

El juego está ambientado en el universo de la saga de novelas coreana El pájaro que bebe lágrimas