Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

Nintendo escucha a su comunidad: Switch 2 incluirá una función de accesibilidad muy solicitada

La compañía refuerza su compromiso con la inclusión incorporando herramientas pensadas para jugadores con discapacidades

0

Por 4€, tendrás uno de los mejores juegos de acción y plataformas de los últimos años

Este título indie tiene un 86 en Metacritic y fue un éxito descomunal

0

Este juegazo indie con muy buenas críticas llega a PS5 y PS4 hoy mismo, pero con una pequeña pega

Fue uno de los videojuegos indie más aclamados del año 2022 y finalmente ya se encuentra disponible en las consolas PlayStation

0

GTA VI esconde una referencia a Manhunt, una de las grandes IPs clásicas de Rockstar, y no te diste cuenta

Uno de los personajes del juego esconde un tatuaje que muestra uno de los villanos más clásicos de Manhunt

0

Los 3 juegos Big Box de PC con los que podrías reformar tu casa

Las cajas grandes de cartón que valen más que muchos electrodomésticos: tesoros informáticos que financiarían tu cocina nueva

0

Marathon podría retrasarse y sufrir graves cambios: la moral de Bungie estaría cayendo en picado

Según Forbes, los desarrolladores están preocupados por si el juego acaba fracasando

0

La verdadera portátil de Xbox llegaría en 2027 con un sistema de acoplamiento como el de Switch

El proyecto que maneja Microsoft sería un dispositivo híbrido para combinar modo portable y de sobremesa

0

El CEO de Take-Two habla sobre el precio de GTA VI y cuánto podría costar de lanzamiento

Aunque no ha dicho un precio exacto, parece dejar caer que será más caro que el resto de títulos

0

Di adiós a Warzone Mobile: Activision anuncia el cierre del juego y estos son los motivos

Se trata de la versión del battle royale que está disponible por ahora en iOS y Android

0

De 40€ a 20€: uno de los mejores juegos de Xbox está muy rebajado por tiempo limitado en PS Store

Microsoft ha rebajado un título que ya es un imprescindible dentro del catálogo de PlayStation

0

Red Dead Redemption 2 podría actualizarse a PS5 y Xbox Series X|S con su llegada a Nintendo Switch 2

Rockstar estaría preparando un parche next-gen para consolas de nueva generación, con mejoras de resolución y rendimiento

0

Si cazas trofeos, no empieces este juego de PS Plus: ha llegado al servicio y su platino es imposible

Se trata de uno de esos juegos que cuenta con un bug terrible que impide completarlo al cien por cien

0