Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

La futura PS6 tendrá a la Inteligencia Artificial como protagonista: el "Proyecto Amatista" de Sony y AMD

El "Proyecto Amatista" es el nombre en clave de la colaboración entre AMD y PlayStation para la futura PS6.

El regreso del wrestling a Nintendo ocho años después: WWE 2K25 confirma su lanzamiento en Switch 2

Ya conocemos la fecha de lanzamiento de WWE 2K25 en Nintendo Switch 2, tras 8 años de ausencia.

Los excéntricos gestrales de Expedition 33 recreados en estas increíbles figuras talladas a mano

Son criaturas simpáticas en Clair Obscur: Expedition 33 y esta artista las ha recreado a mano de manera espectacular.

Xbox anuncia la primera oleada de juegos de Game Pass para julio de 2025, con dos inesperados regresos y una fuerte presencia RPG

Fiel a su cita, el equipo responsable del servicio de suscripción de Microsoft ha anunciado sus próximas novedades

Death Stranding 2 pudo no haber existido: Hideo Kojima revela que temió no volver a desarrollar videojuegos tras someterse a una delicada operación

“No os voy a dejar marchar”: el creador de Death Stranding se aferró a la vida con el deseo de reconectar con los jugadores a través de una secuela

Hideo Kojima dice tener "la enfermedad de Tom Cruise" y quiere irse al espacio para hacer (otra) locura

Si alguien podía sorprendernos es Hideo Kojima... pero esta vez lo ha logrado de verdad con estas últimas declaraciones.

Nintendo recorre España para dejar probar Switch 2 y sus juegos... pero muchos no están contentos

El llamado Nintendo Switch 2 Tour recorre la península para que los jugadores puedan probar la nueva consola, aunque con cierta disconformidad

¿Cuántas Nintendo Switch 2 se han vendido en junio? Nintendo da la cifra y es una brutalidad

En el último trimestre, además, la primera Switch vendió también un millón de consolas, alcanzando las 153 millones de unidades vendidas en todo el mundo

Era una de las series de dibujos más queridas de los 90 y me emociona recordarla con este "juego perdido"

Ha aparecido un prototipo de lo que iba a ser este videojuego para Game Boy Advance que nos muestra lo que pudo haber sido.

Ya puedes descargar gratis los nuevos juegos de PS Plus Essential de julio de 2025

La nueva línea de títulos está encabezada por Diablo IV, la última gran obra de Blizzard

Steam añade por sorpresa una función que los usuarios llevaban pidiendo años

Steam es muy buena con algunas cosas, pero con otras tarda lo más grande

No es el mejor juego multijugador, pero casi: está a sólo 6 euros en PS Store gracias a una oferta

Un título que todo el mundo debería jugar con amigos o en familia alguna vez