Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

The Game Awards 2025: ya hay fecha al anuncio de los juegos nominados y será en, literalmente, horas

Geoff Keighley ha anunciado por sorpresa el día en el que anunciará los nominados a cada uno de los premios GOTY

¿Y si GTA San Andreas hubiese salido para PS1? Un fan lo imagina y habría sido muy diferente

En PS1 ya existieron dos Grand Theft Auto, que poco tenían que ver con las entregas que llegarían después

Escape from Tarkov ya ha debutado en Steam, pero con unas críticas horribles por este motivo

Solo el 43% de las reseñas recientes son positivas, siendo más de la mitad negativas

Ubisoft, ¿a punto de ser comprada? Un reputado insider ha soltado la bomba en redes

No es la primera vez que se habla de una hipotética compra al gigante del sector de los videojuegos en Europa

Sí, la comunidad revivió Concord en PC, pero podrían recibir "preocupantes acciones legales"

Tras el inesperado regreso de los servidores de Concord gracias a los fans, el futuro del juego pende de posibles acciones legales que podrían volver a cerrarlo

¿Iba a ser XDefiant un Splinter Cell en realidad? Esto es lo que dice el productor del juego

Un reciente reporte asegura que se estaba desarrollando una nueva entrega que acabó convirtiéndose en XDefiant

Las cifras no mienten: Black Ops 7 no logra competir con Battlefield 6 en su lanzamiento

Black Ops 7 no logra superar a Battlefield 6 en jugadores simultáneos en Steam, dejando a los fans preguntándose si la saga necesita un cambio de rumbo

Un insider y un periodista desatan la locura por Half-Life 3: su anuncio podría ser en pocos días

Un rumor que surgió en 4chan casi sin fiabilidad ha ganado veracidad gracias a un periodista (y las ilusiones de los fans)

De 20€ a sólo 5€: Te quedan muy pocos días para que puedas hacerte con este juego en oferta en la PS Store

Se trata de un spin-off de una de las sagas shooters más laureadas de todos los tiempos

Cuánto tiempo podría estar Grand Theft Auto V gratis con PS Plus en esta ocasión

El título ha estado ya disponible hasta dos veces con el servicio estrella de PlayStation