Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

Jeffrey Epstein tuvo problemas en los videojuegos: expulsado permanentemente de Xbox por los peores motivos

Un nuevo documento oficial ha expuesto la expulsión definitiva de Jeffrey Epstein en Xbox Live en 2013.

A GTA VI por fin le ha salido competencia con este mundo abierto brutal, realista y con consecuencias: así es Samson

El juego de debut de Liquid Swords, con la mente tras Just Cause como líder, pinta cada vez mejor.

Este videojuego de Dragon Ball está generado con la nueva IA de Google y ejemplifica una realidad: no entienden la industria

Project Genie de Google ha demostrado sus capacidades con juegos de Dragon Ball o al estilo GTA.

Sony patenta un mando de PlayStation sin botones físicos: ¿una idea pensada para PS6?

Un diseño sin botones, con gestos y controles adaptables, que apunta al futuro de PlayStation

Steam se vuelve loco este fin de semana: hasta 7 juegazos GRATIS, incluyendo Fallout 76 y Grounded 2

Fallout 76, Deep Rock Galactic, Grounded 2 y otros 6 juegos se pueden jugar gratis en Steam por tiempo limitado

PS Portal no habría dicho su última palabra: insiders refuerzan un cambio clave en el dispositivo

Una nueva filtración vuelve a poner a PS Portal en el punto de mira (y de forma positiva)

Si eres suscriptor de PS Plus no dejes pasar estos dos juegos en febrero: supervivencia de la buena y un metroidvania psicodélico

No te quedes sólo con el boxeo: entre los juegos gratis de PS Plus de febrero hay un par de joyas.

Un Nintendo Direct llegaría la semana que viene, pero no es el que todos esperan

El próximo Nintendo Direct no será el esperado por los fans y tocará un Partner Showcase

Mi apuesta por Final Fantasy VII Remake parte 3 es que se llamará Rebuild y este sería su contenido

El director ya tiene decidido el título pero no lo revela: especulamos sobre el nombre y las zonas que incluirá

Los creadores originales de Diablo revelan Darkhaven, su nuevo ARPG de fantasía oscura

Moon Beast Productions presenta un ARPG isométrico con mundo destructible, combate basado en habilidad y construcción