Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.
https://areajugones.sport.es/tecnologia/apple-intelligence-asi-funciona-la-ia-del-iphone-que-llegara-con-ios-18

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

GTA VI podría esconder un cambio brutal: un exdesarrollador cree que Rockstar ha rehecho su motor desde cero

Un antiguo desarrollador de GTA V y L.A. Noire cree que Rockstar ha aprovechado el largo desarrollo para rehacer su tecnología base

Nintendo Switch 2 podría dominar el verano de 2026: una gran cantidad de juegos llegarían a la consola

Si las filtraciones son ciertas, estas apuntan a un verano clave para Switch 2 en 2026

Un jugador logra lo imposible en Pokémon Pokopia: quitar todo el océano del juego

Lleva horas probando mecánicas del juego para lograr algo que parece imposible

Sorpresa en PS Plus: uno de los juegos de abril recibe una actualización que lo transforma totalmente

El juego que pronto llegará a PS Plus ha recibo una gran actualización de cara a su modo cooperativo

Filtran detalles del Star Fox de Switch 2 y hay sorpresa: su historia podría ser su mayor cambio

El proyecto aún no es oficial, pero ya hay pistas claras de hacia dónde apunta la saga

Ni 2D ni 3D: este es el primer juego de plataformas en 5D de la historia donde dos realidades se mezclan de forma simultánea

Por si no tenías suficiente con el 3D, esta propuesta tan original salta hasta las cinco dimensiones.

Crimson Desert: Cómo conseguir la Mochila Cohete Kuku (jetpack) de Oongka

El jetpack de Crimson Desert es exclusivo de Oongka y se puede perder para siempre si avanzas demasiado en la historia sin conseguirlo

Un exdesarrollador de Rockstar da la mejor clave sobre GTA VI: será diferente al resto de mundos abiertos porque trabajan "al revés"

Rob Carr explica cómo plantea Rockstar Games el desarrollo de un mundo abierto como el de GTA VI.

Esperar al nuevo Uncharted 5 está bien, pero, ¿y si en realidad ya existe? Esta loca teoría sobre Baby Steps es alucinante

Existe una cantidad de pruebas absurdas que "confirman" que Baby Steps es, en realidad, Uncharted 5.

Buenas noticias para Crimson Desert: llegan decenas de mejoras clave (como la visibilidad del casco) en una nueva actualización

Este nuevo parche de Crimson Desert también incluye más almacenamiento y selector de controles.

Assassin’s Creed IV: Black Flag inició una tendencia que sigue afectando a la saga 13 años después

Una decisión clave de Ubisoft que redefinió la saga… y no todos están contentos con sus consecuencias.

Si te preguntas si Expedition 33 tiene un final canónico, su guionista principal tiene una respuesta que no va a agradar a todos

Parece que no existe un "final correcto" para Clair Obscur: Expedition 33, sino que todos lo son.