Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.
https://areajugones.sport.es/tecnologia/apple-intelligence-asi-funciona-la-ia-del-iphone-que-llegara-con-ios-18

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

Assassin’s Creed IV: Black Flag inició una tendencia que sigue afectando a la saga 13 años después

Una decisión clave de Ubisoft que redefinió la saga… y no todos están contentos con sus consecuencias.

Si te preguntas si Expedition 33 tiene un final canónico, su guionista principal tiene una respuesta que no va a agradar a todos

Parece que no existe un "final correcto" para Clair Obscur: Expedition 33, sino que todos lo son.

La Semana Santa está muy bien, pero este nuevo simulador de la vida de Jesucristo te hará vivirla más intensamente

El proyecto nos pone en la piel de Cristo y nos llevará a conocer lugares y personajes icónicos de la historia del Cristianismo

Buenas noticias: todavía estás a tiempo de jugar gratis a seis entregas de Assassin's Creed este fin de semana, sólo necesitas una Xbox

Si quieres pasar un fin de semana disfrutando de Assassin's Creed totalmente gratis, estás a tiempo.

Adiós a tu soso fondo de escritorio: esta app de Steam tiene miles de temas dinámicos para darle vidilla

Se trata de un programa que cambia por completo el escritorio de tu PC que, además, es muy cómodo e intuitivo de usar

Saltan las alarmas con G2A: varios usuarios reportan cobros de 2 euros por tener sus cuentas inactivas, revisa bien

El cobro de 2 euros por tener una cuenta inactiva de G2A también se ha recibido por un miembro de Areajugones.

Giro en el futuro de PlayStation: una filtración habla del precio de PS6, una nueva portátil y de un ecosistema unificado

Esta nueva información presenta el posible futuro de PlayStation, con PS6 conviviendo con una nueva portátil y la actual PS5.

PlayStation forzará un importante cambio en PS4 a partir de este 2026: nuevas filtraciones apuntan a soporte limitado

PlayStation habría lanzado un aviso a los desarrolladores con tal de llevar PS4 al final de su ciclo de vida real

El survival que cambió las reglas del género está gratis este finde: tiene un 87 en Metacritic y enamoró a los fans

Esta última se celebra, además, ante el inminente lanzamiento de su esperadísima secuela

Lords of the Fallen está bien, pero si eres suscriptor de PS Plus no debes pasar por alto otro gran juego disponible en abril

Entre los nuevos juegos de PS Plus del mes de abril encontramos al fantástico Sword Art Online: Fractured Daydream.

Dogfight Wild Tournament 4: fecha, combates, entradas y cómo ver el evento de MMA de Jordi Wild

En este artículo encontrarás todos los detalles sobre la cuarta edición de este showcase de artes marciales

Take-Two despide a su director de IA semanas después de asegurar que la misma no puede crear un juego como GTA VI

La compañía recorta su división de inteligencia artificial en un momento clave para la industria