Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

Habría otro State of Plat en septiembre y varias pistas apuntan a Sony Santa Monica como protagonista

Ha salido un nuevo rumor a la luz que revelaría los planes de Sony para su próxima conferencia y tendrían bastante sentido

Metroid Prime 4: Beyond podría ser lanzado por sorpresa, según una pista clave descubierta hace horas

Ha salido a la luz una filtración que apunta a que el juego podría experimentar uno de esos curiosos casos de shadowdrop

Las ventas de juegos third-party en Nintendo Switch 2 arrancan con mal pie: las cifras están por debajo de sus peores estimaciones

A pesar del éxito rotundo de la consola, los títulos third-party no logran conectar con el público en el arranque de la nueva generación de Nintendo

Onimusha: Way of the Sword no será soulslike ni mundo abierto: Capcom apuesta por la esencia clásica

El director confirma que el primer juego principal en 20 años mantendrá la progresión lineal y añadirá nuevas mecánicas de combate con espadas

Shuffle Tactics lanza su demo expandida en Steam con nuevo personaje antes de su estreno

El RPG táctico con construcción de mazos presenta a Fletch, un héroe defensivo, y añade dos nuevos jefes en su versión de prueba gratuita

Se filtra que Crash Team Racing Nitro-Fueled llegará a PC en 2026 con nuevos personajes y cross-platform

Un empleado de un estudio bajo Microsoft asegura que el port costará 40$ en nueva generación y tendrá un Grand Prix exclusivo con una pista nueva

REMATCH recibe el parche 0.4 con remap de teclado, matchmaking mejorado y correcciones masivas de bugs

Sloclap arregla los problemas de sincronización del balón, mejora el sistema de tap con ratón y reduce los tiempos de cola en ranked

¿Cuántos años tiene Pauline en Donkey Kong Bananza? Nintendo comparte su edad oficialmente

Nintendo compartió de manera oficial la edad que tiene Pauline en este nuevo videojuego de Donkey Kong

Si te apasionan los juegos clásicos de Star Wars, estas ofertas de Steam te ofrecen una oportunidad única

Estas ofertas se encuentran disponibles dentro de una promoción que ha dado comienzo en el día de hoy

REMATCH ha salido oficialmente y puedes jugarlo gratis si tienes una suscripción a Xbox Game Pass

Ya puedes disfrutar gratuitamente del nuevo juego de los creadores de SIFU gracias a Xbox Game Pass

Cómo activar el bloqueo de pantalla en Nintendo Switch 2: un sistema de seguridad muy recomendable

Nintendo Switch 2 cuenta con este sistema de seguridad que bloquea la pantalla, muy recomendable de activar.