Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.
https://areajugones.sport.es/tecnologia/apple-intelligence-asi-funciona-la-ia-del-iphone-que-llegara-con-ios-18

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

PS Plus Extra: confirmados los primeros juegos que llegarán al catálogo en marzo de 2026

El famoso billbil-kun ya ha revelado cuáles son siete de los títulos que se sumarán al servicio este mes

Los paVos de Fortnite suben de precio: a partir de marzo, tendrás que pagar más para conseguirlos

La compañía hará efectivo este movimiento a mediados de este mismo mes de marzo y los cosméticos de Fortnite serán más caros a partir de ese momento

Desde hoy aparecerá Hoppip si juegas a Pokémon Pokopia, y esto será lo que podrás conseguir en su evento limitado

La criatura protagoniza el nuevo evento de Pokémon Pokopia: consigue todas sus recompensas antes de que se acabe y desaparezca del juego

Un nuevo reporte sobre GTA VI advierte de algo que Rockstar no querría ver filtrado

Si el informe es cierto, el código fuente del juego estaría actualmente en posesión de alguien

El DLC de Resident Evil Requiem es oficial: el director del juego adelanta novedades

Capcom ha confirmado que ya está desarrollando una expansión para Resident Evil Requiem: los rumores y filtraciones se convierten en realidad

Si te pasaste alguno de estos juegos de Mega Drive sin trucos mereces una medalla

De un Contra sin piedad a un guerrero maldito sin checkpoints: los juegos más duros de la consola de Sega siguen poniendo a prueba a cualquiera

Por sólo 1,12 euros: PS Store tumba el precio de uno de los indies mejor valorados de la historia (con 90 en Metacritic)

Si todavía no lo has jugado, esta oferta de PS Store te deja con uno de los mejores juegos independientes de todos los tiempos.

Razer presenta en la GDC tres herramientas de IA que prometen cambiar cómo se hacen y se juegan los videojuegos

La compañía ha presentado tres herramientas pensadas para desarrolladores que quieren ir más rápido sin perder el control creativo de sus juegos

Un nuevo rumor sugiere que estos son los dos juegazos que recibirá el catálogo de PS Plus este mes

Uno de los insiders más importantes de la industria se encuentra investigándolo para saber si es realmente cierto

Final Fantasy VII Remake Parte 3 ya esta casi listo y su director ha soltado más pistas de las que esperábamos

En una entrevista el director ha respondido a preguntas rápidas sobre localizaciones clásicas y ha dejado caer que el juego empezará en Icicle Inn