Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

Así será el especial de los Squid Craft Games: Fecha y dónde ver el evento de despedida

El evento se jugará en un solo día con juegos aleatorios para cerrar el ciclo de la cuarta edición

Komanche la lía en Twitch y acaba baneado una semana: Esto es todo lo que ha pasado

El streamer de Squid Craft Games 4 recibe suspensión que él mismo adelantó en redes

Cuidado con los últimos vídeos "filtrados" de GTA VI: por mucho que triunfen la realidad es que están generados con IA

Las últimas filtraciones de GTA VI están dando vuelta y media por todo el mundo, pero no son reales.

Buenas noticias para los fans de Resident Evil: el mejor recopilatorio para Nintendo Switch 2 llegará en formato físico

El llamado Resident Evil Generation Pack ha confirmado su lanzamiento en formato físico en Europa.

PS Plus diciembre 2025: todos los juegos gratis para los suscriptores Essential

PlayStation finalmente ha confirmado cuáles serán los 3 nuevos juegos que nos acompañarán dentro del nivel Essential con la llegada de la Navidad

Nadie lo vio venir: Assassin’s Creed Shadows anuncia colaboración con Ataque a los Titanes… ¡y es GRATIS!

Una colaboración inesperada que está revolucionando a la comunidad y llega sin coste alguno

Xokas se va de la lengua: la mansión donde vive IlloJuan temporalmente está en la zona más cara de Madrid y este sería su precio

El streamer residirá en ella durante un mes para grabar el segundo disco de ¨Los Diozes¨: analizamos el valor estimado de la propiedad

Si tienes Nintendo Switch Online te alegrará saber que ya puedes jugar a estas cuatro joyas retro de NES y Game Boy

Se han dado a conocer los nuevos juegos clásicos que llegan a Nintendo Switch Online.

Fortnite regala una nueva skin gratis de Kill Bill: qué debes hacer para no quedarte sin ella

Solo estará disponible por tiempo limitado, pero puedes conseguirla siguiendo estos pasos

Tras los Squid Craft Games 4, ¿cuál es el próximo gran evento en Twitch entre creadores y streamers? Apunta

Los Squid Craft Games 4 ya han finalizado, pero no nos quedaremos sin eventos entre streamers.