Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

Ni Expedition 33 ni Call of Duty: descubre los 12 juegos de 2025 más vendidos en Steam

Valve publica una lista de los juegos que más ingresos generaron a lo largo del año

Mezcla lo mejor de Hogwarts Legacy con Stardew Valley, pero llevamos mucho esperando: ¿qué pasa con Witchbrook?

Los amantes de Harry Potter y los juegos de simulación van a tener que seguir esperando.

Es el mejor soulslike de la historia y el director de Another Crab's Treasure da con la clave: imitarlo es el mayor error

Imitar al Dark Souls que ya lo ha hecho todo bien no funciona para el director de Another Crab’s Treasure.

Avatar: Frontiers of Pandora cuadruplica su récord de jugadores dos años después de su lanzamiento

El juego de Ubisoft ha superado los 12.000 jugadores simultáneos en Steam gracias al estreno de Fire and Ash y el nuevo DLC

4 juegos en 1: una colección de cuatro juegos es el nuevo regalo gratis de Epic Games Store

Después de varios días seguidos dando un videojuego gratis al día, este es el último

Pikmin 3 Deluxe recibe clasificación para Switch 2 en Europa: ¿nueva edición a la vista?

El organismo PEGI ha registrado una versión del juego para la nueva consola de Nintendo, aunque la compañía aún no ha hecho ningún anuncio oficial

CD Projekt vende GOG a su cofundador por 25 millones de dólares ¿Qué pasará ahora?

Michał Kiciński se hace con el 100% de las acciones de la tienda de juegos DRM-free tras 17 años bajo el paraguas de CD Projekt

Los 3 errores que PS Plus debe corregir de forma urgente en 2026 tras abandonar PS4

El movimiento de la compañía ha sido bastante polémico, y lo cierto es que PS Plus tiene mucho trabajo por delante de cara a pulir su servicio como compensación

Expedition 33 también triunfa en la lista de los 10 videojuegos más completados de 2025 (con muchas sorpresas)

Estos son los 10 juegos más completados de todo 2025, con Expedition 33 alzándose con otra victoria.

Esto que tenía NES era único, y desgraciadamente los jugadores modernos nunca disfrutarán de algo así

Se llamaba Nintendo Power Line, y era una de las mayores fantasías para los jugadores de la época

Este es el próximo anuncio de PS Plus, una 'sorpresa' que lleva ya tiempo avisándose

Habrá numerosos enfados, pero PlayStation avisó de esto hace ya unos meses

Un remaster de Kingdom Come: Deliverance estaría en camino para consolas de actual generación

Se rumoreaba desde hace unos meses, y ahora se está hablando ya de un lanzamiento en poco tiempo