Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.
https://areajugones.sport.es/tecnologia/apple-intelligence-asi-funciona-la-ia-del-iphone-que-llegara-con-ios-18

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

Diablo II Resurrected llega a Steam con una nueva clase y una expansión pero... ¿merece la pena en 2026?

La Infernal Edition incluye el remaster completo, la expansión Lord of Destruction y el nuevo DLC Reign of the Warlock con el Brujo, todo por 39,99€

Death Stranding 2 en PC no será solo un port: Kojima prepara nuevos modos de juego que también llegarán a PS5

PlayStation confirma soporte ultrawide, Frame Generation y framerate desbloqueado, pero las sorpresas más gordas se desvelarán en marzo

Un conocido filtrador desvela que Resident Evil 10 podría llegar en 2029 y Requiem ya prepara su DLC

Asegura que la próxima entrega principal de la saga apunta a finales de esta década, aunque advierte que podría retrasarse hasta 2030 o 2031

Duras palabras de Alexelcapo para el nuevo God of War Sons of Sparta, que desinstala tras jugar una hora: “tiene cero alma”

Uno de los influencers más importantes de España comparte su opinión sobre God of War: Sons of Sparta.

Se puede jugar en modo cooperativo a God of War: Sons of Sparta, pero sólo cumpliendo un requisito y en una modalidad concreta

Sí, God of War: Sons of Sparta se puede disfrutar con dos jugadores en modo cooperativo... pero no a su modo historia.

Sorpresa mayúscula con Kingdom Come Deliverance: ya está aquí (gratis) su gran actualización de nueva generación

Los rumores eran ciertos y ya está disponible la nueva actualización de Kingdom Come: Deliverance para PS5 y Xbox Series X/S.

No será un juego menor: Silent Hill: Townfall sorprende con su duración aproximada

Konami ha confirmado cómo de grande será el juego y confirma que este no será un spin-off más pequeño de lo habitual

No lo dejes pasar: toda la saga Resident Evil rebajada con un pack que baja a su mínimo histórico

Esta es la mejor oportunidad de ponerse al día con la franquicia antes de llegar a Resident Evil Requiem

El detalle crucial de Silent Hill: Townfall que revela dónde transcurre el juego

El juego se aleja de Japón y Estados Unidos para ofrecer otro setting diferente y crear así una entrega única de Silent Hill

Los remakes de God of War van para largo: el proyecto apenas está empezando su desarrollo

El equipo confirma que el desarrollo de los remakes de God of War acaba de arrancar y que todavía queda un largo camino hasta verlos en PS5

Sony Santa Monica no pisa el freno: tendría otro juego en desarrollo para PS5 más allá del remake de God of War

El estudio sorprendió durante el reciente State of Play con varios proyectos, pero aún se estaría guardando otro as bajo la manga

Hay sorpresas entre los ganadores de los DICE Awards 2026, pero no en el juego más destacado: Expedition 33 sigue a lo suyo

Se han desvelado los ganadores de la 29ª edición de los DICE Awards, con Expedition 33 como gran protagonista.