Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.
https://areajugones.sport.es/tecnologia/apple-intelligence-asi-funciona-la-ia-del-iphone-que-llegara-con-ios-18

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

Fue uno de los mejores lanzamientos de 2025 y forma parte de la 'Oferta de la Semana' de PS Store

Se trata de la secuela desarrollada de Sucker Punch, cuyo precio se encuentra más bajo de lo habitual

Solo hasta el 26 de marzo, tenéis por 0,99 euros uno de los mejores RPGs de la historia en Steam

Aunque tiene muchos años a sus espaldas, sigue siendo muy popular y bien recordado por la comunidad

Pearl Abyss admite que usó IA en Crimson Desert "por accidente": así se coló en el desarrollo

La compañía reconoce que utilizó IA generativa en fases iniciales y admite que debió comunicarlo desde el principio

Descubren un truco en Crimson Desert con el que pueden usar los árboles como catapultas

Con esta técnica, pueden salir despedidos y llegar a sitios elevados con rapidez o planear durante unos segundos

Así se ve Crimson Desert en Xbox Series S: ¿merece la pena jugarlo en la consola menos potente de la generación?

Comparan la calidad gráfica y el rendimiento del juego entre Xbox Series X y Series S

Los jugadores de PS5 le tenían muchas ganas: Starfield se convierte en el juego más reservado en la PS Store de España

Los usuarios de PS5 no han perdido ni un minuto y ya colocan a Starfield como el lanzamiento más esperado de la tienda

Solo por ser suscriptor de PS Plus, este juego te cuesta 5€ en la PS Store

Muchos usuarios de PS Plus están suscritos al servicio por diferentes motivos, pero la mayoría de ellos es por los juegos gratis mensuales o por el acceso al multijugador online en todos los juegos que tengan este modo. Pero ya sabéis que el servicio tiene muchas más ventajas. Entre ellas, se encuentra que todos los […]

Este Call of Duty tiene 6 años, Steam ha reventado su precio y ahora tiene más jugadores que Black Ops 7

Modern Warfare de 2019 ha conseguido superar en jugadores a Black Ops 7, el Call of Duty actual

Así sería una película de Resident Evil: Requiem inspirada en las obras de terror de los 80

En medio del jaleo por la tecnología DLSS 5, un fan ha imaginado cómo sería una peli realista de Requiem

Naoki Yoshida lo admite: los jugadores jóvenes no conectan con Final Fantasy y eso preocupa a Square Enix

El director de Final Fantasy XIV reconoce que la franquicia tiene dificultades para atraer a nuevas generaciones

Escándalo mayúsculo: arrestan a un desarrollador de Roblox por posesión de contenido ilegal

El caso de Jamie Borne ha generado una fuerte reacción en la comunidad, mientras salen a la luz más detalles sobre su arresto

Un juego de Breaking Bad en VR: Firesprite lo tuvo en desarrollo junto a otro título, pero se cancelaron

También se perdió otro proyecto de terror espacial con aires de Dead Space para realidad virtual