Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

Si tienes una PS3: uno de sus servicios más utilizados se eliminará para siempre en 2026

El 2 de marzo, la legendaria consola se despedirá de una de sus aplicaciones más usadas

PS Plus febrero 2026: ya disponibles para descargar y jugar gratis los nuevos juegos mensuales

Los cuatro nuevos juegos mensuales ya están disponibles para todos los suscriptores del servicio estrella de PlayStation

Ya tenemos nueva consola más vendida de la historia de Nintendo, con 1.500 millones de juegos y otras cifras mareantes

Con las ventas de los últimos meses de 2025, Nintendo Switch consigue superar a Nintendo DS.

GAME cierra sus últimas tiendas en Reino Unido y se reabre el temor por el formato físico: ¿qué ocurrirá en España?

Una de las cadenas de tiendas más conocidas, GAME, cierra sus tiendas independientes en Reino Unido.

El tráiler live-action de Resident Evil Requiem muestra una tragedia madre-hija brutal

Capcom lanza un corto protagonizado por Maika Monroe que mezcla terror y drama familiar en el brote de Raccoon City

El informe trimestral de Take-Two del 3 de febrero podría traer malas noticias sobre GTA VI

Los aficionados temen un tercer retraso del juego más esperado tras meses de silencio absoluto por parte de Rockstar

¿Qué tal ha salido Dragon Quest VII Reimagined? Esta ha sido su nota media en Metacritic

Sus primeros análisis ya están publicados y estas son las notas recibidas, por el momento

¡Olvídate de Rule of Rose! Bloober Team tiene más que clara su decisión con respecto a la franquicia

El título de terror es uno de los más codiciados del momento 20 años después de su lanzamiento

¿Nioh 3 en otras consolas? Un tráiler insinúa un lanzamiento en Xbox Series y Switch 2 en unos meses

El esperado Nioh 3 podría abandonar su exclusividad y llegar a nuevas consolas este verano

Apex Legends se irá para siempre en una de sus versiones más comprometidas

El juego tenía un rendimiento muy bajo y casi nadie jugaba al battle royale

Este nuevo survival horror estilo Resident Evil te da solo 15 minutos de vida y te obliga a morir una y otra vez para avanzar

El nuevo survival horror apuesta por bucles temporales, cámara tipo Resident Evil y una cuenta atrás constante de 15 minutos