Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

Como Among Us pero con mucho terror: por qué Midnight Murder Club puede ser el juego del verano

Si quieres diversión con amigos, este juego al puro estilo Among Us puede ser lo que necesites.

Esta curiosa reacción del veterano Shawn Layden al cambio de rumbo de PlayStation deja clara su opinión

El que fuera presidente de Sony Woldwide Studios ha respondido a las palabras del vicepresidente de la empresa.

Se cierra un ciclo muy importante para la saga Diablo tras la marcha de su máximo responsable: ¿qué implica?

Rod Fergusson ha anunciado su salida de Blizzard tras estas al frente en los últimos años.

Mirar la lista de los juegos más esperados en Japón da varias sorpresas, incluido el primer puesto

La revista Famitsu ha mostrado la lista de los juegos más esperados en Japón y es sorprendente.

Lo probé por casualidad en PS Plus y ahora no puedo dejar de jugar. No me hago responsable si te pasa igual

Había escuchado algo sobre él y al verlo en PS Plus me encontré con una enorme sorpresa.

Es uno de los RPG mejor escritos de los últimos años y tienes su versión definitiva por 12 euros ahora mismo

La mejor forma de jugar a este fantástico juego de rol con una oferta por tiempo limitado.

Esta PS1 es la más exclusiva del mundo, de oro, solo existe una y puede tener un precio incalculable

Más que una consola, una reliquia: la PS1 dorada representa el origen de una era

Tras la demanda por copiar a Horizon, este juego cambia radicalmente pero sigue reflejando un grave problema

Tras la denuncia de Sony, Tencent trata de evitar las comparaciones con Horizon... más o menos.

Llega un nuevo juego exclusivo a Nintendo Switch 2 y trae una demo gratis para este mismo fin de semana

Unos días antes de su lanzamiento oficial, toca jugar a esto demo gratuita en Nintendo Switch 2.

Battlefield 6 ya cuenta con un problema que en Call of Duty es frecuente: DICE debe solucionarlo pronto

Aún sin lanzarse oficialmente, Battlefield 6 ya sufre los mismos males que su competencia

¿Cómo será la carta de Lamine Yamal en EA Sports FC 26? Esta es la predicción más viral

Basándonos en su temporada y rendimiento general, la comunidad predice cómo sería su carta en el nuevo EA FC 26