Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.
https://areajugones.sport.es/tecnologia/apple-intelligence-asi-funciona-la-ia-del-iphone-que-llegara-con-ios-18

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

Nacon entra en crisis: la editora de Hell is Us y Robocop Rogue City se declara insolvente y acude a los tribunales

La editora confirma su delicada situación financiera y recurre a los tribunales para reorganizar su estructura y evitar consecuencias mayores

Sucede lo inesperado con el regreso del Final Fantasy VII original a Steam, repleto de malas reseñas. Pero tiene solución

Square Enix ha relanzado la versión original de Final Fantas VII en Steam... pero no con el resultado esperado.

El regreso inesperado del estudio de Los Simpson: Hit & Run reabre la puerta al remake más deseado de la era PS2

Después de 12 años de silencio, la compañía detrás del icónico sandbox de Los Simpson vuelve al mapa y el debate sobre su regreso a consolas actuales se enciende

Estos RPG de PS2 quedaron eclipsados por Final Fantasy y hoy merecen un remake más que muchos juegos

La PlayStation 2 fue la edad dorada de los RPG japoneses y entre tanta obra maestra hubo joyas que se quedaron sin el reconocimiento que merecían

Cómo probar gratis la primera beta de Horizon Hunters Gathering, el próximo multijugador de PS5

El universo de Horizon pronto dará el salto al multijugador con este juego como servicio

Blizzard anuncia su nuevo juego: Overwatch Rush te ilusionará y decepcionará a partes iguales

La compañía ha tomado la decisión de expandir la saga de Overwatch con un spin-off que está generando mucha división de opiniones

Aunque sea de pago, Marathon se tomará muy en serio lo de banear gente: no podrán jugar de por vida

Los tramposos siempre son castigados en los juegos, pero Bungie será especialmente tajante

Fallout 4: Annyversary Edition ya disponible en Nintendo Switch 2: ¿qué contenidos trae esta versión?

Bethesda y Nintendo vuelven a colaborar para llevar uno de los mejores RPGs de la década a su nueva generación de consolas

Película de Kingdom Come Deliverance: el director se sale del estudio para hacer un live-action

Se encargó también de parte del guion de los dos populares juegos medievales