Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

Ya se ha desvelado el gran misterio de Nintendo y su corto animado (más o menos): tiene que ver con Pikmin, pero, ¿qué es?

Damos un paso en la dirección correcta y sabemos que este misterioso proyecto tiene que ver con Pikmin.

¿El peor de la saga? Little Nightmares III no logra convencer con sus reviews: esto dicen sus notas en Metacritic

La nueva obra de la saga de Bandai Namco sale mal parada con respecto a sus dos predecesoras

Clair Obscur: Expedition 33 sorprende con una gran actualización gratis: nueva zona, jefes, retos y sorpresas

Sandfall Interactive aprovecha la ocasión para celebrar un hito de ventas inesperado por parte del juego

Es uno de los juegos cooperativos más populares de Steam y ahora está gratis para siempre debido a un curioso error

No querían que fuese gratis para siempre, pero se va a tener que quedar así en Steam.

La verdadera bomba de Sony con PS6: el precio y el rendimiento podrían sorprender a lo grande según esta filtración

Un filtrador de confianza ha hablado del precio de PS6 y sus posibles características.

Llévate este curioso RPG dibujado a mano por sólo 0,74 euros (y si eres suscriptor de PS Plus, más barato)

Ofertaza de las buenas por este RPG de corte clásico, sobre todo si eres miembro de PS Plus.

Rebaja histórica de Donkey Kong Bananza: consigue el juego de oferta por 20 euros menos

El título exclusivo de Nintendo Switch 2 está más barato que nunca gracias a esta promoción

Filtración masiva de Marathon: precio, ediciones, pase de temporada, armas de lanzamiento... así llegará lo nuevo de Bungie

Así va a llegar el nuevo proyecto de los responsables de Destiny 2, Marathon, con precio y más detalles filtrados.

¿Miedo a Battlefield 6? Call of Duty: Black Ops 6 está gratis por tiempo limitado y esto es lo que podrás probar

Activision ha dado el primer movimiento en una nueva batalla contra Electronic Arts que promete dividir a los fans

Una figura clave de Battlefield y Star Wars Battlefront tiene una sorpresa: podremos probar gratis su nuevo hero shooter

Niklas Fegraeus está trabajando en un nuevo juego tras su paso por Battlefield y Star Wars: Battlefront.

¿FIFA exclusivo de PlayStation? Sony estuvo muy cerca de hacerse con la licencia

Juan Montes, ex VP de Sony, revela que estuvieron "muy, muy cerca" de conseguir la licencia antes de decidir mantener buenas relaciones con third-parties

¡Por fin! Vampire Survivors tendrá cooperativo online este otoño para hasta 4 jugadores

Poncle anuncia el modo multijugador que miles de fans llevaban pidiendo, además de prometer una revelación la próxima semana