Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.
https://areajugones.sport.es/tecnologia/apple-intelligence-asi-funciona-la-ia-del-iphone-que-llegara-con-ios-18

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

Nintendo estaría valorando un aumento de precio para Switch 2, casi un año después de su salida

Personas familiarizadas con los planes de Nintendo señalan que la subida ya se estaría evaluando internamente

Confirmado: Mewgenics tiene en desarrollo una versión para consolas y recibirá futuros DLCs

El propio creador del juego, conocido por otras obras como The Binding of Isaac, ha comentado cuál es el devenir de su nuevo roguelike

Cuándo es el Steam Next Fest de febrero: fecha y hora a la que empieza el nuevo festival de demos gratis

La tienda digital de Valve se prepara para lanzar pruebas gratuitas de miles de sus juegos más destacados

Ya es oficial: Pikachu Illustrator es la carta Pokémon más cara del mundo y su precio bate todo tipo de récords (otra vez)

Se trata de la carta Pokémon más codiciada del mundo a causa de su exclusividad y de que cuenta con un PSA 10 bastante polémico

Resident Evil Requiem ya tiene hora oficial en España: cuándo se desbloquea y desde qué momento puedes descargarlo

Ya hay hora oficial en España: así podrás tener Resident Evil Requiem descargado y listo para jugar desde el primer minuto

Divertido, ligero y por sólo 5€ en la PS Store, siendo el precio más bajo que ha tenido nunca

Cuando LEGO y los superhéroes (o en este caso, los villanos) se unieron, salió este divertido título

El otro juego misterioso de Sony Santa Monica saldría en 2027: los fans de God of War tendrán que esperar

Las filtraciones hablan de ese proyecto en el que Cory Barlog habría estado trabajando desde hace un tiempo

Ha tardado solo una semana en crear este nivel de Crash Bandicoot y está más detallado que muchos juegos actuales

Esto dice mucho de la optimización de la creación de juegos y de que probablemente el foco de los desarrolladores está en el sitio equivocado

Los modders logran lo imposible con GTA V, reducir su tamaño a solo 2,5 GB (pero han creado un monstruo)

Han tenido que eliminar texturas, audio, todas las misiones y mucho más, pero al menos 'funciona'