Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

Squid Craft Games 4: Resumen y muertes del quinto día - La gran final y premios

Último día del evento y último día de las muertes donde ya hemos podido conocer al gran ganador de esta edición

Hazte con el posible GOTY de 2025 por un precio de risa gracias a esta oferta por tiempo limitado

Ahora es el momento perfecto para hacerte con uno de los favoritos a GOTY 2025

Estos son los 32 finalistas de los Squid Craft Games 4 que pelean por 100.000 dólares

La gran final se juega este domingo 23 de noviembre a las 20:00 hora española

No es broma, Xbox 360 ha cumplido 20 años: una consola legendaria que me enamoró por completo

Dos décadas después, la consola que cambió la forma de jugar sigue viva en la memoria de millones de jugadores

Si tienes PS Plus tengo malas noticias: Este clasicazo de PS2 pronto dirá adiós del servicio

Última oportunidad para jugar gratis este clásico de PS2 antes de que desaparezca de PS Plus

Todos los finalistas y ganadores de los Squid Craft Games: Repaso completo de todas las ediciones

Repasamos los últimos participantes de cada edición del evento más visto de Minecraft en Twitch

Squid Craft Games 4: Resumen y muertes del cuarto día

El penúltimo día de los juego ha supuesto uno de los más intensos y locos de los últimos años, y sobre todo con muchas muertes

Cuidado: el precio de Xbox Series X/S podría volver a subir debido a un error de previsión por parte de Microsoft

Sony, en cambio, sí habría previsto este problema y PS5 no sufriría estos aumentos.

JCC Pokémon Pocket lanzaría su próximo set B1a el 17 de diciembre con 100-120 cartas nuevas

Según filtraciones, el mini-set llegaría a mediados de diciembre dejando noviembre sin contenido nuevo

Prince of Persia: Las Arenas del Tiempo Remake saldría en enero de 2026 según fuentes cercanas al desarrollo

Ubisoft lleva 5 años con este proyecto después de reiniciar el desarrollo desde cero

Un error de PS Plus permitía hacerse con este juegazo gratis para siempre: ahora PlayStation ha decidido poner solución

Tener un juegazo como Stardew Valley en nuestra biblioteca sin estar suscritos a PS Plus era demasiado bueno…

De 45 € a menos de 5 €: uno de los mejores juegos de Sherlock Holmes que se han hecho nunca, por tiempo limitado

Elemental, querido Watson: esta oferta es una de esas que no se puede rechazar (perdón por la mezcla).