Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

Esta mecánica de The Last of Us 2 debió estar de lanzamiento y ahora sabemos que fue descartada

El concepto estaba listo, pero quedó fuera en el último momento y este usuario nos ha mostrado el resultado

Los fans están convencidos: Resident Evil Requiem escondería un TERCER personaje no anunciado

Dos teorías de la comunidad apuntan a que un tercer personaje estaría disponible en el juego

De 60€ a 15€: PS Store revienta el precio de uno de los mejores RPG de la historia en PS4 y PS5, con un 93 en Metacritic

A la altura de Baldur's Gate 3 y con actualización reciente para PS5: oferta imperdible en PS Store.

Este juego de 2008 cerró sus servidores hace 4 años, pero Xbox 360 los ha vuelto a reactivar por sorpresa

Después de casi un lustro, se reactivan los servidores de un título que estaba prácticamente muerto

Hideo Kojima quiere hacer 'un juego que se juegue en ingravidez' y que entrene a la propia IA

Opina que en la industria actual se desarrollan muchísimos títulos pero casi ninguno introduce innovaciones

PS Plus enero 2026: Estos son los tres juegos más rumoreados y hablados en internet

En redes sociales y foros, la comunidad ya está comentando qué títulos podrían ser los siguientes

"Todo será creado por humanos": Desarrollador de Expedition 33 rompe su silencio tras la polémica con la IA

El estudio intenta calmar a la comunidad tras el debate y deja clara su postura de cara al futuro

Este juego cooperativo de PS Plus es ideal para jugar con amigos estas Navidades, pero muchos lo han pasado por alto

Si estás suscrito al nivel essential del servicio, hay un título que nos permite jugar al mismo tiempo con varios amigos y es mejor de lo que parece

Si tu ansia por GTA VI es grande, este juego podría merecer la pena para amenizar la espera

Este juego lleva varios años actualizándose y con nuevo contenido, aunque su lanzamiento está programado para finales de 2026

Fue aclamado por la crítica y ahora está muy barato en PS Store: este mundo abierto notable baja de 80€ a 8€

Los descuentos de enero de PS Store nos dejan con muchas rebajas, pero este mundo abierto con un 82 en Metacritic está realmente barato