Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Publicado:
Actualizado:
0

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

Persona 6 se encontraría ya completado y en la fase de pulido, según insider

El anuncio podría llevarse a cabo en la misma presentación de Nintendo Switch 2, que tendrá lugar en los próximos meses

Publicado: 24 NOV 2024 0

¿Cuáles son los mejores juegos de la saga Silent Hill? Los ordenamos de peor a mejor

Repasamos toda la franquicia de *Silent Hill*, una de las sagas más icónicas que marcó el rumbo del género del terror en sus inicios

Publicado: 24 NOV 2024 1

Black Ops 6 revela un teaser del nuevo mapa de Zombies que recuerda bastante a Resident Evil 4

El mapa está programado para salir el próximo 5 de diciembre de 2024

Publicado: 24 NOV 2024 0

¿Cuándo se anuncian los juegos de PS Plus de diciembre 2024? Esta es la fecha oficial

Dentro de muy pocos días se anunciarán los nuevos juegos mensuales del servicio de PlayStation

Publicado: 24 NOV 2024 0

Path of Exile 2 presume de cinemática inicial y nuevo gameplay antes de su próximo lanzamiento

El Conde de Ogham desata la corrupción sobre Wraeclast en esta nueva aventura que llegará el 6 de diciembre

Publicado: 23 NOV 2024 0

Star Wars Outlaws eliminará las secciones de sigilo obligatorias tras las críticas de los jugadores

Ubisoft anuncia cambios significativos en el sistema de infiltración de su nuevo título, priorizando la libertad del jugador

Publicado: 23 NOV 2024 0