Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.
https://areajugones.sport.es/tecnologia/apple-intelligence-asi-funciona-la-ia-del-iphone-que-llegara-con-ios-18

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

El remake de Resident Evil 3 va a cambiar para siempre cumpliendo el deseo de muchos fans: atención a este ambicioso mod

Resident Evil 3 Last Escape busca cumplir el sueño de muchos jugadores del título original.

Crimson Desert ha escuchado a los jugadores y confirma que ya prepara cambios para su aspecto más criticado: los controles

Pearl Abyss ya trabaja en una actualización para Crimson Desert pensada, sobre todo, para mejorar los controles.

Las críticas más duras a Crimson Desert vienen de su lugar de origen: en Corea, sorprende la nota media del juego

Los jugadores en Corea están siendo especialmente duros con Crimson Desert, y eso que el juego viene de allí.

Por sólo 2,24€: PS Store derrumba el precio de uno de los mejores indies de PS4 y PS5, con supervivencia y terror

Si buscas algo diferente, esta oferta de PS Store es genial para descubrir este juegazo.

Mark Cerny afirma que la tecnología de IA para "generar frames" llegará a PlayStation, y algunos jugadores ya están preocupados

PlayStation tendrá una biblioteca nativa que permitirá la generación de frames en los juegos, según Mark Cerny.

Si no te interesa GTA VI, demuéstraselo al máximo responsable de Take-Two: tiene varios motivos para no creerte

El CEO de Take-Two Interactive se muestra muy optimista con GTA VI y con el interés de los jugadores de todo tipo.

Crimson Desert ya tenía suficiente, pero ahora desata una nueva polémica: parece que utiliza IA generativa (y hay varios ejemplos)

Varias imágenes de Crimson Desert parecen haber sido generadas por una herramienta de IA generativa.

El cambio que necesitas en Switch 2 para que tus juegos de Nintendo Switch luzcan mucho mejor en portátil

La diferencia de valoraciones entre plataformas está sorprendiendo a la comunidad y abre un intenso debate entre jugadores

Las ventas de Crimson Desert lo confirman: el juego es un exitazo a pesar de las duras críticas

Pearl Abyss revela el primer hito de ventas de Crimson Desert y los números no engañan: el juego es un éxito

Una nueva versión de Nintendo Switch 2 que sólo llegue a Europa es muy posible, y todo para poder cumplir con una normativa

¿Llegará una revisión de Nintendo Switch 2 única para Europa? Nuevas informaciones apuntan a ello.

El DLC de The Witcher 3 parece cada vez más real: el nuevo informe de CD Projekt RED dispara las sospechas

Un último dato revelado por el propio estudio apunta a que la rumoreada expansión de The Witcher 3 se convertiría pronto en realidad