Google crea su "constitución del Robot" para mantener la seguridad de la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Google crea su "constitución del Robot" para mantener la seguridad de la IA

El departamento de robótica de Google ha creado una constitución del robot con inspiración en la ciencia ficción

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

La Inteligencia Artificial ha tenido un gran impacto en el mundo. Esta tecnología está integrada en softwares, dispositivos y herramientas digitales. Desde su lanzamiento, la IA ha evolucionado a un ritmo tan acelerado que ha despertado la preocupación en los máximos representantes de la industria tecnológica. Hasta el momento, no se conocen realmente cuales son los límites de la Inteligencia Artificial, y la compañía de Mountain View quiere establecerlos. El departamento de robótica de Google, Deep Mind, ha anunciado su plan para crear una "constitución del robot" basada en las famosas "tres leyes de la robótica" del escritor de ciencia ficción Isaac Asimov.

El sistema AutoRT de Google DeepMind

Sistema AutoRT de DeepMind.
Sistema AutoRT de DeepMind.

Google DeepMind ha publicado una "Constitución del Robot" que forma parte del sistema AutoRT. Este sistema combina grandes modelos básicos, como el Modelo de Lenguaje Grande (LLM), Modelo de Lenguaje Visual (VLM) y Modelo de control de robot (RT-1 o RT-2). El AutoRT es un sistema que aprovecha el potencial de los modelos de cimientos grandes, lo cual es fundamental para crear robots que puedan comprender objetivos humanos prácticos. Al recopilar datos de entrenamiento experiencial, AutoRT puede ayudar a escalar el aprendizaje robótico para mejorar el entrenamiento de los robots para el mundo real.

“En este trabajo, no ajustamos el modelo de lenguaje, sino que utilizamos indicaciones para guiar la generación de tareas. A esto lo llamamos constitución del robot, ya que está compuesto de reglas que describen el comportamiento deseado del robot”, dicen desde el blog de DeepMind en Google.

La constitución del robot se divide en tres partes

  1. Un robot no puede hacer daño a un ser humano.
  2. Un robot puede proteger su existencia siempre que la dicha protección no entre en conflicto con la primera norma.
  3. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando estas entren en conflicto con la primera norma y segunda.
https://areajugones.sport.es/tecnologia/apple-intelligence-asi-funciona-la-ia-del-iphone-que-llegara-con-ios-18

Redactado por:

Redactor de cine y series y Técnico Superior en Realización de Proyectos Audiovisuales. Aficionado a los cómics, la fantasía y la ciencia ficción. Siempre con una película en la cabeza.

CONTENIDO RELACIONADO

Phil Spencer se retira de Xbox, Sarah Bond dimite y la nueva CEO promete "el regreso de Xbox"

La nueva CEO de Microsoft Gaming es Asha Sharma, que llega desde la división de IA de la compañía, mientras que Sarah Bond ha dimitido y Matt Booty asciende a director de contenido

PlayStation tomó medidas contra un proyecto fan de Bloodborne, aunque genera un montón de dudas por este motivo

La acción legal de PlayStation contra el proyecto fan ha generado inquietud en la comunidad

El futuro de God of War pasa por Egipto: una escena filtrada del código de Ragnarök desata la teoría más sólida hasta ahora

Un dataminer ha encontrado un detalle crucial oculto en el código de God of War: Ragnarök que apunta a Egipto para el futuro de la saga

Todo o nada para Ubisoft con su nuevo plan, confirmando dos nuevos Far Cry y varios Assassin's Creed en tres años

Yves Guillemot ha detallado cuál es el nuevo plan de Ubisoft de cara a los tres próximos años, tras un período complicado.

'No reemplazaremos el arte': Bethesda confirma que The Elder Scrolls VI no usará IA generativa y se posiciona en contra de ella

Todd Howard ha compartido la visión del estudio sobre el uso de la IA y sus posibles implicaciones para The Elder Scrolls VI

Ya conocemos los primeros 6 juegos que abandonarán PS Plus en marzo de 2026: últimas semanas para jugarlos

Estos seis juegos abandonarán PS Plus en marzo de 2026, y hay alguno que merece la pena.

De 30€ a 3€: PS Store derriba el precio de uno de los soulslikes más infravalorados de PS4 y PS5 (en su mejor versión)

Atención a esta oferta temporal de PS Store, que nos deja esta increíble oferta del 90% en PS4 y PS5.

Las polémicas declaraciones de Hermen Hulst, CEO de PlayStation, sobre el cierre de Bluepoint: ' Necesitamos evolucionar'

Están lloviendo críticas sobre los directivos de la compañía tras las noticia del cierre de Bluepoint: así es como Helmen Hurst, máximo responsable de PlayStation Studios, lo anunciaba dentro de la empresa

Pokémon Pokopia podría sorprender a todos con demo gratis: qué probabilidades hay de que ocurra

El nuevo juego de Pokémon en colaboración con Koei Tecmo podría sacarse un as oculto bajo la manga en forma de demo para Nintendo Switch 2

Pokémon Rojo Fuego y Verde Hoja dan la sorpresa y ya se pueden reservar en Nintendo Switch

Nintendo ha hecho oficial una filtración que ha surgido en las últimas horas en relación a Pokémon Rojo Fuego y Pokémon Verde Hoja

La demo de Denshattack! me ha volado la cabeza y todavía no entiendo cómo un juego de trenes puede ser tan adictivo

Este juego mezcla la estética de Jet Set Radio con mecánicas de Tony Hawk pero sobre raíles y el resultado es una de las propuestas más frescas y pulidas