Uno de los responsables de ChatGPT alerta sobre las peligrosas consecuencias que podría traer la IA
Últimas fichas
Últimas noticias
Últimas guías

Últimos análisis

Uno de los responsables de ChatGPT alerta sobre las peligrosas consecuencias que podría traer la IA

Pub:
Act:
0

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Compartir y resumir con IA:

ChatGPT Perplexity Claude WhatsApp X Grok Google AI

Desde luego, las IA han ganado muchísimo terreno a lo largo de este año y la cosa parece estar más que lejos de terminar, la verdad. Sin duda alguna, la expectación que levanta este fenómeno es más que comparable al terror que genera su desenfrenado avance, uno que seguramente se acabará llevando por delante algunas profesiones, como ya han adelantado algunas personalidades del sector tecnológico.

Si no me creéis, solo tenéis que ver cómo sigue desarrollándose ChatGPT, la herramienta que ha llegado para quedarse y que cada día usan más usuarios. De hecho, vengo a hablaros en este post sobre uno de los responsables de la creación de OpenAI, ya que este no ha dudado en compartir uno de sus grandes temores por el crecimiento de las IA.

"Tenemos una probabilidad de alrededor del 50% de un desastre"

ia humanos
  • El protagonista de la noticia es Paul Christiano, que es el director del "Alignment Research Center", un centro de investigación en el que se tratan de "alinear" los intereses de las futuras IA con el de la humanidad para que no existan problemas entre una y otra.
  • Paul, anteriormente había trabajado en OpenAI tratando de alinear la IA de ChatGPT, y ahora ha compartido una carta abierta en la que contesta a un detractor de las IA, mostrándonos que cuenta con algunos puntos en los que ambos concuerdan y otros en los que no.
  • El detractor en cuestión era Eliezer Yudkowsky, quien es tan acérrimo enemigo de las IA que considera que la gente que está en contra de las mismas se está quedando un poco corta.
  • Entrando en materia, Christiano criticó el artículo del que es su colega, diciendo que varios de sus puntos no son reales, aunque el propio Paul tampoco es muy optimista sobre las IA.
  • "Tenemos una probabilidad de alrededor del 50% de un desastre poco después de que creemos sistemas de IA a nivel humano", afirmaba el que es uno de los responsables de ChatGPT.
  • Es decir, con esto quiere decir que cree que hay cierta posibilidad de que una IA tome conciencia propia y pueda comportarse como un humano, incluso de forma más inteligente.
  • Por supuesto, esto podría ser más que un gran problema, ya que podría ocasionar conflictos entre IA y humanos, llegando al punto de que esta intentara acabar con nosotros.
  • También ha mencionado que cree que esos problemas podemos hacerlos frente fácilmente, pero ha querido compartir lo siguiente también: "Existe una probabilidad razonable de que todos muramos. Creo que esta es la razón más segura por la que yo moriré personalmente".

Desde luego, la posible situación mencionada suena más que surrealista y nos recuerda demasiado al argumento de Terminator, ya que Skynet era una IA que tomaba conciencia propia y acababa llevándole la guerra a la humanidad. Ahora bien, no es demasiado descabellado pensar que de aquí a mucho tiempo podamos ver una IA tan sumamente avanzada.

Por otro lado, varios de los desarrolladores de IA opinan que ese problema difícilmente lo veremos. Eso sí, tened en cuenta que el jefe de OpenAI viaja con un botón rojo del pánico cerca por si a ChatGPT-4 le da por salirse de los estándares esperados para la herramienta.

Redactado por:

Crecí jugando y dibujando, así que acabé como ilustrador, sin mucho éxito, y con un gran interés y pasión por los videojuegos. Eso sí, lo que no esperaba era acabar escribiendo sobre este mundillo, pero aquí estoy. Así que, puedes encontrarme hablando de un poco de todo lo que rodea a esta industria.

CONTENIDO RELACIONADO

Mi apuesta por Final Fantasy VII Remake parte 3 es que se llamará Rebuild y este sería su contenido

El director ya tiene decidido el título pero no lo revela: especulamos sobre el nombre y las zonas que incluirá

Los creadores originales de Diablo revelan Darkhaven, su nuevo ARPG de fantasía oscura

Moon Beast Productions presenta un ARPG isométrico con mundo destructible, combate basado en habilidad y construcción

Pearl Abyss muestra 15 minutos de Crimson Desert: historia, mundo abierto y jugabilidad al completo

El nuevo vídeo revela detalles sobre Kliff, las cinco regiones de Pywel y el combate contra amenazas del Abismo

Final Fantasy VII tendrá nueva versión en Steam y los propietarios actuales la recibirán gratis

La versión de 2013 se renombrará y los propietarios actuales recibirán acceso gratuito a la nueva versión mejorada

Assassin’s Creed Invictus huele muy mal: los propios desarrolladores califican el juego de "horrible"

Una filtración interna destapa el profundo rechazo del equipo de desarrollo hacia este nuevo Assassin’s Creed

Si te gustan los juegos de acción, PS Store ha rebajado un 75% uno de los más infravalorados de todos

Muy pocos lo han jugado, pero es uno de los títulos más atractivos que he catado en los últimos años

Crisol: Theater of Idols aclara su ambición: sus creadores explican si es AAA, AA o indie

El equipo detrás de la obra despejan las dudas sobre si su proyecto es AAA, AA o indie

Ya puedes jugar gratis a Nioh 3, y deberías hacerlo por una razón muy sencilla

Puedes probar ya su demo, pero el motivo no es lo divertida que pueda ser

La censura de Dispatch en Nintendo Switch 2: qué ha pasado y por qué

No ha sido una orden directa de Nintendo, pero sus normas han llevado al estudio a cambiar contenido para evitar problemas en la eShop

Hasta ocho juegos en un solo día: así de loco es febrero para los videojuegos (y con muchas joyas)

En total, 33 juegos salen durante el mes de febrero para todas las consolas actuales

Febrero, el mes de GTA VI: Rockstar anunciaría pronto información, pero podría ser otro retraso

Un nuevo rumor habla de que Rockstar va a soltar otra bomba durante el próximo mes de febrero