°C -
|

La Jornada

Últimas noticias
Anuncio
Anuncio

Carta de científicos que piden una pausa en la IA desata debate

Imagen
La carta pública firmada por el magnate Elon Musk y centenares de expertos para que se haga una pausa en el desarrollo de la inteligencia artificial (IA) desató un debate en las redes entre los académicos. Foto Afp / Archivo
Foto autor
Afp
30 de marzo de 2023 12:28

París. La carta pública firmada por el magnate Elon Musk y centenares de expertos para que se haga una pausa en el desarrollo de la inteligencia artificial (IA) desató este jueves un debate en las redes entre los académicos.

Los avances vertiginosos de la IA llevaron a Musk, fundador del gigante de los autos eléctricos Tesla y actual patrón de Twitter, a firmar esa carta, frente a lo que se califica de "dramática perturbación económica y política (especialmente para la democracia) que causará la IA".

A pesar de que la carta, publicada en el sitio futureoflife.org, fue suscrita por pensadores independientes como el historiador Yuval Noah Hariri, o el cofundador de Apple, Steve Wozniak, algunos académicos protestan por lo que consideran una malinterpretación de la discusión.

Timnit Gebru, una investigadora especializada en ética de la inteligencia artificial, escribió un artículo académico que fue citado en la carta de Musk y sus correligionarios, y ahora se muestra descontenta.

"Básicamente dicen lo contrario de lo que decimos y citamos en nuestro artículo", explica.

La otra autora del artículo, Emily Bender, califica por su parte la carta abierta de "embrollo".

"En los últimos meses hemos visto cómo los laboratorios de IA se han lanzado a una carrera descontrolada para desarrollar y desplegar cerebros digitales cada vez más potentes que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera fiable", afirman Musk y los expertos.

El director de Open AI, que diseñó ChatGPT, Sam Altman, reconoció tener "un poco de miedo" de que su algoritmo se utilice para "desinformación a gran escala o ciberataques".

Las académicas Gebru y Bender afirman en cambio que el peligro de la IA es "la concentración de poder en manos de gente, la reproducción de sistemas de opresión, el daño al ecosistema informativo".

Uno de los firmantes de la carta abierta, Emad Mostaque, fundador de la empresa británica Stability AI, aseguró por su parte que se retractaba de la demanda de una moratoria de seis meses.

"No creo que una pausa de seis meses sea la mejor idea" dijo en Twitter.

Sin contradicciones

El profesor de sicología Gary Marcus, firmante de la carta, considera en cambio en una contrarréplica que "los escépticos tienen que emitir una alarma; no hay ninguna contradicción al respecto".

Aunque los gigantes del sector como Google, Meta y Microsoft ya llevan años investigando en los programas basados en IA para acelerar tareas como la traducción o la publicidad selectiva, son los algoritmos de empresas como OpenAI las que han provocado polémica.

Su robot conversacional ChatGPT, capaz de mantener conversaciones complejas con seres humanos, acaba de ser actualizado con una nueva versión, GPT-4, aún más potente.

"¿Debemos permitir a las máquinas inundar nuestros canales de información con propaganda y mentiras? ¿Debemos automatizar todos los trabajos, incluidos los gratificantes? (...) ¿Debemos arriesgarnos a perder el control de nuestra civilización? Estas decisiones no deben delegarse en líderes tecnológicos no electos", señalan los firmantes de la carta.

Presenta estudiante del IPN método con IA para tasa de falla de autobuses

Laura Díaz Torres llegó como becaria a la Gerencia de Productividad y Calidad de la Dirección Adjunta de Servicios Operativos de Grupo Cisa en 2023.

Descubren velo de gas ardiente alrededor del disco de la Vía Láctea

Han confirmado que el gas responsable de emitir y absorber las señales detectadas por los astrónomos no es el mismo, sino que el gas caliente que emite rayos X.
Anuncio