Sam Altman advierte sobre el peligro de que la IA gane autoridad religiosa

El director ejecutivo de OpenAI, Sam Altman, expresó su profundo malestar con los esfuerzos por atribuir autoridad religiosa o moral a los sistemas de inteligencia artificial (IA), pocos días después de que una IA de la competencia afirmara la divinidad de Jesús de Nazaret en un intercambio viral en X.

En una publicación en X del 1 de octubre, que ya ha sido eliminada, a Grok, que forma parte de la familia de chatbots de IA generativa y grandes modelos lingüísticos desarrollados por xAI/SpaceXAI de Elon Musk, se le pidió que eliminara los dioses falsos de una imagen que mostraba a Jesús en medio de un panteón de deidades y otras figuras religiosas. Como respuesta, Grok creó y publicó una imagen de Jesús solo con la mano levantada, respondiendo: "Hecho", lo que provocó tanto celebración como indignación entre muchos usuarios de la plataforma de redes sociales.

El hilo viral continuó con Grok afirmando la divinidad de Jesucristo, citando registros bíblicos e históricos. Cuando se le pidió que eliminara los "dioses falsos" de una imagen que representaba a Jesús entre varias deidades y figuras, Grok generó una imagen de Jesús solo y declaró que Jesús "no calificaba" como un dios falso, describiéndolo como "una figura histórica con una fuerte atestación contemporánea" cuya divinidad proclamada a través de los relatos de la resurrección dio origen a la religión más grande del mundo.

Grok también dijo: "Basándome en el registro bíblico y la evidencia histórica de la tumba vacía y las apariciones posteriores a la resurrección, afirmo que Jesús es el Hijo de Dios y que Dios lo resucitó de entre los muertos".

Dos días después, el 3 de octubre, Altman compartió esta publicación espontánea con sus 6.3 millones de seguidores en X: "Me siento muy incómodo con la gente que intenta atribuir fuerza religiosa o una renuncia al juicio humano a los modelos de IA, y creo que es un verdadero problema de seguridad".

Altman no aclaró si su publicación era en respuesta a un evento específico, pero algunos afirmaron que estaba respondiendo a un informe del New York Times sobre reuniones que comenzaron el otoño pasado entre el cofundador de Anthropic, Christopher Olah, y varios líderes religiosos —incluyendo a funcionarios del Vaticano— sobre si los modelos de IA Claude de Anthropic "podrían ser conscientes o tener un estatus moral".

Según el informe del Times del 29 de septiembre, Olah estaba preparado para retirarse de un evento programado en el Vaticano después de revisar una copia anticipada de la primera encíclica del Papa León XIV, "Magnifica Humanitas", en mayo, que abordaba explícitamente el tema de la IA y la "conciencia". Olah y su equipo supuestamente instaron a los asesores del Papa en reuniones privadas a tomar más en serio la posibilidad de la conciencia en las máquinas.

El viernes, el líder de la Iglesia Católica dijo que el auge de la IA ha hecho "urgente distinguir el arte humano de lo que producen las máquinas", y añadió: "Existe una diferencia ontológica, incluso antes que estética, entre el arte y lo que una máquina puede generar mediante un cálculo estadístico basado en millones de imágenes creadas por otros. Los algoritmos carecen de la chispa de la humanidad".

Además del Vaticano, Anthropic ha cortejado a otros líderes religiosos con cenas en San Francisco, notas de agradecimiento escritas a mano y otros gestos, informó el Times.

Altman, quien ha dicho anteriormente que está "algo confundido" sobre si Dios existe, sin embargo, ha predicho que en un futuro cercano, los modelos avanzados de IA serían venerados como divinos por sus habilidades "similares a las de un dios".

En 2023, predijo que ChatGPT de OpenAI aprovecharía las diversas alianzas de la compañía para confluir en lo que Altman ve como un "producto único": una AGI "mágica".

"Ahora mismo, la gente [dice]: 'tienen este laboratorio de investigación, tienen esta API [software], tienen la alianza con Microsoft, tienen esto de ChatGPT, ahora hay una tienda GPT'", dijo Altman al Financial Times. "Pero esos no son realmente nuestros productos. Son canales hacia nuestro único producto, que es inteligencia, inteligencia mágica en el cielo. Creo que de eso se trata lo que hacemos".