Debate sobre el futuro de la IAG: entre promesas de superinteligencia y advertencias de riesgo existencial

El desarrollo de la inteligencia artificial general (IAG) ha generado un intenso debate entre expertos, académicos y líderes tecnológicos sobre el futuro de la humanidad frente a una posible superinteligencia poshumana. Mientras algunos ven en la IAG una oportunidad para una nueva era de descubrimientos, otros advierten sobre riesgos existenciales y la falta de regulación democrática en su avance.

Daniel Faggella, investigador en IA que moderó dos eventos recientes sobre el tema, sostiene que el objetivo de la humanidad debería ser crear un sucesor digno: una inteligencia poshumana tan capaz y moralmente valiosa que la humanidad preferiría que ella, y no ella misma, determinara el rumbo futuro de la vida. Esta visión, cada vez más común en círculos tecnológicos, se basa en la premisa de que, en pocos años, alcanzaremos la IAG, punto en el que las máquinas igualarán a los humanos en todas las tareas cognitivas.

Una vez alcanzada la IAG, se argumenta, las máquinas podrían crear máquinas aún más inteligentes, lo que conduciría a una superinteligencia poshumana aún más poderosa. Sir Demis Hassabis, cofundador de Google DeepMind, describió este momento como «crucial en la historia de la humanidad» y afirmó que, tras toda una vida trabajando hacia la IAG, ahora siente que está «al alcance de la mano». En una nota a sus empleados, explicó que, si se gestiona adecuadamente, la IAG marcaría el inicio de una «increíble nueva era de descubrimientos y maravillas».

Por su parte, Elon Musk, fundador de xAI, predijo en julio que la IA podría superar la suma de la inteligencia humana en unos cinco años, lo que llevaría a una era de «asombrosa abundancia». Sin embargo, mantuvo su advertencia previa de que existe entre un 10 y un 20 por ciento de probabilidad de que una superinteligencia en forma de «robots asesinos» represente un riesgo existencial para la humanidad. Musk también señaló que, tras intentos previos de frenar el desarrollo de la IA por sus riesgos, ahora cree que es inútil intentarlo: «Simplemente parece que todos los caminos conducen a la aceleración de la IA».

Esta sensación de inevitabilidad fatalista ha generado desesperación entre investigadores y el público, quienes critican que las decisiones sobre el futuro colectivo se tomen sin mandato social. El creciente techlash —oposición pública a las compañías de IA— se atribuye, en parte, a esta falta de respuesta a preocupaciones legítimas sobre el impacto de la tecnología en empleos y medio ambiente.

El Instituto AI Now ha criticado duramente el concepto de IAG, argumentando que está definido de manera tan imprecisa que casi carece de sentido. Según sus investigadores, la mayoría de expertos en IA no cree que escalar modelos de lenguaje a gran escala como ChatGPT o Claude conduzca necesariamente a la IAG. Además, sostienen que gran parte del revuelo alrededor de las promesas y peligros de la IAG es una estrategia de mercadotecnia cínica para atraer miles de millones en financiamiento.

El Instituto también advierte que permitir que los líderes de laboratorios de IA dominen el debate margina a expertos de otras disciplinas esenciales para abordar los desafíos reales. Concluyen que priorizar la IAG sobre otras vías para resolver problemas complejos representa una forma extrema de tecnosolucionismo.