Detectores de IA: ¿Pueden distinguir realmente texto humano de máquina?

Max Spero, exingeniero de software de Google, afirma que puede identificar textos generados por inteligencia artificial basándose en una 'sensación de vacío' antes de utilizar su propio software de detección. Su intuición, affinada por años de trabajo en aprendizaje automático, le permite percibir que, mientras un texto humano tiene intención en cada palabra, el generado por IA carece de esa densidad informativa.

Spero es cofundador de Pangram, un detector de IA lanzado en 2023 junto a Bradley Emi, exinvestigador de Tesla y graduado de Stanford. La herramienta ha ganado relevancia en el último año al ser utilizada en controversias públicas sobre el supuesto uso no revelado de inteligencia artificial en obras literarias, periodísticas y académicas.

Uno de los casos más sonados involucró al escritor trinitense Jamir Nazir, acusado de presentar un relato generado por IA al Commonwealth Short Story Prize. Nazir ha negado repetidamente el uso de IA en su obra The Serpent in the Grove, comparando a los detectores como Pangram con Eris, la diosa griega de la discordia, cuya manzana desencadenó la guerra de Troya.

Otro episodio destacado fue el escándalo de Shy Girl, donde la novela de Mia Ballard fue retirada de librerías tras acusaciones de uso de IA, pese a sus negaciones. Pangram fue la herramienta central en esas acusaciones, al igual que en revisiones de textos publicados por The New York Times, Financial Times y The Wall Street Journal.

Muchos usuarios de estos detectores aseguran no oponerse a la IA en sí, sino a su uso no transparente. Chris Best, director ejecutivo de Substack, sostiene que presentar contenido generado por IA como humano 'contamina los bienes comunes'. Substack trabaja con Pangram para analizar sus boletines.

Sin embargo, expertos y académicos advierten sobre las limitaciones de estas herramientas. Universidades como Oxford, Cambridge y Harvard no recomiendan el uso de detectores comerciales para evaluar trabajos estudiantiles, argumentando que los rasgos atribuidos a la IA también aparecen en escritura humana y que tanto los algoritmos como la intuición humana pueden equivocarse.

Los críticos temen las consecuencias de falsas acusaciones, especialmente en contextos laborales o académicos. Un trabajador del sector tecnológico señaló que la búsqueda de certeza absoluta se volvió imposible tras el lanzamiento de ChatGPT por OpenAI a finales de 2022.

Algunos escritores acusados se defienden argumentando que no hay nada malo en usar IA o denunciando una 'caza de brujas' alimentada por la paranoia. El debate recuerda conflictos históricos sobre autoría, desde las acusaciones de plagio en la poesía romana de Marcial hasta el uso tradicional de escritores fantasma.

La diferencia actual radica en el volumen y velocidad: la IA puede generar texto a una escala que hace razonable sospechar que una parte significativa del contenido en línea es artificial. Detectores como Pangram, GPTZero, Winston AI y Copyleaks analizan fragmentos y devuelven un porcentaje estimado de generación por IA. Aunque existen versiones gratuitas, las suscripciones premium pueden alcanzar los US$74.99 mensuales.

No obstante, el funcionamiento interno de estas herramientas suele ser opaco: no revelan todos sus métodos técnicos ni los datos de entrenamiento, lo que dificulta una evaluación independiente de su fiabilidad.