¿Cómo los humanizadores de IA degradan los detectores automáticos?

En el Laboratorio SQ – Lingüistas Forenses seguimos avanzando en una de las líneas de investigación del proyecto CorpIdentIA (Corpus Identity & Authorship Intelligence Analysis): comprender cómo evolucionan los textos generados por inteligencia artificial cuando son modificados para intentar eludir su detección.
​
Acabamos de publicar el artículo "AI detector degradation through adversarial reformulation: a forensic linguistic analysis of humanized AI-generated text" en Biblioteca de Babel: Revista de Filología Hispánica.

El trabajo está firmado por Sheila Queralt, directora del proyecto CorpIdentIA; Laura C. Úbeda Cuspinera, coordinadora del proyecto; y Jana Solà Rodríguez, exalumna en prácticas del Laboratorio SQ – Lingüistas Forenses. Tras finalizar sus prácticas, Jana desarrolló con nuestro equipo y el profesor de la Universitat de Barcelona, Marc Bayés, su Trabajo Fin de Máster sobre las transformaciones lingüísticas introducidas por los humanizadores de IA, y los resultados de aquella investigación constituyen una parte esencial del artículo que ahora ve la luz. Para nosotros es especialmente satisfactorio comprobar cómo una colaboración iniciada durante unas prácticas académicas puede convertirse en una publicación científica.

En este estudio analizamos cómo tres herramientas de humanización de textos modifican escritos generados por ChatGPT, Gemini y Grok, y de qué manera esas modificaciones afectan al rendimiento de tres de los detectores de IA más utilizados en la actualidad: GPTZero, Copyleaks y Originality.ai. Sin embargo, el objetivo no era únicamente comprobar si los detectores acertaban o fallaban, sino entender qué cambios lingüísticos introducen estos sistemas para conseguir reducir su capacidad de detección.

Desde una perspectiva de lingüística forense, el trabajo identifica y clasifica las estrategias de reformulación empleadas por estos humanizadores, desde sustituciones léxicas y paráfrasis hasta alteraciones normativas o modificaciones sintácticas. Además, se describen varios mecanismos de reescritura adversarial que apenas habían sido documentados hasta ahora en la bibliografía especializada, lo que aporta nuevas evidencias sobre cómo estos sistemas modifican la huella lingüística de los textos generados por inteligencia artificial.

Estos resultados tienen implicaciones que van mucho más allá de la evaluación de detectores. Comprender cómo funcionan estas transformaciones resulta fundamental para el desarrollo de herramientas de detección más robustas, para la investigación en lingüística forense y para todos aquellos ámbitos en los que la identificación del origen de un texto tiene relevancia, como la educación, la investigación o los procedimientos periciales.
El artículo está disponible en acceso abierto, por lo que cualquier persona interesada puede consultarlo y descargarlo gratuitamente desde la página de la revista.

📖 Puedes leer el artículo completo aquí:
https://revistas.uam.es/index.php/bibliotecababel/article/view/23906

Queremos agradecer especialmente a Originality.ai y ZeroGPT el apoyo técnico prestado al proyecto CorpIdentIA, facilitando el acceso a sus herramientas de detección durante la investigación. Como se indica en el propio artículo, ambas compañías no participaron en el diseño del estudio, el análisis de los datos, la interpretación de los resultados ni en la redacción del manuscrito, preservándose en todo momento la independencia científica de la investigación.

Como siempre, esperamos que esta investigación contribuya a mejorar el conocimiento sobre la detección de textos generados por inteligencia artificial y sobre el papel que la lingüística forense puede desempeñar en este campo en constante evolución.