EL PAÍS recoge los resultados de nuestra investigación sobre detectores y “humanizadores” de inteligencia artificial

El diario EL PAÍS ha publicado el reportaje «La IA diluye nuestra identidad cuando escribimos con su ayuda: “Nadie quiere parecer inculto”», firmado por la periodista Ana Lozano del Campo, en el que la Dra. Sheila Queralt, directora del Laboratorio SQ–Lingüistas Forenses, analiza las implicaciones que puede tener la escritura asistida por inteligencia artificial para la lingüística forense y el análisis de autoría.

​El reportaje parte de una investigación publicada en Nature Human Behaviour sobre los cambios que pueden producir los grandes modelos de lenguaje cuando intervienen en la reescritura de textos. Una de las cuestiones especialmente relevantes desde una perspectiva forense es que el contenido puede mantenerse mientras se atenúan o transforman algunas de las señales lingüísticas que caracterizan la producción de quien escribe.

Como explica Queralt en EL PAÍS, en un análisis de autoría no interesa únicamente qué dice una persona, sino cómo lo formula y qué patrones de variación aparecen en sus textos. Por ello, la intervención de herramientas de IA plantea nuevos problemas metodológicos para una disciplina que trabaja precisamente con la variación lingüística.

De CorpIdentIA a Babel: cuando “humanizar” no significa escribir como un humano
El reportaje dedica una parte específica a los resultados obtenidos en el marco del proyecto CorpIdentIA y publicados recientemente en la revista científica Babel.

Nuestra investigación estudia un problema diferente pero directamente relacionado: qué ocurre cuando un texto generado mediante inteligencia artificial pasa posteriormente por herramientas diseñadas para “humanizarlo” y evitar su identificación por los detectores de IA.

Los resultados muestran por qué este fenómeno no puede reducirse a una simple oposición entre texto humano y texto generado por IA. Los denominados humanizadores pueden dificultar la detección automática, pero eso no implica que el resultado se aproxime lingüísticamente a la escritura humana.

En EL PAÍS se recoge uno de los ejemplos analizados en nuestra investigación. Un texto que originalmente contenía:
«No me apetece perder tiempo ni energía en trámites»
se transformó, después de pasar por uno de estos sistemas, en:
«Me disipan perder el tiempo y la energía en לענו/rrijgs».

Este tipo de resultado permite observar una cuestión fundamental: introducir errores, anomalías o secuencias anómalas puede romper determinados patrones que utilizan los sistemas automáticos de detección, pero la variabilidad humana no equivale a introducir ruido aleatorio en un texto.

De ahí una de las principales paradojas que señalamos en nuestra investigación: un texto puede resultar menos detectable como generado por IA y, al mismo tiempo, ser lingüísticamente menos natural.

Un nuevo reto para la lingüística forenseLa generalización de textos híbridos, en los que intervienen en distinta medida una persona y uno o varios sistemas de inteligencia artificial, obliga a reconsiderar algunos de los supuestos con los que se aborda actualmente la detección de IA.

Una persona puede redactar un texto y utilizar después un modelo para corregirlo o reformularlo; puede partir de un texto generado mediante IA y modificarlo manualmente; o puede someter una producción artificial a herramientas específicamente diseñadas para alterar las señales que utilizan los detectores.

Por este motivo, desde el Laboratorio SQ–Lingüistas Forenses seguimos estudiando no solo el rendimiento de los sistemas automáticos de detección, sino también qué transformaciones lingüísticas producen estas herramientas y hasta qué punto esas transformaciones pueden confundirse, o no, con la variación propia de la escritura humana. La presencia de estos resultados en EL PAÍS contribuye a trasladar al debate público una cuestión que consideramos esencial: ante textos mediados por inteligencia artificial, detectar y analizar lingüísticamente no son necesariamente la misma tarea.