¿Puede detectarse un texto escrito por IA? Estrategias de detección y maniobras de camuflaje

Hoy cualquiera puede sacar un libro. Muchos influencers y personajes mediáticos publican obras que no han escrito, algo que ya ocurría antes pero que exigía el trabajo de personas en la sombra. Ahora la inteligencia artificial ha facilitado enormemente esa tarea, y la sospecha ha llegado también a los escritores profesionales.

El caso más visible es el de Thélyson Orélien. Su novela superventas fue retirada de un certamen literario porque se sospechaba que estaba escrita con IA. La conclusión salió de Pangram, una aplicación considerada el «estándar de referencia» entre los detectores de este tipo de textos, que dio positivo. El episodio ha dejado un reguero de declaraciones entre los implicados. La necesidad de detectar el uso de la IA, o de evitar que se detecte, se extiende además a escuelas y universidades.

Para saber si es posible detectarla, el análisis firmado por Javier Arroyo Gallardo, profesor titular de Ciencias de la Computación en la Universidad de Alcalá, empieza por entender cómo escribe una IA. Lo hace palabra por palabra, aunque en rigor por tokens, que pueden ser una palabra entera, un fragmento, un signo de puntuación, un número o un espacio. El algoritmo es sencillo: lee lo ya escrito, calcula una lista de posibles continuaciones con sus probabilidades, hace un sorteo, añade la ganadora y vuelve a empezar. Esas probabilidades se relacionan con la frecuencia de cada palabra en los textos de entrenamiento, de modo que las más comunes tienen más opciones de salir. Además, la IA está optimizada para conversar y resolver dudas de forma clara y didáctica, así que, si no se le pide otra cosa, su tono es neutro y expositivo.

De ahí nacen las huellas. La IA prioriza términos comunes frente a otros más rebuscados, abusa de palabras de relleno como «realmente» o «simplemente» y de palabras enfáticas como «notable» o «fundamental». Recurre a fórmulas como «por lo tanto», «en resumen», «con el objetivo de» o «no solo… sino también», y tiende a cerrar los argumentos con una frase a modo de resumen. Esa menor variabilidad se puede medir mediante estilometría, que compara los rasgos estilísticos de un texto con los de los generados por máquinas.

Otra estrategia es la perplejidad, que mide cuán sorprendente resulta una secuencia para una IA generadora de lenguaje. Un detector con probabilidades similares recorre el texto y valora esa sorpresa. Funciona mejor en textos largos, porque el texto previo reduce la incertidumbre. En los textos de IA la perplejidad tiende a ser uniforme; en los humanos varía mucho más, porque somos más impredecibles. Una tercera vía es pedir a una IA que revise si otra ha escrito el texto. Los modelos comerciales generalistas, como ChatGPT, dan malos resultados, pero los modelos entrenados específicamente para detectar son hoy la mejor estrategia. Pangram aprende a distinguir textos humanos de sus réplicas generadas por IA y se reentrena poniendo el foco en los falsos positivos.

El camuflaje, como la detección, trabaja sobre indicios, e intenta borrarlos. Lo más simple es pedir a la IA que escriba de otro modo: con un rol, por ejemplo «escribe como un estudiante de secundaria», evitando una lista negra de palabras o alternando frases de distinta longitud. También se puede editar el resultado: insertar texto propio, cambiar palabras que uno no usaría o reescribir fragmentos. Quien sea más perezoso puede pedir a la IA que parafrasee, y estudios recientes muestran que tras sucesivos parafraseos la eficacia de los detectores baja sensiblemente. Otra variante creativa consiste en traducir el texto a otro idioma con un traductor automático y devolverlo a la lengua original.

Queda el ojo humano, que según un estudio es nefasto y excelente a la vez, según la familiaridad con la escritura de la IA. Quienes no la tienen fallan mucho y confían demasiado en su veredicto; los expertos son muy difíciles de engañar. Si se suman los veredictos de varios expertos, el resultado es excelente, solo igualado por Pangram. Aun así, ningún sistema es infalible y siempre quedará un margen de duda. Mientras el texto humano conserve su valor, advierte el autor, la persecución entre gato y ratón continuará y ambos bandos afinarán sus tácticas.