¿Puede una IA esconderse en un texto? Detección y camuflaje del escrito artificial

La novela superventas de Thélyson Orélien fue retirada de un certamen literario porque se sospechaba que la había escrito una inteligencia artificial. La prueba que pesó fue el resultado de Pangram, una aplicación considerada el estándar de referencia entre los detectores de texto artificial, que dio positivo. El caso, según el análisis firmado por Javier Arroyo Gallardo, profesor titular de Ciencias de la Computación en la Universidad de Alcalá, dejó un reguero de declaraciones entre los implicados.

El episodio ilustra un fenómeno más amplio. Hoy cualquiera publica un libro, y muchos influencers o personajes mediáticos lo firman sin haberlo escrito. Antes ocurría igual, pero hacía falta el trabajo de personas en la sombra; ahora la IA lo ha facilitado enormemente. La necesidad de detectar el uso de la IA, o de evitar que se detecte, alcanza también a escuelas y universidades. De ahí las dos preguntas del autor: si se puede detectar el texto artificial y si se puede camuflar el fraude hasta hacerlo indetectable.

Para responder hay que entender cómo escribe una IA. Lo hace token a token, y un token puede ser una palabra entera, un trozo de palabra, un signo de puntuación, un número o un espacio. El algoritmo lee lo ya escrito, calcula una lista de posibles continuaciones con su probabilidad, hace un sorteo, añade la ganadora y repite. Esas probabilidades se relacionan con la frecuencia de las palabras en los textos de entrenamiento, así que las más comunes tienen ventaja. Además, la IA está optimizada para conversar y resolver dudas de forma clara y didáctica, por lo que, si no se le pide otra cosa, su tono es neutro y expositivo.

De ahí nacen las huellas. El entrenamiento favorece términos comunes frente a los rebuscados. La IA abusa de palabras de relleno como «realmente» o «simplemente», y de palabras de énfasis como «notable» o «fundamental». Repite fórmulas como «por lo tanto», «en resumen», «con el objetivo de» o «no solo… sino también», y tiende a cerrar sus argumentos con una frase a modo de resumen. Todo ello reduce la variabilidad del texto, y la estilometría, que mide rasgos estilísticos y los compara con los de textos de IA, puede detectarlo.

Otra estrategia es la perplejidad, que mide cuán sorprendente resulta una secuencia de texto para una IA generadora de lenguaje. Un detector con probabilidades similares a las de los generadores recorre el texto y mide esa sorpresa. Funciona mejor en textos largos, porque lo ya leído reduce la incertidumbre. En los textos de IA la perplejidad tiende a ser uniforme, mientras que en los humanos varía mucho, porque somos más impredecibles. Una tercera táctica es combatir el fuego con fuego: pedir a una IA que juzgue si otra escribió el texto. Los modelos comerciales generalistas, como ChatGPT, dan malos resultados. Los entrenados específicamente para detectar son la mejor estrategia actual. Pangram es un ejemplo: aprende a distinguir textos humanos de réplicas generadas por IA y se reentrena poniendo el foco en los falsos positivos.

El camuflaje busca borrar esos indicios. Lo más simple es pedir a la IA que escriba de otra manera: con un rol, como «escribe como un estudiante de secundaria», evitando palabras de una lista negra o alternando frases de distinta longitud. También se puede editar el resultado: insertar texto propio, cambiar palabras que uno no usaría o reescribir fragmentos. Los más perezosos piden a la IA que parafrasee; estudios recientes muestran que tras sucesivos parafraseos la eficacia de los detectores baja sensiblemente. Otra vía es traducir el texto a otro idioma y devolverlo a la lengua deseada.

Queda la pregunta de cuánto vale el ojo humano. Según un estudio citado, depende de la familiaridad con la escritura de la IA. Quienes no la tienen fallan mucho y confían demasiado en su veredicto; los expertos son muy difíciles de engañar. Si se suma el veredicto de varios, el resultado es excelente, solo igualado por Pangram. Aun así, el autor advierte que ningún sistema es infalible y siempre quedará un margen de duda. Mientras el texto escrito por personas tenga valor, concluye, el juego del gato y el ratón seguirá sofisticándose.