La IA vigila tus emociones en entrevistas de trabajo, pero ¿sin discriminar?

En el Mobile World Congress de Barcelona, entre cientos de startups que exhiben las últimas innovaciones tecnológicas, dos empresas catalanas demostraban algo que hace apenas unos años habría parecido sacado de una película de ciencia ficción: software capaz de leer tus emociones mientras hablas en una videollamada de trabajo. Emocional y Talentfy han construido sistemas de inteligencia artificial que analizan expresiones faciales, tono de voz y lenguaje corporal para traducir estados emocionales en datos que los departamentos de recursos humanos pueden consultar como si fueran métricas de desempeño.

Emocional, fundada hace apenas un año por Aniol Hervás Royo, ya ha captado un millón de euros en inversión y cuenta con clientes como Sanitas. Su tecnología se integra directamente en las videollamadas de reuniones y procesos de selección, identificando cuándo un candidato está nervioso, contento o estresado. La startup describe su función como una versión objetiva de las encuestas de clima laboral tradicionales, proporcionando a recursos humanos un marco general sobre cómo se sienten los equipos, si el estrés está aumentando o si la moral mejora. Hervás argumenta que estos datos no son negativos en sí mismos: la personalidad no tiene aspectos inherentemente malos, dice, y el objetivo es que los candidatos se conozcan mejor a sí mismos identificando sus fortalezas. Su equipo de 15 personas también utiliza esta misma tecnología para realizar tests de personalidad durante procesos de selección.

Talentfy, con tres años de trayectoria y 20 empleados, aborda el problema desde un ángulo diferente. Nació de una necesidad concreta: hay escasez de trabajadores tecnológicos calificados en un mercado en expansión. Su plataforma conecta empresas con reclutadores clasificados por IA, sugiere candidatos ideales basándose en análisis automático de solicitudes, y alimenta continuamente los currículums de los candidatos con información sobre pruebas técnicas superadas y retroalimentación de empresas. También incorpora reconocimiento de emociones en videoentrevistas. En 2022, Talentfy facturó 1,2 millones de euros y ha levantado la misma cantidad en inversión durante sus tres años de existencia. Su consejero delegado, Santi Molins, explica que estas herramientas permiten a las empresas encontrar candidatos que no solo sean competentes sino también estables: aunque los profesionales altamente cualificados típicamente rotan cada 18 meses, las empresas quieren asegurar que durante ese tiempo sean rentables.

Pero esta proliferación de algoritmos en la toma de decisiones laborales plantea una pregunta incómoda: ¿cómo se garantiza que estos sistemas no perpetúen o amplíen la discriminación? Dani Cruz, responsable de Análisis y Transformación Digital del sindicato CC.OO en Cataluña, señala que una directiva europea en elaboración probablemente clasificará el uso de IA en procesos de selección como de alto riesgo, lo que significaría que estas tecnologías solo podrían usarse si están fuertemente justificadas. El sindicato no se opone a la IA en principio, pero exige transparencia en los datos y procesos utilizados. Si todo se presenta como anónimo y objetivo, advierte, podría en realidad profundizar la discriminación en lugar de eliminarla.

Investigadores del National Bureau of Economic Research estadounidense ya advertían en 2019 sobre este riesgo: confundir "basado en datos" con "no discriminatorio" sería irresponsable e incluso peligroso. Un algoritmo entrenado con datos históricos de procesos de selección donde ya existía discriminación simplemente replicará esos sesgos a escala. Sin embargo, los investigadores también reconocen un lado potencialmente positivo: mientras que la discriminación humana era invisible y sus autores podían negarlo, los algoritmos dejan rastros que permiten identificar exactamente cuándo y cómo ocurrió el sesgo.

Una tercera startup presente en el congreso, Expai, propone una solución: explicabilidad radical. Su plataforma traduce en gráficos comprensibles cómo un modelo de IA toma sus decisiones. Cuando un banco le pide a un algoritmo que decida si otorga un préstamo, o cuando se entrena un sistema con datos del Titanic para decidir a quién salvar en un naufragio, Expai revela si el modelo está considerando edad, género, clase social u otros factores potencialmente discriminatorios. Arnau Soler, trabajador de esta startup de un año de antigüedad aún en búsqueda de inversores, es categórico: "En el futuro, la IA será explicable o no será. Porque no nos podemos fiar 100% de lo que nos dice la máquina, tenemos que saber cómo toma las decisiones". El debate sobre si estas herramientas representan progreso o riesgo probablemente se resolverá no en las salas de conferencias sino en las regulaciones que vendrán, y en si las empresas que las usan están dispuestas a revelar cómo funcionan realmente.