Google y Meta despliegan IA para combatir suicidio, violencia y desigualdad de género

Google y Meta presentaron en marzo de 2022 avances significativos en cómo utilizan la inteligencia artificial para abordar algunos de los problemas más delicados que enfrentan sus plataformas: la orientación de usuarios en crisis hacia recursos de ayuda, la reducción de contenido dañino y la corrección de desequilibrios históricos en la representación de género.

Google comenzó por explicar cómo ha optimizado su buscador para las búsquedas más vulnerables. Cuando alguien busca información sobre suicidio, violencia doméstica, agresión sexual o abuso de sustancias, el motor ahora despliega de manera prominente los números de teléfono de las líneas directas nacionales relevantes junto con los resultados de mayor calidad disponibles. Para lograrlo, la compañía mejoró su sistema de aprendizaje automático con un modelo llamado MUM, entrenado en 75 idiomas, que puede detectar con mayor precisión cuándo una persona está buscando ayuda en una situación de crisis. El modelo comprende mejor la intención detrás de las preguntas, permitiendo que Google muestre información confiable y práctica en el momento exacto en que se necesita. La compañía anunció que comenzaría a implementar estas mejoras en las semanas siguientes.

Paralelamente, Google trabajó en reducir la exposición a contenido explícito e inapropiado. Utilizando una técnica llamada BERT, que interpreta las palabras en contexto considerando tanto lo que las precede como lo que las sigue, el buscador logró reducir la aparición de resultados inesperados en un 30 por ciento durante el año anterior. Este avance tuvo un impacto especial en búsquedas relacionadas con origen étnico, orientación sexual y género, áreas donde el contenido discriminatorio afecta de manera desproporcionada a las mujeres, particularmente a las mujeres de color. Google señaló que MUM permitiría escalar estas protecciones a nivel mundial, trabajando con socios locales para detectar consultas sobre crisis personales en múltiples idiomas y países.

Mientras Google se enfocaba en la seguridad de las búsquedas, Meta anunció un proyecto de investigación completamente distinto pero igualmente orientado a corregir desigualdades. La compañía desarrolló un sistema de inteligencia artificial capaz de investigar y redactar borradores de biografías al estilo de Wikipedia. El problema que busca resolver es simple pero profundo: apenas el 20 por ciento de las biografías en Wikipedia son de mujeres, a pesar de sus contribuciones fundamentales en ciencia, política, artes y otros campos.

Angela Fan, investigadora de Meta AI, ilustró el problema con un caso concreto. Donna Strickland, física canadiense ganadora del Premio Nobel de Física en 2018, no tenía entrada en Wikipedia en el momento en que recibió el premio más importante de su disciplina. Solo después de que los medios reportaron su logro alguien creó su biografía en la plataforma. Fan explicó que el modelo de Meta funciona en tres pasos: primero recupera información relevante de Internet sobre la persona, luego genera el texto de la biografía, y finalmente construye una bibliografía con enlaces a las fuentes utilizadas. El proceso se repite para cada sección hasta completar una biografía completa.

Fan enfatizó que el trabajo era puramente investigativo en ese momento, con la esperanza de que la comunidad de investigación en inteligencia artificial lo utilizara como punto de partida. El objetivo final era usar la IA para compensar los desequilibrios de género en Wikipedia, una de las referencias informativas más consultadas del mundo. Según Fan, las mujeres han sido fundamentales en innumerables aspectos de la sociedad, pero sus contribuciones reciben menos visibilidad que las de los hombres. La representación, subrayó, importa, y Meta buscaba contribuir a corregir este desequilibrio histórico a través de la investigación en inteligencia artificial.