Hoy cuesta distinguir lo real de lo fabricado: la inteligencia artificial generativa ha alcanzado una verosimilitud que el ojo y el oído humanos no siempre pueden desmentir, y el engaño encuentra en la prisa de las redes su terreno más fértil. Como en otras épocas en que la técnica amplió el alcance de la mentira, el remedio que se recupera no es tecnológico sino humano: detenerse, sospechar de la urgencia y confirmar por un camino distinto al que trajo el mensaje.
IA y estafas digitales: parar, pensar y verificar, los hábitos que protegen frente a fraudes cada vez más creíbles
Las víctimas de estafas de inversión pueden perder todo lo invertido, y las de la estafa del hijo en apuros pueden pagar bajo una falsa emergencia.
Una voz clonada no puede saber algo que nunca se ha dicho en público
Mark
Lo que más me llama la atención es el dato de los tres segundos. ¿De verdad basta con tan poco audio?
Mimi
Según Carmen Torrijos, tres segundos dan una reproducción aceptable y 15 una imitación óptima. Antes hacía falta hasta una hora.
Mark
¿Y por qué las estafas usan mensajes tan cortos?
Mimi
Porque esconden los fallos de la clonación y no dejan a la víctima parar a pensar. La urgencia es parte del diseño.
Luke
Un matiz: esas cifras de tres y 15 segundos son de una experta, no de una medición independiente que el texto cite. Y no hay datos sobre cuántas personas caen.
Mark
¿Y no hay forma de detectar estos contenidos con tecnología?
Mimi
Existen herramientas, pero ninguna ofrece detección universal y totalmente fiable. Por eso insisten en los hábitos.
Luke
Eso también cuenta para la CNMV: que una empresa no figure en su lista de advertencias no prueba que sea legítima; puede que aún no la hayan detectado.
Mark
¿Y la contraseña familiar?
Mimi
Una palabra o pregunta que solo conozca la familia. Una voz clonada imita el tono, pero no lo que nunca se dijo en público.
Luke
Es una recomendación de Vigo, sensata, pero el texto no aporta pruebas de su eficacia. Es un consejo, no un resultado medido.
Der Puls
- Basta un fragmento de tres segundos de voz para que una clonación resulte creíble, y una notas de voz urgente puede arrancar un pago antes de que nadie piense.
- Anuncios de inversión con rostros famosos generados sin permiso prometen multiplicar el dinero por diez y convierten la primera ganancia en un anzuelo para aportar más.
- Tiendas online clonadas aparecen en Black Friday y Navidad con dominios casi idénticos, cobran por transferencia o Bizum y desaparecen al reunir pedidos.
- Las víctimas tratan de retirar su dinero y reciben nuevas peticiones de comisiones o impuestos, mientras la estafa se reabre con otra identidad.
- Frente a la ausencia de un detector universal, la respuesta que se consolida es verificar por otro canal, volver al número habitual y acordar una contraseña familiar.
Hoy cuesta distinguir lo real de lo fabricado: la inteligencia artificial generativa ha alcanzado una verosimilitud que el ojo y el oído humanos no siempre pueden desmentir, y el engaño encuentra en la prisa de las redes su terreno más fértil. Como en otras épocas en que la técnica amplió el alcance de la mentira, el remedio que se recupera no es tecnológico sino humano: detenerse, sospechar de la urgencia y confirmar por un camino distinto al que trajo el mensaje.
Un internauta de 2019 no sabría hoy qué vídeos son reales y cuáles han sido fabricados por una inteligencia artificial generativa. La lingüista computacional Carmen Torrijos explica que la tecnología ha avanzado tan deprisa que el ojo humano apenas distingue ciertos contenidos sintéticos, y que los estafadores lo aprovechan para crear anuncios, webs e imitaciones de voz con resultados excelentes. Las redes, con contenidos cortos que exigen reaccionar enseguida, facilitan el engaño. Ninguna herramienta de detección ofrece una fiabilidad universal.
Los anuncios falsos usan rostros famosos generados sin consentimiento o logos conocidos y prometen beneficios extraordinarios, sobre todo inversiones rápidas o juegos móviles. Según Martín Vigo, de Triskel Security, la estafa de inversión sigue un guion conocido: un falso asesor, una aplicación que muestra ganancias, peticiones de más dinero y, al final, comisiones o impuestos para retirar fondos que nunca llegan. Las tiendas falsas se montan en horas con textos, imágenes y reseñas generadas, y copian políticas y dominios casi idénticos. Aparecen en fechas de rebajas, cobran por transferencia o Bizum y desaparecen para volver con otra cara.
El deepfake es el uso más extendido y el que más inquieta. Clonar una voz exigía antes una hora de audio; hoy basta un par de segundos para una imitación aceptable. En la estafa del hijo en apuros, una nota de voz desde un número desconocido pide dinero con urgencia tras un supuesto accidente o la pérdida del teléfono. En la estafa del CEO, un falso directivo pide a un empleado una transferencia. Europol advierte de que la suplantación de imagen y movimientos también se extiende. Los delincuentes se nutren de lo que cada cual publica en redes.
La defensa sigue siendo sencilla: parar, pensar y verificar por otro canal. La urgencia debe sonar como una alarma. Ante un anuncio, conviene buscar información aparte y consultar los avisos de la CNMV, sabiendo que no figurar allí no garantiza nada. Ante una tienda, hay que buscar su nombre junto a palabras como estafa y revisar la URL. Ante una petición de un familiar o directivo, se debe llamar al número habitual y no devolver la llamada desde el registro de llamadas. Y Vigo propone algo tan humano como eficaz: acordar una contraseña familiar, porque una voz clonada puede imitar el tono, pero no conoce lo que nunca se dijo en público.
Si un internauta de 2019 pudiera asomarse hoy a las redes sociales, no sabría decir qué vídeos son reales y cuáles los ha fabricado una inteligencia artificial generativa. Lo explica Carmen Torrijos, lingüista computacional especializada en este campo: la tecnología ha avanzado tanto en tan poco tiempo que el ojo humano tiene grandes dificultades para detectar ciertos contenidos sintéticos. Los estafadores lo aprovechan. Según Torrijos, ahora pueden crear anuncios, webs o imitaciones de voz en poco tiempo y con un resultado excelente.
A ese mismo internauta le costaría reconocer los fraudes que circulan a diario: anuncios de inversión que suplantan a personas conocidas, tiendas online que venden productos inexistentes o notas de voz que llegan en nombre de un familiar que pide ayuda. Torrijos señala que consumimos contenidos cortos que exigen una reacción rápida, y eso los convierte en terreno fértil para el engaño. Existen herramientas para detectar contenido sintético, pero ninguna ofrece una detección universal y totalmente fiable.
Los anuncios falsos suelen apoyarse en rostros famosos generados con IA sin consentimiento, o en logos y colores de empresas y medios conocidos. Prometen algo extraordinario, y lo más común, según Martín Vigo, fundador de la firma de ciberseguridad Triskel Security, son inversiones con grandes beneficios en poco tiempo, o videojuegos móviles cuyos gráficos publicitarios no se parecen a los reales. Añaden urgencia, con ofertas supuestamente limitadas, y el fraude ocurre fuera del anuncio: una página que exige un pago, un formulario que recoge datos o una conversación en una plataforma de mensajería.
La estafa de inversión es uno de los usos principales. El delincuente se presenta como asesor financiero de una empresa falsa y promete rentabilidades altas por dinero o criptomonedas; afirma que la cantidad inicial puede multiplicarse hasta por diez. Tras el primer pago muestra ganancias en una aplicación falseada y sugiere aportar más. Cuando la víctima quiere retirar su capital, le piden más dinero como comisión o impuestos. Si paga, la estafa sigue; si no, el estafador desaparece con todo lo invertido.
Las tiendas falsas se montan igual de rápido. Según Vigo, muchas herramientas de IA generativa permiten crear en horas textos, imágenes de producto, un diseño coherente y hasta reseñas falsas, además de clonar la web de una marca conocida. Si se compra un dominio casi idéntico al original, el engaño es aún más difícil de detectar. Estas tiendas copian políticas de privacidad y condiciones de compra, pueden tener un bot de atención al cliente y ofrecen precios anormalmente bajos, sobre todo en marcas conocidas. Aceptan a menudo solo transferencia, Bizum u otros métodos sin protección al comprador. Se anuncian en buscadores y redes, se multiplican en rebajas, Black Friday y Navidad, y duran poco: desaparecen tras reunir cierto número de pedidos o datos, y reaparecen con otro dominio y otra identidad. Algunas no envían nada, otras mandan un producto muy inferior y otras solo buscan los datos de la tarjeta; incluso fingen el seguimiento del pedido con correos y facturas falsas.
El deepfake, que combina deep learning y fake, es el uso fraudulento más extendido y el que más preocupa, según Torrijos. Antes hacía falta hasta una hora de voz para clonar a alguien con garantías; hoy bastan tres segundos para una reproducción aceptable y 15 para una imitación óptima. Se usa en mensajes cortos porque ocultan fallos y no dejan tiempo para reflexionar. En la estafa del hijo en apuros, el delincuente clona la voz de un hijo o nieto y envía notas de voz desde un número desconocido: ha perdido el teléfono o ha tenido un accidente y necesita pagar con urgencia. El INCIBE advierte de que los estafadores estudian las redes sociales abiertas de sus víctimas para obtener datos familiares, teléfonos y audios.
En la estafa del CEO, el delincuente suplanta a un directivo para que un empleado revele información privada o haga una transferencia a una cuenta ajena a la empresa. Europol indica que el deepfake es cada vez más común en este fraude: la clonación de voz domina, pero la facilidad para copiar también la imagen y los movimientos multiplica los ataques.
La defensa recomendada es parar, pensar y verificar por otro canal. La exigencia de respuesta inmediata debe funcionar como alarma, dice Vigo. Ante un anuncio, no hay que pulsarlo: conviene buscar información aparte o consultar la sección de Advertencias sobre Entidades No Autorizadas de la CNMV, aunque no aparecer allí no garantiza fiabilidad. Ante una tienda, hay que buscar su nombre junto a palabras como estafa o reclamaciones y revisar que la URL coincida con la marca. Ante una petición urgente de un familiar o directivo, se debe comprobar por el número habitual, nunca devolviendo la llamada desde llamadas recientes o perdidas. Vigo propone acordar una contraseña familiar que solo conozcan los miembros de la familia: una voz clonada imita el tono, pero no sabe lo que nunca se dijo en público.
Bemerkenswerte Zitate
Ahora tienen la posibilidad de crear anuncios, webs o de imitar la voz de personas en poco tiempo y con un resultado excelente.— Carmen Torrijos, lingüista computacional
Si se compra un dominio que se parezca mucho al original, el engaño resulta todavía más difícil de identificar.— Martín Vigo, fundador de Triskel Security
Möchten Sie die ganze Geschichte?
Das Original lesen bei El País ↗
World & Diplomacy