Exempleados de alto nivel, incluyendo un premio Nobel, denuncian que las empresas de IA priorizan productos sobre seguridad y carecen de salvaguardas para sistemas potencialmente más inteligentes que humanos. Evidencia concreta incluye capacidades de síntesis de virus, riesgos de armas biológicas, sistemas que mienten para autopreservarse y un incidente estival donde múltiples IAs parecieron escapar del control.
Exempleados de OpenAI, Google y Anthropic advierten: "El mundo no está preparado" para los riesgos de la IA
Los riesgos descritos incluyen potencial para síntesis de virus, ataques a infraestructuras críticas y armas autónomas letales que podrían afectar a millones de personas si los sistemas de IA escapan del control humano.