Anthropic propõe lei para limitar bloqueio de modelos de IA a casos extremos

A Anthropic entregou nas mãos de legisladores um rascunho de lei confidencial que estabeleceria regras federais para a segurança de modelos de inteligência artificial de fronteira — e, de forma igualmente importante, limitaria drasticamente quando o governo poderia impedir que esses modelos fossem lançados. O documento, ao qual o POLITICO teve acesso, representa a formalização de uma estratégia que a empresa tem defendido junto de autoridades federais e estaduais desde junho, sob o nome de "Advanced AI Framework".

O cerne da proposta é uma barreira extraordinariamente alta para a intervenção governamental. Segundo o rascunho, o governo só poderia bloquear o lançamento ou uso de um modelo de IA se houvesse um risco previsível e iminente de danos superiores a mil milhões de dólares, ou de morte ou ferimentos graves a mais de 50 pessoas. Mesmo assim, o risco teria de estar ligado a um de apenas três cenários específicos: a criação ou libertação de uma arma biológica, a fuga de um modelo ao controlo do seu criador, ou um ciberataque. E mesmo nessas circunstâncias extremas, seria necessário que o Departamento do Comércio peticionasse um juiz do Tribunal Distrital do Distrito de Colúmbia para que a suspensão fosse autorizada. O rascunho proíbe explicitamente qualquer outro departamento, agência ou responsável de intervir no desenvolvimento, disponibilização ou uso interno de um modelo.

Para equilibrar essa restrição ao poder regulador, a proposta inclui um sistema de supervisão independente. Avaliadores registados no Departamento do Comércio inspecionariam periodicamente os laboratórios e seus modelos de fronteira. Estes avaliadores poderiam ser pagos pelas próprias empresas — desde que o pagamento não dependesse dos resultados das avaliações — e teriam de comunicar ao Comércio, no prazo de 72 horas, qualquer risco iminente dos tipos previstos. Os laboratórios ficariam obrigados a criar quadros de segurança, a publicar relatórios de transparência para cada novo modelo de fronteira, a implementar proteções para denunciantes internos e a comunicar incidentes críticos de segurança ao Departamento do Comércio.

Um aspecto particularmente controverso do rascunho é a sua intenção de que a lei federal se sobreponha a algumas leis estaduais em matérias como a divulgação pública de riscos, a avaliação por terceiros e a comunicação de incidentes críticos. Esta questão de preempção é um dos temas mais disputados no Congresso. Parte da indústria defende uma norma nacional única, argumentando que é impraticável cumprir um conjunto diferente de leis em cada estado. Os democratas, porém, têm rejeitado propostas que receiam esvaziar as proteções que estados como a Califórnia já estabeleceram.

A publicação do rascunho pelo POLITICO na sexta-feira desencadeou críticas imediatas de defensores da segurança de inteligência artificial. Estes argumentam que o texto é mais fraco do que a FRONTIER Act, legislação que já existe. Scott Wiener, senador estadual californiano e autor da lei estadual sobre IA de fronteira, afirmou que a proposta fica muito aquém do que seria necessário para proteger a saúde e a segurança públicas. Perante este escrutínio, Anthony Cimino, responsável da Anthropic para os assuntos federais, admitiu que a redação sobre preempção era "pouco precisa" e seria revista. Sugeriu também que outros problemas apontados serão tratados em futuras propostas de política da empresa.

O que está em jogo é a forma como a regulação de inteligência artificial de fronteira será moldada nos próximos anos. A Anthropic está a tentar estabelecer um quadro que proteja a inovação e a implantação rápida de modelos, enquanto a comunidade de segurança de IA teme que os limiares propostos sejam tão altos que praticamente nenhuma intervenção governamental seria possível até que danos catastróficos já tivessem ocorrido.