Tribunal federal respalda veto del Pentágono a Claude en sistemas militares

El Pentágono temía razonablemente que Anthropic manipulara Claude
El tribunal respaldó la preocupación del Departamento de Defensa sobre la capacidad de la empresa de controlar el modelo.
Mark

¿Por qué el tribunal consideró que el Pentágono tenía razón en bloquear a Claude?

Mimi

Porque el tribunal creyó que Anthropic podría manipular el modelo para evitar que hiciera lo que el Departamento de Defensa necesitaba según el contrato. El juez escribió que el Pentágono "temía razonablemente" eso.

Luke

Pero espera, ¿hay evidencia de que Anthropic realmente hizo eso, o solo que podría hacerlo?

Mimi

Solo que podría hacerlo. El tribunal no encontró que Anthropic hubiera manipulado nada, solo que tenía la capacidad técnica de hacerlo.

Mark

¿Y qué pasó en California? Escuché que un juez dijo algo diferente.

Mimi

Exacto. Una jueza en San Francisco determinó que el Gobierno actuó ilegalmente al represaliar a Anthropic por sus posiciones sobre privacidad y seguridad.

Luke

Entonces tenemos dos tribunales diciendo cosas opuestas. ¿Cuál prevalece?

Mimi

Por ahora, el fallo de Washington está vigente. Pero Anthropic puede apelar o pedir que todo el tribunal de apelaciones lo reconsidere.

Mark

¿Qué quería Anthropic que no quisiera el Pentágono?

Mimi

Anthropic quería mantener restricciones contra vigilancia masiva y armas autónomas letales. El Pentágono dijo que eso no era decisión de una empresa privada.

Luke

¿Y esas restricciones están en el código de Claude, o solo en las políticas de Anthropic?

Mimi

El tribunal sugiere que están en el código, que Anthropic puede controlar las respuestas del modelo. Pero no hay detalles públicos sobre exactamente cómo.

Mark

¿Qué sigue ahora?

Mimi

Anthropic puede seguir peleando en los tribunales. Pero por ahora, el Pentágono puede seguir bloqueando a Claude en defensa.

  • El Pentágono clasificó a Anthropic como amenaza para la cadena de suministro —una designación históricamente reservada a empresas extranjeras— después de que su CEO se negara a eliminar restricciones éticas sobre el uso militar de Claude.
  • El tribunal determinó que el Departamento de Defensa tenía fundamento legal para temer que Anthropic manipulara su modelo e introdujera controles ocultos en nuevas versiones sin notificar al Gobierno.
  • El fallo rechazó los argumentos de la Primera Enmienda, estableciendo que la norma juzga lo que Anthropic hace con su tecnología, no las razones que declara públicamente.
  • En California, sin embargo, una jueza federal falló en sentido opuesto, determinando que el Gobierno tomó represalias inconstitucionales contra la empresa por actividades expresivas protegidas.
  • Anthropic evalúa apelar ante el pleno del tribunal o escalar el caso, mientras navega un laberinto legal con frentes contradictorios que podrían redefinir la regulación de la IA en defensa.

En el cruce entre la soberanía tecnológica y la ética corporativa, un tribunal federal de apelaciones en Washington avaló el viernes la decisión del Pentágono de mantener a Anthropic clasificada como riesgo para la cadena de suministro, bloqueando el uso de su modelo Claude en sistemas militares. La disputa nació cuando la empresa se negó a eliminar restricciones propias contra la vigilancia masiva y las armas autónomas letales, y el Gobierno respondió que ninguna compañía privada puede dictar unilateralmente los límites del poder del Estado. El fallo, adoptado por dos votos contra uno, plantea una pregunta que definirá la era: ¿quién tiene la última palabra sobre lo que una inteligencia artificial puede —o debe— hacer en nombre de la seguridad nacional?

Un tribunal federal de apelaciones en Washington respaldó el viernes, por dos votos contra uno, la decisión del Pentágono de mantener a Anthropic clasificada como "riesgo para la cadena de suministro". La designación bloquea el uso del modelo Claude en todos los sistemas del Departamento de Defensa y prohíbe a sus contratistas emplearlo en sus tareas, aunque no alcanza al resto del Gobierno federal.

El juez Gregory G. Katsas escribió que el Departamento "temía razonablemente" que Anthropic pudiera manipular el diseño de Claude para impedir funciones de seguridad nacional consideradas autorizadas por contrato. El tribunal también señaló que la empresa tiene capacidad de controlar las respuestas del modelo y que, en versiones nuevas, pudo haber añadido controles sin conocimiento del Gobierno.

El conflicto estalló en febrero cuando el CEO Dario Amodei se negó a eliminar restricciones que impedían usar Claude para vigilancia masiva de ciudadanos estadounidenses y para el desarrollo de armas letales completamente autónomas. La administración argumentó que una empresa privada no podía fijar unilateralmente los límites del uso gubernamental de la tecnología, y el secretario Pete Hegseth declaró a Anthropic riesgo para la cadena de suministro —figura hasta entonces aplicada solo a compañías extranjeras.

El tribunal descartó los argumentos de violación a la Primera Enmienda, estableciendo que la calificación se basa en los términos contractuales y no en las declaraciones públicas de la empresa: la norma atiende a lo que Anthropic hace, no a por qué lo hace.

El panorama legal, sin embargo, es contradictorio. En California, la jueza federal Rita Lin determinó el mes pasado que el Gobierno actuó ilegalmente al tomar represalias contra la compañía por actividades expresivas constitucionalmente protegidas. Anthropic, que presentó dos demandas separadas en marzo —una en San Francisco y otra en Washington—, evalúa apelar o solicitar revisión ante el pleno de once jueces, dejando abierto un camino que podría redefinir cómo el Estado regula la inteligencia artificial en el ámbito de la defensa.

Un tribunal federal de apelaciones en Washington respaldó el viernes la decisión del Pentágono de mantener a Anthropic bajo la clasificación de "riesgo para la cadena de suministro", una designación que bloquea el uso del modelo Claude en todos los sistemas del Departamento de Defensa y en los trabajos que realizan sus contratistas. El fallo, adoptado por dos votos contra uno, consolida una medida que la administración Trump implementó en febrero tras una disputa sobre los límites que la empresa quería imponer al uso militar de su inteligencia artificial.

La mayoría del tribunal determinó que el Departamento de Defensa tenía fundamento legal sólido para concluir que los productos de Anthropic representaban un riesgo para la seguridad nacional. El juez Gregory G. Katsas escribió que el organismo "temía razonablemente" que la empresa pudiera manipular el diseño de Claude para impedirle realizar funciones de seguridad nacional que el Departamento consideraba autorizadas y necesarias según los términos del contrato. El tribunal también sostuvo que Anthropic tiene la capacidad de controlar las respuestas de Claude y que, en nuevas versiones del modelo, pudo haber añadido controles sin el conocimiento del gobierno.

El conflicto que llevó a esta situación comenzó en febrero, cuando Dario Amodei, director ejecutivo de Anthropic, se negó a eliminar las restricciones que impedían el uso de Claude para la vigilancia masiva de ciudadanos estadounidenses y el desarrollo de armas letales completamente autónomas. La administración argumentó que una empresa privada no podía decidir unilateralmente la política de uso de la tecnología por parte del Gobierno. Tras no alcanzar un acuerdo, el secretario de Defensa Pete Hegseth declaró a Anthropic un riesgo para la cadena de suministro, una figura que hasta entonces solo se había aplicado a compañías extranjeras consideradas amenazas para la seguridad nacional.

El tribunal rechazó los argumentos de Anthropic sobre violaciones a la Primera Enmienda, determinando que el Pentágono otorgó la calificación basándose en los términos de un contrato gubernamental y no en las declaraciones públicas de la empresa. Los magistrados no cuestionaron las intenciones de Anthropic en materia de privacidad y seguridad de la inteligencia artificial, pero establecieron que la norma se centra en "lo que Anthropic hace, no de por qué lo hace". La resolución permite que el Pentágono continúe con el retiro de los productos de la firma y prohíbe a los contratistas utilizarlos en sus tareas, aunque la medida no veta las herramientas en todo el Gobierno federal.

Anthropric expresó su desacuerdo con el veredicto y señaló que evalúa sus alternativas, incluida una revisión adicional. La empresa puede apelar o solicitar que el caso sea reconsiderado por el pleno de once jueces del tribunal. Sin embargo, Anthropic enfrenta un panorama contradictorio en otros frentes: en California, la jueza federal Rita Lin determinó el mes pasado que el Gobierno actuó ilegalmente al tomar represalias contra la compañía "por actividades expresivas protegidas por la Constitución". Anthropic presentó dos demandas separadas en marzo, una ante la Corte de Distrito de Estados Unidos para el Distrito Norte de California en San Francisco y otra ante la corte de apelaciones de Washington, dejando abierto un camino legal complejo que podría redefinir cómo el Gobierno regula el uso de inteligencia artificial en defensa.

El organismo temía razonablemente que la empresa pudiera manipular el diseño de Claude para impedirle realizar funciones de seguridad nacional que el Departamento considera autorizadas y necesarias por contrato
— Juez Gregory G. Katsas
La norma se centra en lo que Anthropic hace, no de por qué lo hace
— Tribunal de apelaciones de Washington
Quer a matéria completa? Leia o original em Infobae ↗
Fale Conosco FAQ