Anthropic niega “en conciencia” a EE.UU. Usar su IA en armas autónomas o vigilancia masiva
Ciberguerra
El director ejecutivo, Dario Amodei, rechaza el ultimátum del Pentagono porque la empresa, que se arriesga a un castigo severo, tiene unas líneas rojas y, en un conjunto limitado de casos, “creemos que la IA puede socavar, en lugar de defender, los valores democráticos”
Pete Hegseth, secretario de Defensa, aunque prefiere ser el de Guerra, amenazó con eliminar el contrató con Anthropic y poner a la empresa en la lista negra
Anthropic rechazó este jueves la última oferta del Pentágono para modificar su contrato, afirmando que los cambios no satisfacen las preocupaciones de la empresa de que su IA pueda ser utilizada para vigilancia masiva o en armas totalmente autónomas.
La empresa, que se puede enfrentar a un castigo severo de profunda repercusión para su negocio, sostuvo en un comunicado que “en conciencia no podemos acceder a su solicitud”, respondiendo así a la petición del Departamento de Defensa, o de Guerra como quiere que se le denomine la administración Trump. Lo que ocurra a continuación podría marcar un momento crucial para Anthropic y, de forma más amplia, para el enfoque del gobierno estadounidense respecto a la regulación de la IA.
La compañía que dirige Dario Amodei, uno de los ejecutivos que expresa más preocupación por el uso descontrolado de la inteligencia artificial, afirmó en ese texto que el nuevo lenguaje propuesto por el Pentágono se presentó como un compromiso, pero “estaba acompañado de terminología legal que permitiría que esas salvaguardas fueran ignoradas a discreción”.
Al negarse a ceder ante una administración que ha estado decidida a presionar a las empresas privadas para que se sometan, Amodei y su equipo adoptan una postura atrevida basada en principios éticos, con lo que se arriesgan a una censura que podría erosionar la viabilidad de Anthropic a largo plazo.
El desacuerdo se centra en las restricciones que la empresa impone al uso de su herramienta Claude, el primer sistema de IA que se utiliza en la red clasificada del ejército.
El secretario de Defensa, Pete Hegseth, avisó el pasado martes a Amodei que si Anthropic no permite que su modelo de IA se utilice “para todos los fines legales”, el Pentágono cancelaría el contrato de 200 millones de dólares que mantiene con esa compañía.
Además de la cancelación del contrato, Anthropic sería considerada un “riesgo para la cadena de suministro”, una clasificación normalmente reservada para empresas vinculadas a adversarios extranjeros, según fuentes militares.
El Pentágono argumentó que nunca ha considerado las armas autónomas ni la vigilancia masiva dentro del alcance de su uso, pero no ha estado dispuesto a prohibirlas en su contrato con Anthropic, aseverando que solo perseguirá aplicaciones legales.
Sin embargo, Hegseth matizó que su departamento debe poder utilizar la tecnología para toda la gama de operaciones de guerra, un mandato amplio que dejó demasiadas dudas para que Anthropic se sintiera cómoda. La frustración mutua culminó cuando el Pentágono dio a Anthropic un plazo hasta este viernes para cumplir, o se arriesgaba a verse obligada a proporcionar acceso completo a su IA utilizando la Ley de Producción de Defensa.
Amodei se anticipó a ese plazo y en su extenso comunicado se mantuvo firme en las líneas rojas marcadas por su empresa, si bien mostró su esperanza de que el Pentagono recapacite y reconsidere su postura.
“Creo profundamente en la importancia existencial de utilizar la IA para defender a Estados Unidos y a otras democracias, y para derrotar a nuestros adversarios autocráticos”, escribió el director ejecutivo de Anthropic.
Expresó su comprensión de que el Pentagono, “toma las decisiones militares, no las empresas privadas”. Pero hizo un matiz relevante. “En un conjunto limitado de casos, creemos que la IA puede socavar, en lugar de defender, los valores democráticos”, recalcó.
“Algunos usos también están simplemente fuera de los límites de lo que la tecnología actual puede hacer de forma segura y fiable. Dos de estos casos de uso nunca han sido incluidos en nuestros contratos con el Departamento de Guerra, y creemos que no deberían incluirse ahora”, aclaró citando en concreto el uso en armas autónomas y la vigilancia masiva.
Amodei remarcó que las amenazas del Pentagono “no cambia nuestra posición”.
