Mientras OpenAI cerraba su acuerdo con el Pentágono, Anthropic se negó a cumplir las peticiones del Departamento de Defensa en el marco de una disputa sobre salvaguardas de IA. El Pentágono había condicionado un contrato de unos 200 millones de dólares a que Anthropic relajara o retirara ciertas restricciones en sus modelos para usos militares. El CEO de Anthropic declaró que la empresa no puede acceder a esas peticiones por preocupaciones sobre la fiabilidad de la IA en sistemas de armas autónomas y sobre los riesgos de vigilancia masiva. Anthropic prefiere perder el contrato a modificar sus políticas de seguridad y uso aceptable.
El contraste con OpenAI es evidente: una firma con el Pentágono para redes clasificadas con condiciones; la otra rechaza dinero y condiciones del Pentágono por principios. Que Anthropic mantenga la línea en armas autónomas y vigilancia masiva le da credibilidad ante parte del sector y de la sociedad civil, pero también la deja fuera de uno de los mayores compradores de tecnología del mundo. La pregunta de fondo es si la autorregulación por empresa basta o si hace falta legislación que obligue a todos por igual. Mientras tanto, la divergencia entre OpenAI y Anthropic muestra que el sector no habla con una sola voz sobre hasta dónde debe llegar la IA en defensa y seguridad.
Fuentes: Reuters: Anthropic cannot accede to Pentagon requests.
Post your comments