Anthropic pecha a villa dos seus modelos de IA máis avanzados

Poucos días despois do lanzamento comercial de Claude Fable 5 e Claude Mythos 5, Anthropic anuncia a suspensión inmediata do acceso aos mencionados modelos tras recibir unha directiva de control de exportación emitida polo Goberno dos Estados Unidos por razóns de seguridade nacional. A medida afecta a todos os usuarios destes modelos, tanto dentro como fóra do país, incluídos os propios empregados de Anthropic que non sexan cidadáns estadounidenses.
Segundo explicou a empresa, a orde foi recibida o 12 de xuño e obriga a desactivar completamente ambos os modelos para garantir o cumprimento da normativa. O resto dos modelos da compañía seguirán funcionando con normalidade.
Anthropic asegura que a comunicación oficial non inclúe detalles concretos sobre os riscos detectados. A súa interpretación é que as autoridades consideran que se identificou un método para eludir ou jailbreakear os mecanismos de seguridade de Fable 5. A compañía afirma ter revisado a demostración desta técnica e conclúe que só permitía descubrir un número reducido de vulnerabilidades menores xa coñecidas previamente, sen que os resultados observados superasen as capacidades dispoñibles noutros modelos de acceso público.
A empresa defende que Fable 5 foi sometido antes do seu lanzamento a miles de horas de probas de seguridade realizadas en colaboración con organismos gobernamentais estadounidenses e británicos, organizacións externas e equipos internos. Esas avaliacións, segundo sostén, demostraron que os mecanismos de protección do modelo eran máis efectivos que os presentes en sistemas anteriores.
Anthropic recoñece que a resistencia absoluta aos jailbreaks non parece tecnicamente alcanzable na actualidade para ningún provedor de modelos de intelixencia artificial. Por ese motivo adoptou unha estratexia de defensa en profundidade baseada en dificultar a creación de métodos de evasión amplos, limitar o impacto dos ataques máis específicos e reforzar a monitorización para detectar posibles abusos. Nese marco tamén se encadra a conservación durante 30 días dos datos dos clientes que utilizan Fable 5, unha medida que, segundo a compañía, facilita a investigación e mitigación de vulnerabilidades.
O comunicado sostén que ata o momento non recibiu probas documentadas dun jailbreak capaz de producir resultados perigosos. Anthropic asegura que a evidencia facilitada polas autoridades consiste nun método específico e limitado que, esencialmente, pide ao modelo analizar unha base de código e corrixir erros de software. A compañía afirma que revisou o informe que considera a base da decisión gobernamental e concluíu que as capacidades demostradas están amplamente dispoñibles noutros sistemas comerciais, citando expresamente GPT-5.5 de OpenAI.
A empresa manifesta o seu desacordo coa decisión das autoridades e considera que a identificación dun posible jailbreak limitado non debería ser motivo suficiente para retirar un modelo comercial utilizado por centos de millóns de persoas. Tamén advirte de que, se este criterio se aplicase de maneira uniforme a todo o sector, podería frear practicamente a despregadura de novos modelos avanzados de intelixencia artificial.
Anthropic sinala que apoia a existencia de mecanismos gobernamentais para impedir lanzamentos considerados inseguros, pero defende que esas actuacións deben desenvolverse mediante procedementos transparentes, claros e baseados en feitos técnicos verificables. Na súa opinión, a decisión adoptada neste caso non cumpre eses principios.
Mentres traballa para recuperar o acceso aos modelos afectados, a empresa pide desculpas polos problemas ocasionados aos clientes e asegura que considera a situación resultado dun malentendido.
Non faltan voces críticas que consideran que a situación actual foi provocada en boa medida pola propia Anthropic, que utilizou a política do medo para vender os seus novos modelos de IA, e agora que as autoridades poñen limitacións ao seu acceso queren corrixir a imaxe proxectada.
Dende Europa o acontecido tamén reforza a idea de conseguir certo nivel de soberanía tecnolóxica, xa que a posibilidade de que os EE.UU. limite a exportación das súas tecnoloxías de fronteira situaríanos nunha clara situación de desvantaxe competitiva, o que agora pode verse como algo palpable.