La start-up americaine Anthropic, creatrice de la famille de modeles Claude, a pris la decision de restreindre significativement la diffusion de son modele Mythos apres avoir decouvert que celui-ci etait capable d'identifier des milliers de vulnerabilites informatiques dans des systemes critiques. Cette decouverte, realisee en avril alors que le moteur etait encore en phase de test, a pousse l'entreprise a limiter drastiquement l'acces a cette technologie pour prevenir tout risque de detournement malveillant.
Dans un choix ethique qui a eu des consequences commerciales majeures, Anthropic a refuse que ses modeles soient utilises par le Pentagone pour des applications de surveillance de masse et pour rendre des armes totalement autonomes. Cette position de principe a valu a l'entreprise d'etre consideree comme un risque pour la securite nationale par l'administration Trump, une qualification lourde de consequences dans l'ecosysteme technologique americain.
La consequence directe de ce refus a ete la perte d'un contrat avec le gouvernement americain au profit de son principal concurrent, OpenAI, l'operateur du moteur ChatGPT. Cette decision illustre le dilemme fondamental auquel sont confrontees les entreprises leaders dans le domaine de la technologie avancee, entre principes ethiques et opportunites commerciales considerables dans le secteur de la defense.
Face aux capacites inedites de Mythos en matiere de detection de failles, Anthropic a lance ce qu'elle appelle le projet Glasswing, un programme de collaboration regroupant une cinquantaine de partenaires, principalement des entreprises americaines mais aussi des organisations de diverses nationalites. L'objectif est d'utiliser les capacites du modele pour identifier les faiblesses des systemes informatiques critiques dans un cadre controle et securise.
Le projet Glasswing represente une approche inedite dans l'industrie technologique, ou une entreprise choisit deliberement de limiter la puissance de son propre produit par crainte d'une mauvaise utilisation, tout en canalisant ses capacites vers des applications defensives. Les partenaires du projet travaillent conjointement a l'evaluation des vulnerabilites dans les infrastructures numeriques essentielles, des reseaux energetiques aux systemes financiers.
La rivalite entre Anthropic et OpenAI prend ainsi une dimension nouvelle qui depasse la simple competition technologique pour toucher aux questions fondamentales de gouvernance et d'ethique dans le deploiement des systemes avances. Tandis qu'OpenAI accepte de collaborer avec les institutions militaires americaines, Anthropic maintient une ligne de conduite plus restrictive, estimant que certaines applications representent des risques inacceptables pour les libertes civiles et la securite mondiale.
Cette affaire souleve des interrogations profondes sur le role des entreprises technologiques dans la politique de defense des Etats, et sur la capacite des gouvernements a contraindre des acteurs prives a cooperer dans des domaines ou les enjeux ethiques entrent en conflit avec les imperatifs de securite nationale. La position d'Anthropic, bien que couteuse commercialement, pourrait neanmoins renforcer sa credibilite aupres des organisations et gouvernements qui privilegient une approche responsable du deploiement technologique.