Anthropic a un modèle trop dangereux pour être publié
Anthropic a annoncé avoir développé Claude Mythos Preview — un modèle qu'elle juge elle-même trop dangereux pour être rendu public. Des discussions d'urgence sont en cours avec des États et des régulateurs financiers. La Banque d'Angleterre, la FCA et le Trésor britannique ont convoqué les banques. Le Trésor américain a fait de même avec Wall Street.
C'est une première : non pas un régulateur qui bloque un modèle, mais l'entreprise qui le bloque elle-même. Ce geste mérite attention, quelle qu'en soit la motivation réelle — précaution sincère, marketing de la rareté avant une IPO à 300 milliards, ou les deux.
Ce qui est certain : ça pose une question que le secteur évitait soigneusement. Si une entreprise peut décider qu'un modèle est trop puissant pour exister publiquement, qui décide ensuite des critères de cette décision ? Elle seule ? Un régulateur ? Une instance internationale qui n'existe pas encore ?
Le modèle est peut-être dangereux. La question de gouvernance qui suit l'est encore davantage.