Trump envisage de contrôler les modèles d’IA avant leur sortie sur le marché

Dans les couloirs feutrés de la Maison-Blanche, les discussions se font de plus en plus intenses. Un décret potentiel visant à contrôler les modèles d’intelligence artificielle avant leur mise sur le marché est à l’étude. Ironie du sort, cette initiative est en grande partie déclenchée par une entreprise qui souhaitait, il y a peu, une régulation plus stricte sous une autre administration. Alors que les projecteurs se tournent vers Washington, le modèle controversé d’Anthropic, Mythos, joue un rôle central dans cette intrigue technologique.

Les 3 points clés

• L’administration Trump envisage un décret imposant un contrôle gouvernemental des modèles d’IA avant leur mise sur le marché, motivée par les préoccupations autour du modèle Mythos d’Anthropic.
• Le modèle Mythos, jugé trop dangereux par Anthropic, a poussé les agences fédérales à s’intéresser de près à son utilisation.
• Des tensions persistent entre Washington et Anthropic, notamment après le refus de cette dernière de retirer les garde-fous de ses modèles pour certaines applications sensibles.

La genèse du contrôle des modèles d’IA

Depuis janvier 2025, l’administration Trump a abrogé le décret de sécurité de l’IA mis en place par son prédécesseur. Cependant, un retournement de situation semble se profiler à l’horizon. Selon des sources anonymes relayées par le New York Times, la Maison-Blanche envisage sérieusement de mettre en place un contrôle gouvernemental strict des modèles d’IA avant leur lancement public. Ce projet inattendu tire son origine du modèle Mythos d’Anthropic.

Ce modèle, vanté pour sa capacité à identifier des vulnérabilités logicielles critiques, a été jugé trop dangereux par Anthropic elle-même pour une libération publique. Cette décision a rapidement attiré l’attention des agences fédérales, dont la NSA, qui l’a déjà utilisé pour évaluer des failles dans les systèmes de Microsoft utilisés par l’administration.

Les tensions entre Washington et Anthropic

Les relations entre l’administration Trump et Anthropic ne sont pas au beau fixe. La startup a refusé de retirer les garde-fous de ses modèles pour certaines applications telles que les armes autonomes et la surveillance de masse. Cette position a conduit le Pentagone à considérer Anthropic comme un risque pour la chaîne d’approvisionnement, annulant ainsi un contrat de 200 millions de dollars. Cette décision a même été qualifiée d' »orwellienne » par un juge fédéral.

Dans cet environnement tendu, le mécanisme de contrôle proposé s’inspirerait de l’AI Security Institute britannique. Un groupe de travail, composé de dirigeants du secteur technologique et d’officiels gouvernementaux, serait chargé d’évaluer les modèles d’IA en utilisant des benchmarks de sécurité, tout en permettant au gouvernement d’accéder aux modèles avant leur déploiement.

Un cadre réglementaire en évolution

Ce projet intervient alors qu’un vide politique en matière de réglementation de l’IA se fait sentir. David Sacks, ancien responsable de l’IA de l’administration Trump, a quitté son poste, laissant la cheffe de cabinet et le secrétaire au Trésor en charge de la politique IA. Un ancien conseiller senior a résumé la situation en évoquant la nécessité de trouver un « équilibre délicat » entre régulation et innovation technologique.

Bien que la Maison-Blanche qualifie ces discussions de « spéculation », le sujet est suffisamment sérieux pour être traité au plus haut niveau de l’exécutif américain. Alors qu’Anthropic espérait une régulation sous Biden, elle pourrait bien voir ses souhaits exaucés sous Trump, mais sans en contrôler les modalités.

L’essor des modèles open source dans le secteur de l’IA

Alors que les États-Unis se concentrent sur la régulation des modèles propriétaires, les modèles open source continuent de progresser en dehors de tout cadre réglementaire. Ces modèles, souvent développés par des communautés globales, offrent une alternative aux solutions fermées des grandes entreprises technologiques. L’absence de régulation pose toutefois des défis en matière de sécurité et d’éthique, soulignant l’importance d’une approche équilibrée entre innovation et réglementation.

Dans ce contexte, la collaboration internationale sur les normes d’IA pourrait jouer un rôle crucial. Des efforts concertés pourraient permettre de créer des standards globaux qui garantissent la sécurité tout en favorisant l’innovation. Des organisations telles que l’OpenAI et des entreprises comme Google travaillent déjà sur des initiatives pour promouvoir un développement responsable de l’IA à l’échelle mondiale.

Défis futurs pour la régulation de l’intelligence artificielle

Alors que les régulations autour de l’IA se précisent, des questions plus larges se posent sur le secteur technologique. Les débats sur la confidentialité des données, l’éthique de l’IA et l’impact sur l’emploi sont au cœur des préoccupations mondiales. Des entreprises comme Google et Microsoft investissent massivement dans la recherche pour anticiper ces défis et proposer des solutions innovantes.

La collaboration entre le secteur privé et les gouvernements devient essentielle pour établir des régulations efficaces. Des initiatives comme celles de l’Union européenne, avec son règlement sur l’intelligence artificielle, pourraient servir de modèle pour d’autres régions. L’objectif est de garantir que les avancées technologiques ne compromettent pas les valeurs fondamentales de la société et que l’innovation continue de bénéficier à tous.