Sam Altman, d’OpenAI, et Dario Amodei, d’Anthropic, ont chacun informé le Conseil de sécurité de l’ONU le 23 septembre des risques liés à des systèmes d’IA toujours plus performants. Tous deux ont appelé les gouvernements à coopérer sur les tests et le signalement. Leurs propositions diffèrent par leur portée, et la discussion du Conseil n’a pas, à elle seule, établi de nouvelle règle sur l’IA.

Le grand changement

Les dirigeants de deux entreprises qui développent des modèles d’IA avancés ont présenté des propositions concrètes de sécurité lors d’une séance du Conseil de sécurité consacrée à la sécurité internationale. Altman a appelé à des normes nationales et internationales compatibles pour mesurer les capacités, évaluer les mesures de protection et préserver le contrôle humain. Amodei a proposé des accords plus ciblés, à commencer par l’interdiction de recourir à l’IA pour fabriquer des armes biologiques, ainsi que des mécanismes de vérification et des tests communs sur les risques d’usage malveillant et de perte de contrôle. Il s’agissait de demandes formulées par des intervenants invités. Toute action du Conseil nécessiterait l’accord des gouvernements.

Les points de convergence entre les propositions

Dans le compte rendu automatique de la réunion de l’ONU, Altman a demandé que les incidents soient signalés rapidement et que des canaux sécurisés permettent aux gouvernements, aux opérateurs d’infrastructures et aux experts techniques de partager des informations sur les vulnérabilités. Il a estimé que les normes devraient s’appliquer aux modèles ouverts comme fermés, aux nouveaux développeurs comme aux laboratoires établis, tout en laissant à chaque gouvernement le soin de les intégrer à son droit national.

Amodei a également demandé des normes internationales de test et le signalement des incidents importants pour la sécurité mondiale. Il a proposé un système permettant aux États de connaître les capacités des modèles de pointe et de vérifier le respect des engagements. Il a réitéré la promesse d’Anthropic d’accueillir des évaluateurs externes au sein de l’entreprise et a déclaré que celle-ci ralentirait ses lancements autant que nécessaire pour assurer la sécurité. Ce sont les engagements et propositions d’Anthropic, et non des constats indépendants démontrant l’efficacité de ses mesures de protection.

Tous deux ont demandé des tests comparables et la divulgation des incidents graves. Amodei a placé au cœur de son intervention au Conseil l’interdiction proposée des armes biologiques et la vérification entre États. Altman a mis l’accent sur des normes que les gouvernements pourraient intégrer à leurs propres systèmes juridiques. Aucun des deux n’a présenté de proposition assortie d’un accord des membres du Conseil sur son application.

Les gouvernements ne s’entendent pas sur le rôle du Conseil

La France a convoqué la séance, à laquelle ont également participé Yoshua Bengio, coprésident du groupe scientifique de l’ONU, et Clément Delangue, directeur général de Hugging Face. Cette réunion s’inscrit dans la continuité des débats antérieurs du Conseil sur l’IA, dont la première séance d’information de ce type en juillet 2023.

Les déclarations des États membres ont révélé l’écart entre une préoccupation commune et une politique partagée. La déclaration publiée par la Lettonie soutenait l’examen de la création d’un groupe informel d’experts du Conseil. Dans le compte rendu de l’ONU, le représentant des États-Unis s’est opposé à de nouvelles structures de gouvernance mondiale et a plutôt plaidé pour le renforcement des capacités nationales et le partage des bonnes pratiques. Il s’agit de positions exprimées lors de la réunion, et non d’une décision du Conseil.

Le compte rendu de l’ONU disponible indique que la réunion s’est achevée après les déclarations des intervenants. Il ne fait état de l’adoption ni d’une résolution sur l’IA ni d’une déclaration présidentielle. La page précise que le texte des interventions est produit par reconnaissance automatique et ne constitue pas un document officiel de l’ONU.