Le sénateur Bernie Sanders et le représentant Greg Casar ont annoncé le 23 septembre avoir présenté la loi visant à interdire la superintelligence artificielle. Le texte de loi de 19 pages publié interdirait la superintelligence artificielle, suspendrait le développement de certains modèles avancés pendant qu’un nouveau ministère fédéral rédige des règles de sécurité, et exigerait une approbation avant que ces modèles ne soient mis à la disposition des utilisateurs. Il s’agit d’une proposition législative. Aucune de ses restrictions n’est en vigueur.

Le grand changement

  • Ce qui a changé : Sanders et Casar sont passés de l’annonce, le 3 septembre, d’un projet de loi à venir à l’annonce, le 23 septembre, de son dépôt, accompagnée d’un texte public détaillant les définitions et les pouvoirs d’application proposés.
  • Pourquoi c’est important : La proposition va au-delà d’une future superintelligence dont la définition serait laissée en suspens. Elle interdirait également les systèmes dotés de certaines capacités précurseurs énumérées et suspendrait temporairement les modèles entraînés au-delà d’un seuil de calcul défini. Si le Congrès adopte le texte, ces dispositions pourraient concerner les développeurs bien avant qu’un système ne réponde à la définition de la superintelligence prévue par le projet.
  • À suivre : Le Congrès devrait faire avancer puis adopter la mesure avant qu’elle puisse imposer des obligations aux développeurs. Le texte public ne comporte toujours pas de numéro de projet de loi au Sénat ; un document parlementaire numéroté et toute version amendée permettraient de connaître la prochaine étape formelle.

Deux restrictions différentes dans le texte

La suspension temporaire proposée s’appliquerait à un « système d’intelligence artificielle avancé », défini comme un système entraîné au moyen d’au moins 10²⁵ opérations entières ou en virgule flottante. Le secrétaire du futur ministère ajusterait ce seuil chaque année en fonction des progrès de l’efficacité de l’entraînement. De l’adoption de la loi jusqu’à ce que le ministère soit doté de l’ensemble de ses effectifs et ait publié des règles de sécurité, il serait interdit d’entraîner, de modifier ou d’affiner de tels systèmes, sauf pour en supprimer les caractéristiques interdites ou les désactiver. Les systèmes avancés non encore publiés ne pourraient pas être déployés pendant cette période. Pour mettre fin à la suspension, les règles devraient prévoir des rapports sur les plans de développement, des évaluations, des audits des pratiques de sécurité et une approbation finale avant toute publication au public.

L’interdiction repose sur un critère différent. Elle viserait un système qui dépasse les performances cognitives humaines dans la plupart des domaines ou qui possède des capacités suffisantes pour planifier et mener à bien la destruction ou la mise sous tutelle de l’humanité. L’article 9 interdit également les systèmes présentant l’une des « caractéristiques précurseurs de la superintelligence » énumérées. Cette liste comprend l’accélération considérable de la recherche en IA, l’accès non autorisé à des infrastructures protégées, la poursuite du fonctionnement malgré des tentatives d’arrêt, l’aide au développement d’armes, l’auto-modification et le contournement de la supervision humaine. Le texte n’applique pas le seuil de 10²⁵ opérations à cette interdiction distincte des capacités précurseurs. L’article 9(b) interdit aussi le déploiement, la publication, le transfert ou l’importation de systèmes susceptibles d’être raisonnablement modifiés pour relever de l’une ou l’autre catégorie. Un futur régulateur devrait décider comment ces descriptions de capacités s’appliquent à des systèmes particuliers ; le projet de loi ne fixe aucun score de référence permettant de trancher ces questions.

Le projet créerait un ministère de l’Intelligence artificielle de niveau ministériel et exigerait des chartes pour développer ou distribuer des modèles avancés. Il conférerait au ministère un pouvoir d’inspection et d’approbation préalable au déploiement. Pour certaines violations imprudentes commises par des responsables de l’entreprise ou des personnes sans lien avec elle, le projet prévoit des amendes et des peines d’emprisonnement pouvant aller jusqu’à 20 ans. Il prévoit également le retrait de la charte et, après une procédure d’examen définie, la confiscation d’actifs et de propriété intellectuelle liés à une violation. Il s’agit de sanctions proposées, et non de peines actuellement en vigueur.

Le débat sur la portée du texte

Lors de la discussion sur la politique de l’IA, vers la 53e minute du 290e épisode de All-In, les intervenants ont soutenu que la mesure pourrait geler le développement de l’IA aux États-Unis et pousser les entreprises à s’installer à l’étranger. Il s’agit de leur appréciation des effets possibles. Le texte n’interdit pas tous les produits d’IA existants au seul motif qu’ils reposent sur l’IA : il définit un seuil d’entraînement pour la suspension temporaire et des critères de capacité pour l’interdiction plus large. Ces critères pourraient néanmoins avoir des conséquences importantes, car la liste des capacités précurseurs n’est pas limitée par ce seuil d’entraînement.

Le chercheur en IA Gary Marcus a formulé une autre critique après l’annonce du 3 septembre. Il soutenait l’idée d’un régulateur de l’IA et estimait qu’une suspension temporaire pouvait se défendre, tout en jugeant excessive une interdiction permanente et unilatérale ainsi que l’incertitude entourant l’évaluation des capacités. Sa réaction précède la présentation du texte le 23 septembre ; il faut donc la lire comme une critique de la proposition annoncée, et non comme une analyse de chaque disposition de la version publiée par la suite.

Sanders et Casar affirment que l’interdiction réduirait les risques catastrophiques et que des accords internationaux et des contrôles à l’exportation devraient empêcher que le développement dangereux ne se déplace ailleurs. Un article de l’Associated Press rapporte l’argument de Sanders en faveur d’un ralentissement du développement et la crainte que des restrictions unilatérales des États-Unis ne laissent intact le développement ailleurs. Ni les arguments des auteurs du projet en faveur de la sécurité ni les prévisions économiques des intervenants ne permettent d’établir ce qui se passerait si le projet devenait loi. Son premier test concret est d’ordre législatif : le Congrès examinera-t-il la proposition, et comment tranchera-t-il la formulation inhabituellement large concernant les capacités précurseurs ?

Sources et lectures complémentaires

  • L’annonce de Casar du 23 septembre indique que lui-même et Sanders ont présenté le projet de loi et en résume les objectifs. Elle rend compte du statut et du but du texte du point de vue de ses auteurs.
  • L’annonce de Sanders du 3 septembre présentait le texte législatif comme à venir ; elle établit l’étape antérieure du projet.
  • Le texte de loi publié, notamment ses articles 3, 8 à 10, 12 et 13, fournit les définitions, la suspension, les interdictions, les pouvoirs de l’agence et les sanctions décrits ici. Le champ du numéro de projet de loi au Sénat est vide.
  • Le résumé article par article de Sanders est un guide de lecture publié par le bureau de l’un des auteurs ; les affirmations précises de cet article ont été vérifiées dans le texte intégral.
  • L’article de l’Associated Press du 23 septembre apporte un compte rendu indépendant, une interview de Sanders et le contexte politique.
  • All-In, épisode 290, fournit les critiques exprimées par les intervenants. Leurs prévisions sont présentées comme des opinions, et non comme des conclusions sur les effets du projet de loi.
  • La réaction de Gary Marcus du 3 septembre présente un point de vue critique distinct, celui d’un défenseur de la sécurité de l’IA. Elle porte sur l’annonce antérieure.