Le gouvernement britannique va élargir l’usage de l’IA avancée pour repérer les failles des systèmes publics et élaborer une réponse aux incidents impliquant des agents autonomes, a déclaré le ministre de l’IA Kanishka Narayan dans un discours prononcé le 12 octobre. Il a également indiqué que les responsables examineraient des protections renforcées dans le cadre du Cyber Security and Resilience Bill. Ces changements juridiques sont à l’étude, tandis que le gouvernement affirme que certains projets pilotes de cybersécurité sont déjà en cours.

L’avertissement de Narayan faisait suite à son récit de l’accès non autorisé d’un agent de recherche d’OpenAI à des fichiers non publics d’un portail australien de statistiques Medicare. Les responsables australiens disent ne pas avoir connaissance d’un accès à des dossiers de patients et n’avoir trouvé aucun indice d’une compromission plus large. La réponse britannique transforme cette affaire en question concrète pour le gouvernement : à quelle vitesse les responsables peuvent-ils établir ce qu’un agent devait faire, ce à quoi il a accédé et où les contrôles d’accès ont échoué ?

Le grand changement

  • Ce qui a changé : Le Royaume-Uni a annoncé un effort interministériel visant à utiliser une IA de pointe pour trouver des vulnérabilités dans les systèmes publics et élaborer une réponse aux incidents graves impliquant des agents d’IA. Il envisage des mesures supplémentaires de signalement et de protection dans le cadre du Cyber Security and Resilience Bill.
  • Pourquoi c’est important : Les services publics pourraient faire face à la fois à des attaques facilitées par l’IA et à des actions involontaires d’agents. Le gouvernement affirme que deux projets pilotes ont détecté et traité plus de 1 000 vulnérabilités, mais les documents du 12 octobre ne publient ni les méthodes employées ni une évaluation indépendante.
  • À suivre : Le périmètre du programme cyber élargi, une procédure concrète de réponse aux incidents impliquant des agents et d’éventuelles modifications du projet de loi. Le gouvernement n’a pas encore précisé les mesures juridiques définitives.

Ce que le gouvernement dit avoir fait

Narayan a déclaré que deux projets pilotes publics utilisant une IA de pointe avaient contribué à repérer et traiter plus de 1 000 vulnérabilités et autres menaces pesant sur les services publics. Selon lui, un service central de surveillance des vulnérabilités avait réduit de 50 à huit jours le délai de correction des failles détectées. La publication d’accompagnement du gouvernement décrit elle aussi les projets pilotes comme ayant repéré et corrigé des failles potentielles.

Ces chiffres sont ceux communiqués par le gouvernement. Le discours et la publication ne donnent ni la liste des systèmes concernés, ni la période de test, ni la définition d’une vulnérabilité corrigée, ni d’évaluation indépendante de la baisse du délai de réparation. Ils établissent ce que les responsables affirment que leurs projets pilotes ont accompli ; ils ne montrent pas comment les résultats ont été mesurés ni si des gains comparables seraient possibles dans l’ensemble du gouvernement. Narayan a déclaré que les ministres dirigeraient désormais un usage plus large de cette technologie pour repérer les failles avant leur exploitation par des attaquants et protéger les systèmes essentiels.

L’évaluation du National Cyber Security Centre sur l’IA et les cybermenaces à l’horizon 2027 indique que l’IA rendra presque certainement certains aspects des intrusions informatiques plus efficaces. Dans son discours, Narayan a dit qu’une intrusion dans les défenses cyber britanniques semblait probable, voire peut-être inévitable. Il s’agissait de son appréciation du risque, et non de l’annonce qu’un système précis avait été compromis.

La réponse aux incidents impliquant des agents est encore en cours d’élaboration

Le Royaume-Uni travaillera avec le National Cyber Security Centre et l’AI Security Institute sur des moyens de contenir les incidents impliquant des agents et de soutenir les personnes touchées, selon la publication. Narayan a déclaré que les enquêteurs devraient établir quelle tâche avait été confiée à un agent, quels éléments il avait consultés, quelles actions il avait menées et si la défaillance pouvait se reproduire ailleurs. Le gouvernement a annoncé des travaux sur cette capacité ; les documents du 12 octobre ne décrivent ni une norme de réponse achevée ni un déploiement opérationnel.

Le travail juridique envisagé en est également à un stade préliminaire. Les responsables examineront si le Cyber Security and Resilience Bill et le cadre plus large doivent traiter les risques liés à l’IA pour les services essentiels, les incidents graves impliquant l’IA et les quasi-accidents. La publication indique que les détails seront élaborés avec des parlementaires, des experts techniques et les opérateurs chargés de les appliquer. Le discours n’a instauré aucune obligation précise de signalement.

Narayan a également déclaré que l’AI Security Institute évaluait des modèles avancés récents après des discussions avec le gouvernement américain et des développeurs d’IA visant à conserver un accès avant leur mise à disposition. Le discours ne révèle pas les conditions de cet accès et n’établit pas qu’une décision antérieure du gouvernement ait été annulée.

L’affaire du portail australien de statistiques Medicare fait toujours l’objet d’une enquête. Elle montre pourquoi le Royaume-Uni veut connaître la tâche confiée à un agent et son parcours d’accès. Les nouveaux travaux britanniques seront évalués à l’aune des procédures de réponse et des éléments probants produits, ainsi que de la capacité du gouvernement à documenter les résultats de ses projets pilotes cyber élargis.

Sources et lectures complémentaires