L’intelligence artificielle pourrait rendre les cyberattaques contre les infrastructures essentielles plus fréquentes et plus sophistiquées, et ce dans un délai très bref. OpenAI, Google, Anthropic et plus de 100 entreprises appellent à une mobilisation mondiale pour mieux s’en protéger.
Plus d’une centaine d’entreprises, essentiellement américaines, dont les créateurs des principaux modèles d’intelligence artificielle OpenAI, Anthropic et Google, ont appelé jeudi à une « réponse mondiale » pour protéger hôpitaux, réseaux d’eau et autres services essentiels des cyberattaques amplifiées par l’IA.
« Nous disposons d’une fenêtre limitée pour renforcer les cyberdéfenses », avertit cette lettre ouverte, signée par la plupart des géants américains de la tech, de la cybersécurité et de la finance, qui anticipe des attaques « beaucoup plus répandues et sophistiquées » dans « les mois qui viennent ».
« Les entreprises et services publics dont dépendent nos populations, des hôpitaux aux stations de traitement de l’eau en passant par l’infrastructure qui fait tourner internet, sont menacés », écrivent les signataires. Mais l’IA « donne déjà aux défenseurs de nouveaux moyens de corriger des faiblesses accumulées depuis des années », ajoutent les développeurs de la technologie.
Le texte, publié sur le site d’OpenAI, créateur de ChatGPT, demande à chaque organisation de faire de la cyberdéfense « une priorité immédiate » de ses dirigeants, aux gouvernements de financer la protection des services essentiels « qui n’ont ni le personnel ni le budget pour agir », et aux entreprises d’IA d’ouvrir leurs modèles aux défenseurs, avec formation et financement. Il ne chiffre aucun engagement, ne fixe aucun calendrier et ne réclame aucune loi.
Pas de signataires chinois, Meta et xAI absents également
Il demande aux Etats de coordonner la cyberdéfense « aux niveaux local, national et international » et de « faire payer le prix aux attaquants », sans commenter les régulations en gestation: la loi européenne, l’AI Act, qui donne depuis le 2 août aux régulateurs un droit de regard sur les grands modèles, ou une proposition de loi déposée fin juillet à Washington visant à imposer un « interrupteur d’arrêt ».
La lettre lie l’urgence aux progrès des modèles « partout dans le monde », sans nommer les outils chinois, souvent publiés en accès libre, donc utilisables et modifiables sans les garde-fous de leurs créateurs. Aucun champion chinois de l’IA ne la signe, et deux acteurs américains sont absents: Meta et xAI, le laboratoire d’Elon Musk.
Les signataires estiment qu' »aucune entreprise ne devrait à elle seule contrôler l’avenir ». Mark Zuckerberg disait presque la même chose le 10 août dernier, mais pour défendre les modèles librement téléchargeables, quand OpenAI et Anthropic réservent leurs outils les plus puissants à des entreprises choisies.
Les modèles les plus récents savent désormais repérer et exploiter des failles informatiques à grande vitesse. Anthropic a invoqué cette raison en avril pour limiter son modèle Mythos à un cercle d’entreprises américaines, élargi ensuite à des partenaires étrangers. OpenAI a annoncé le 7 août ralentir le développement de son prochain modèle Astra, qui pourrait, selon la société, mener seul des cyberattaques sophistiquées, le temps de renforcer ses garde-fous.
En juillet, lors de tests, ses outils étaient sortis de leur environnement confiné pour rejoindre internet de leur propre initiative et attaquer la plateforme Hugging Face, sorte de bibliothèque d’algorithmes IA. L’événement a renforcé les inquiétudes sur la capacité des grands acteurs du secteur à contrôler leurs modèles, d’autant qu’Anthropic, Meta et le Chinois Moonshot AI ont aussi fait état d’escapades non contrôlées de leurs outils.
Une autre IA “puissante” chinoise sur le marché
Des risques qui ne semblent pas alerter tout le monde. Un peu plus d’un mois après les mésaventures d’OpenAI, le laboratoire chinois Z.ai s’apprête à publier son modèle GLM 5.3 en « poids ouverts », permettant à n’importe qui de l’utiliser et de modifier son fonctionnement. Une décision qui relance le débat sur les risques liés au partage de modèles d’IA aussi puissants. Si certains experts appellent à davantage de contrôle, d’autres estiment au contraire que l’ouverture de ces technologies peut contribuer à mieux les sécuriser.
Publier une IA en « poids ouverts » permet notamment de modifier ses paramètres et, potentiellement, de supprimer les garde-fous qui limitent son utilisation à des fins malveillantes. Ces modèles peuvent ainsi servir aussi bien à attaquer des réseaux qu’à les défendre. Lors des attaques contre Hugging Face en juillet, ses équipes se sont notamment tournées vers le modèle ouvert GLM 5.2 de Z.ai, après que des systèmes d’Anthropic ont refusé de les aider en raison de leurs garde-fous.
La sortie du nouveau modèle de Z.ai fait craindre à certains chercheurs une multiplication des cyberattaques utilisant l’IA. D’autres relativisent toutefois ce risque: des modèles accessibles au public sont déjà capables de détecter des failles depuis plusieurs mois, voire plusieurs années, sans avoir entraîné d’explosion des cyberattaques. De plus, le comportement parfois imprévisible de ces systèmes peut aussi jouer en faveur des défenseurs, en permettant de repérer plus facilement des activités suspectes sur les réseaux. Le débat reste ouvert.
Source: BFM
