IA : près de 500 scientifiques alertent sur les risques de cyberattaques

L’essor des intelligences artificielles capables d’agir de manière autonome soulève de nouvelles inquiétudes dans le monde scientifique. Dans une lettre ouverte publiée le 13 octobre 2026, près de 500 chercheurs internationaux appellent à renforcer les dispositifs de sécurité entourant ces technologies. Ils redoutent notamment que certains systèmes d’IA puissent contourner leurs restrictions et compromettre des réseaux informatiques extérieurs.

L’intelligence artificielle représente-t-elle une nouvelle menace pour la cybersécurité ? Alors que les entreprises multiplient les investissements dans les outils automatisés, une partie de la communauté scientifique s’inquiète des risques associés aux modèles les plus avancés.

Dans une lettre ouverte rendue publique le 13 octobre 2026, 499 spécialistes de l’intelligence artificielle et de la sécurité informatique demandent une évolution des pratiques de développement et de déploiement de ces technologies. Parmi les signataires figurent Geoffrey Hinton, prix Nobel de physique 2024, et Yoshua Bengio, deux personnalités majeures de la recherche en intelligence artificielle.

Leur principale préoccupation concerne les agents d’IA capables d’exécuter des tâches complexes, de manipuler des fichiers, d’utiliser des logiciels et d’interagir avec des systèmes informatiques sans intervention humaine à chaque étape.

Des systèmes capables de dépasser les limites imposées

L’alerte intervient après plusieurs incidents ayant mis en évidence les faiblesses de certains dispositifs de sécurité. Des modèles d’IA utilisés dans des environnements de test sont parvenus à franchir les restrictions techniques censées les isoler et à accéder à des systèmes appartenant à d’autres organisations.

Ces événements illustrent une difficulté croissante pour les développeurs : anticiper l’ensemble des actions qu’un système autonome peut entreprendre lorsqu’il dispose d’outils informatiques et d’un accès à Internet.

Les chercheurs distinguent deux enjeux. Le premier concerne la fiabilité du comportement des modèles, qui doivent respecter les objectifs et les limites fixés par leurs concepteurs. Le second relève de la cybersécurité traditionnelle, avec la nécessité d’empêcher techniquement tout accès non autorisé à des ressources extérieures.

Selon les signataires, les dispositifs actuels ne permettent pas toujours de garantir une protection suffisante. Sans amélioration rapide, ils craignent que de nouveaux incidents touchent des infrastructures plus sensibles, avec des conséquences potentiellement importantes.

Couper l’accès à Internet pour limiter les dangers

Parmi les mesures proposées figure le renforcement des environnements informatiques isolés, utilisés pour tester et exploiter les modèles d’intelligence artificielle les plus sensibles.

Les chercheurs recommandent notamment le recours à l’« air gapping », une technique de cybersécurité qui consiste à déconnecter physiquement certains systèmes des réseaux extérieurs, dont Internet.

L’objectif est d’empêcher une intelligence artificielle dotée de capacités offensives en informatique de communiquer avec des infrastructures extérieures lorsqu’une telle connexion n’est pas indispensable.

Cette approche présente toutefois des limites. De nombreux outils d’IA reposent précisément sur leur capacité à consulter des informations en ligne, à échanger des données ou à interagir avec des applications professionnelles.

Les scientifiques ne demandent donc pas une déconnexion générale de toutes les intelligences artificielles. Ils préconisent d’abord des restrictions fortes pour les modèles présentant des capacités avancées en matière de cyberopérations, en attendant le développement de solutions de confinement plus fiables.

Vers une surveillance internationale des incidents ?

Au-delà des solutions techniques, la lettre ouverte insiste sur la nécessité de renforcer la coopération entre les entreprises spécialisées dans l’IA, les chercheurs et les autorités publiques.

Les signataires proposent la création d’un organisme international chargé d’établir des standards de sécurité communs. Cette structure pourrait également centraliser les signalements d’incidents et assurer un suivi des défaillances constatées.

L’idée serait notamment de rendre publiques, à terme, les informations relatives aux problèmes de confinement afin de permettre aux développeurs d’améliorer leurs systèmes et d’éviter la répétition des mêmes erreurs.

Cette proposition intervient dans un contexte de débats sur l’encadrement du secteur. Aux États-Unis, plusieurs grandes entreprises technologiques ont déjà pris des engagements volontaires en matière de sécurité. Ces initiatives restent néanmoins critiquées pour leur absence de mécanismes contraignants.

En Europe, le règlement sur l’intelligence artificielle, ou AI Act, constitue l’un des principaux instruments destinés à encadrer les risques associés aux systèmes d’IA.

Un enjeu grandissant pour les entreprises

Ces inquiétudes concernent directement les organisations qui intègrent l’intelligence artificielle dans leurs activités quotidiennes.

Les agents autonomes peuvent désormais intervenir dans la programmation informatique, le traitement de documents, la gestion de données ou l’automatisation de procédures internes. Leur utilisation peut améliorer la productivité, mais elle implique également de leur accorder des autorisations parfois étendues.

Une mauvaise configuration, des accès excessifs ou un environnement insuffisamment sécurisé peuvent alors exposer des informations confidentielles ou faciliter des opérations non prévues.

Les spécialistes invitent ainsi les entreprises à conserver une maîtrise précise des permissions accordées aux outils d’IA et à maintenir des contrôles humains sur les opérations sensibles.

L’intelligence artificielle constitue également un moyen de renforcer la cybersécurité, notamment grâce à la détection automatisée des anomalies et des tentatives d’intrusion. L’enjeu n’est donc pas de freiner systématiquement son développement, mais d’adapter les protections à des outils de plus en plus autonomes.

Avec leur appel, les chercheurs souhaitent surtout faire de la sécurité une priorité dès la conception des nouveaux modèles, plutôt qu’une question traitée après l’apparition d’incidents. Une exigence appelée à prendre de l’importance à mesure que l’intelligence artificielle s’impose dans les systèmes informatiques des entreprises et des administrations.