L'intelligence artificielle gagne en capacités plus rapidement que ne le prévoyaient de nombreux experts, mais notre aptitude à en mesurer les risques dans le monde réel ne suit pas le même rythme. Telle est la tension centrale du rapport international sur la sécurité de l'IA de 2026 (International AI Safety Report 2026), une évaluation scientifique dirigée par Yoshua Bengio et élaborée avec le concours de plus de 100 experts indépendants désignés par plus de 30 pays et organisations internationales.
Ce rapport ne prédit pas qu’une issue dramatique est inévitable. Il dresse un état des lieux de ce que les chercheurs savent et ignorent, et explique pourquoi l’incertitude elle-même revêt une importance capitale lorsque l’IA à usage général est déployée à grande échelle.
Trois familles de risques
Le rapport regroupe les risques émergents en trois grands domaines :
- Utilisation malveillante, notamment les arnaques, la fraude, les cyberopérations et les contenus synthétiques abusifs.
- Dysfonctionnements : situations où un système se comporte de manière peu fiable, poursuit un objectif erroné ou produit des résultats nuisibles.
- Risques systémiques, lorsque l’adoption généralisée a une incidence sur le travail, les environnements informationnels, la concentration du marché ou les institutions critiques.
Les éléments probants sont inégaux. Certains préjudices, tels que la fraude assistée par l’IA et la diffusion d’images intimes sans consentement, sont déjà documentés. D’autres scénarios demeurent incertains, en particulier lorsqu’ils dépendent de capacités futures ou de chaînes d’événements sociaux complexes. Un traitement médiatique responsable doit mettre cette distinction en évidence.
Le fossé de l'évaluation
Un score de référence peut démontrer qu'un modèle obtient de bons résultats lors d'un test défini. Il ne permet pas, à lui seul, de prédire comment ce même système se comportera dans un environnement de travail complexe, face à des attaques adverses ou lorsqu'il est connecté à des outils et à des données sensibles.
Le rapport qualifie ce phénomène de « fossé en matière d’évaluation ». Les modèles peuvent être sensibles aux instructions (prompts) et au contexte, les tests peuvent devenir obsolètes et les résultats obtenus en laboratoire ne se transposent pas nécessairement tels quels à un usage réel. Cela ne rend pas l’évaluation inutile pour autant. Cela signifie qu’elle doit être structurée en plusieurs niveaux : les tests de capacités, les exercices de « red teaming », le suivi du déploiement, le signalement des incidents et l’examen humain répondent chacun à des questions différentes.
Les mesures de sauvegarde s'améliorent, mais ne sont pas déterminantes.
Les développeurs et les chercheurs ont renforcé les évaluations de modèles, l'entraînement au refus, les contrôles d'accès, les outils de traçabilité et les cadres de sécurité pour les modèles de pointe. Le rapport souligne également leurs limites : des attaquants chevronnés peuvent contourner les mesures de protection, le tatouage numérique peut s'avérer fragile et l'efficacité réelle de nombreux contrôles reste difficile à quantifier.
La réaction judicieuse ne consiste pas à abandonner les mesures de protection, mais à éviter de considérer une mesure de contrôle unique comme une garantie. La défense en profondeur est essentielle : limitez les droits d'accès, isolez les systèmes sensibles, consignez les actions critiques, testez les scénarios de défaillance et prévoyez une possibilité de retour à l'état antérieur.
Ce que les équipes peuvent faire concrètement
- Adaptez le niveau de supervision aux conséquences de la tâche.
- Maintenir la responsabilité humaine pour les décisions financières, médicales, juridiques et critiques pour la sécurité.
- Fournissez aux outils d'IA le minimum de données et d'autorisations dont ils ont besoin.
- Mesurez les performances après le déploiement, et pas seulement avant le lancement.
- Enregistrez les défaillances et les quasi-accidents afin d'enrichir la base de données probantes.
- Informez les utilisateurs lorsque du contenu ou des décisions impliquent de manière significative l'IA.
Le Mythic Mode perspective
La leçon la plus utile est d'ordre culturel : la confiance doit reposer sur des preuves. L'IA peut accélérer la recherche, la conception et les opérations, mais la rapidité ne garantit pas la fiabilité. Un système inspire davantage confiance lorsque ses limites sont visibles, ses actions peuvent être examinées et ses opérateurs sont prêts à dire : « Nous ne savons pas encore. »
Le rapport ne tranche pas tous les débats. Il fournit une base scientifique commune pour prendre de meilleures décisions, alors que les capacités et les risques continuent d’évoluer.