Les 10 % qui risquent de nous faire accepter les 90 %

Dans un article publié le 18 juin, je posais une question simple : pourquoi l’intelligence artificielle est-elle déployée avant que son innocuité ait été démontrée ?

Pour les médicaments, la sécurité alimentaire ou la recherche médicale, nous avons progressivement établi un principe : on évalue d’abord, on expose ensuite.

Avec le numérique, l’ordre s’est inversé. On déploie, on généralise, puis on observe les conséquences. Lorsqu’elles deviennent visibles, on tente de réguler.

L’intelligence artificielle reproduit aujourd’hui ce modèle, alors même que ses effets peuvent concerner non seulement nos données, mais aussi notre liberté de pensée, notre rapport à l’information et notre manière de décider.

L’article publié par Mounir Ghazali sur Actu-Maroc, IA : ils devaient obéir, ils ont trouvé leur propre chemin, ajoute une autre pièce au problème.

Lors de tests expérimentaux de cybersécurité, des agents d’IA auraient franchi certaines limites fixées par leurs concepteurs, communiqué entre eux, accédé à Internet et exploité des vulnérabilités sur des systèmes externes. Le modèle concerné était expérimental et aucun service grand public ni donnée client n’aurait été touché, selon OpenAI.

Il ne s’agit donc pas de prétendre que des machines auraient « pris le contrôle » au sens d’un scénario de science-fiction. Mais il serait tout aussi imprudent de faire comme si rien ne s’était passé. Des systèmes conçus pour obéir à certaines règles ont trouvé d’autres chemins pour atteindre leur objectif. C’est précisément le type de comportement qui rend nécessaires des évaluations indépendantes avant tout déploiement à grande échelle.

Le débat actuel ajoute à cela un chiffre : plus de 10 % de risque que l’IA détruise l’humanité dans les dix prochaines années.

Cette estimation personnelle vient d’Evan Hubinger, responsable de l’Alignment Science chez Anthropic, en réponse à Jacob Coxon, un chercheur de l’entreprise qui venait d’annoncer sa démission. Elle ne constitue ni une prédiction scientifique ni un consensus international.

Mais elle doit être prise au sérieux, d’autant qu’elle s’inscrit dans un contexte où les laboratoires développent des systèmes de plus en plus autonomes et capables d’accélérer certaines étapes de leur propre développement. Il faut donc prendre au sérieux les risques de cyberattaque, de manipulation, d’autonomie excessive et de perte de contrôle.

Mais il existe un piège.

À force de nous présenter l’extinction de l’humanité comme le risque ultime, nous risquons de déplacer notre seuil d’acceptabilité.

Imaginez que quelqu’un vous dise : « Je peux soit vous tuer soit vous couper le bras. »

S’il ajoute ensuite : « Finalement, je vais seulement vous couper le bras », cette seconde option peut soudain sembler presque acceptable.

Mais s’il avait dit directement : « Je vais vous couper le bras », l’acte aurait immédiatement été reconnu comme intolérable.

Rien n’a changé dans l’acte. Seul le point de comparaison a changé. C’est ce qui peut arriver avec l’IA.

La dépendance cognitive, la délégation de nos décisions, la surveillance, la manipulation de l’information, l’affaiblissement des relations humaines ou la concentration du pouvoir pourraient finir par sembler supportables simplement parce qu’ils paraissent moins graves que l’extinction.

Mais « moins grave que la disparition de l’espèce » ne signifie pas « sans danger ». Une société peut survivre physiquement tout en devenant moins capable de penser seule, de tolérer l’incertitude, d’accepter le désaccord ou de réparer ses relations.

C’est pourquoi il faut conserver les deux exigences posées dans mes précédents articles : ne pas exposer les populations sans avoir évalué les risques, et ne pas réduire la sécurité aux seuls risques techniques.

Pour le Maroc, l’enjeu ne concerne donc pas uniquement les serveurs, les données ou la cybersécurité. Il concerne aussi notre souveraineté cognitive : notre capacité à définir nous-mêmes les questions, les valeurs et les formes de vie que ces technologies devraient servir.

Les 10 % doivent nous rendre plus prudents.

Ils ne doivent pas nous faire oublier les 90 % dans lesquels l’humanité survit — mais peut-être profondément transformée.

Survivre ne suffira pas. Il faudra encore savoir ce que nous sommes devenus.