Imaginons un laboratoire qui mettrait en vente, librement, un complément alimentaire sans en avoir testé l’innocuité. Il serait sanctionné aussitôt — au nom d’un principe que toute société a fini par admettre : on ne soumet pas une population à un produit dont on ignore les effets sans l’avoir évalué d’abord. La charge de la preuve pèse sur le producteur. Interdit, tant que la sûreté n’est pas démontrée.
Ce principe traverse le médicament, la sécurité alimentaire, la recherche. Là, il porte même un nom : la Déclaration d’Helsinki (1964, révisée en octobre 2024), qui exige un consentement libre et informé, une évaluation indépendante des risques avant tout déploiement, et une protection des plus vulnérables. Helsinki ne s’applique pas, juridiquement, à un produit commercial — mais elle codifie une exigence universelle : d’abord prouver, ensuite exposer.
Le numérique a renversé cet ordre. Avec les réseaux sociaux, puis avec l’intelligence artificielle, la règle est devenue : autorisé tant que le danger n’est pas prouvé. On déploie d’abord, on observe les dégâts ensuite, et l’on régule — peut-être — quand les symptômes deviennent indéniables.
Or cette expérience, nous l’avons déjà menée. Les réseaux sociaux, présentés d’abord comme un outil de lien, sont devenus un dispositif commercial de captation de l’attention. Leurs effets — sur la santé mentale des adolescents, sur la polarisation, sur le rapport à l’information — auraient dû déclencher une évaluation. Il aura fallu attendre plus de quinze ans pour une première régulation réellement contraignante en Europe, le Digital Services Act de 2022, pendant que les dégâts s’installaient. Nous connaissons donc le résultat du protocole « déployer d’abord, évaluer après ».
Et l’on relance le même protocole avec l’IA — en connaissance de cause, cette fois. C’est ici qu’un rapport d’Amnesty International (mai 2026) ajoute une pièce décisive. L’organisation y soutient que nombre de systèmes d’IA générative grand public seraient « illégaux par conception » : ils reposent sur une collecte massive de données personnelles — nos visages, nos textes, nos œuvres, nos conversations — aspirées sans consentement réel, ce qu’elle nomme une « invasion massive de la vie privée par conception ». C’est la position, assumée, d’une ONG de défense des droits — pas un verdict de justice : l’illégalité concrète dépendra des juridictions. Mais le constat de fond est difficile à esquiver.
Car il révèle que l’absence de consentement est double. En aval, on expose des milliards de personnes à un produit sans en avoir évalué l’impact. En amont, on a construit ce produit à partir de leurs données, sans le leur demander. Les deux extrémités de la chaîne sont sans consentement : la matière première et l’exposition.
Reste ce que ni l’amont ni l’aval n’ont mesuré, et qui m’inquiète comme clinicien : les conséquences au long cours. Amnesty nomme désormais la liberté de pensée parmi les droits menacés — la tendance à déléguer son jugement à une réponse fluide et assurée, l’effet d’une information biaisée répétée jusqu’à paraître crédible. Or un effet différé n’est pas visible au déploiement : il n’apparaît qu’une fois installé. C’est précisément pourquoi l’évaluation préalable n’est pas un luxe.
Soyons justes : la médecine connaît des consentements imparfaits — urgences, santé publique —, et toute technologie diffuse impose un risque collectif que nul n’a individuellement accepté. Ce qui distingue l’IA, ce n’est pas le principe, mais l’absence totale d’étalon : aucune évaluation indépendante, aucun seuil d’innocuité, aucune protection des vulnérables avant la mise sur le marché.
Amnesty insiste sur un point que je reprends : cela n’a rien d’inéluctable. Concevoir ces systèmes par captation massive est un choix. Il ne s’agit pas de refuser l’IA — elle est utile —, mais de remettre l’ordre à l’endroit : évaluer avant d’exposer, documenter l’origine des données, recueillir un consentement réel, soutenir des modèles plus sobres et d’intérêt général. Pour le Maroc et l’Afrique, l’enjeu est aussi de ne pas être la cohorte silencieuse d’une expérience dont nous n’avons pas écrit le protocole.
Nous avons mis des siècles à établir un principe : prouver qu’une chose est sûre avant d’y exposer les gens. Le numérique l’a suspendu une première fois, avec les réseaux sociaux. Il le suspend une seconde fois, avec l’IA. La différence, c’est que cette fois, nous savons.
Par Dr Wadih Rhondali – Psychiatre
Contactez Nous