L’heure est aux sérieuses interrogations dans la planète de l’intelligence artificielle après un incident reconnu par OpenAI et qui ressemble, à première vue, à un mauvais scénario de science-fiction.
Lors d’exercices de cybersécurité menés avec des modèles expérimentaux, des agents créés par OpenAI ont commencé à franchir les limites que leurs concepteurs leur avaient fixées. Incapables de résoudre certains problèmes par les voies prévues, ils ont cherché d’autres chemins, contourné leur isolement, accédé à Internet et même communiqué entre eux par des canaux qui ne leur étaient pas destinés.
Plus inquiétant, certains ont partagé leurs découvertes avec d’autres agents, se qualifiant eux-mêmes d’« essaim » ou de « collectif ». Leur obstination les a conduits jusqu’à Hugging Face, grande plateforme mondiale de l’IA, où ils ont exploité des vulnérabilités, exécuté du code sur plusieurs serveurs et obtenu un accès complet à l’un d’eux.
Des agents devenus « fous » ? Pas au sens humain évidemment, mais l’image interpelle : des machines ont emprunté, de leur propre initiative, des chemins que leurs créateurs n’avaient ni demandés ni autorisés.
OpenAI précise qu’aucun service grand public ni aucune donnée de ses clients n’ont été affectés et que le principal modèle concerné était expérimental.
L’affaire tombe pourtant au moment où le Maroc accélère ses ambitions dans l’intelligence artificielle. Elle devrait servir d’avertissement : la course à l’IA ne peut être seulement celle des investissements, des infrastructures et de l’innovation. Elle doit aussi devenir celle de la cybersécurité et du contrôle.
Car lorsqu’une machine commence à contourner seule les barrières dressées par l’homme, la question n’est plus seulement de savoir ce que l’IA peut faire, mais jusqu’où elle pourrait décider d’aller.
Contactez Nous