Le célèbre physicien américain et lauréat du prix Nobel, John Hopfield, a récemment exprimé ses préoccupations quant aux risques posés par le développement rapide de l’intelligence artificielle (IA). Selon lui, les récents progrès technologiques sont « inquiétants » et pourraient mener à une catastrophe si cette évolution n’est pas correctement encadrée.
Lors d’une intervention en visioconférence depuis la Grande-Bretagne, au cours d’une rencontre organisée à l’Université du New Jersey, le professeur émérite de l’Université de Princeton, âgé de 91 ans, a appelé à une meilleure compréhension du fonctionnement des systèmes d’intelligence artificielle pour éviter toute perte de contrôle.
Hopfield a expliqué qu’au cours de sa vie, il a été témoin de l’émergence de deux technologies puissantes et potentiellement dangereuses : la biotechnologie et la physique nucléaire. Il a souligné que les technologies ne sont ni entièrement bonnes ni mauvaises, mais qu’elles peuvent évoluer dans les deux directions. En tant que physicien, il se dit particulièrement préoccupé par l’incapacité à maîtriser ou à comprendre suffisamment les limites de ces nouvelles technologies, notamment l’intelligence artificielle.
« C’est la question que soulève l’intelligence artificielle », a-t-il déclaré. Bien que les systèmes d’IA modernes apparaissent comme des « merveilles absolues », leur fonctionnement reste mal compris, ce qui est, selon lui, « très préoccupant ». Il a également rappelé que, comme Geoffrey Hinton, un autre prix Nobel, il insiste sur la nécessité d’un meilleur encadrement et d’une compréhension approfondie de ces technologies.
John Hopfield a également mis en garde contre le risque de conséquences imprévues et spontanées liées à l’évolution de l’IA. Il a illustré son propos en faisant référence à l’exemple de la substance fictive « ice-nine », inventée par l’écrivain de science-fiction Kurt Vonnegut dans son roman Mère Nuit (1963). Cette substance, conçue à l’origine pour faciliter la mobilité des soldats dans le sol boueux, a fini par geler les océans, entraînant la destruction de la civilisation.
Cependant, au-delà des risques purement technologiques, une autre dimension mérite d’être abordée : l’impact socio-économique du développement rapide de l’IA. Si Hopfield s’est concentré sur les dangers liés à la maîtrise de la technologie, il a omis de discuter des conséquences sociales, telles que la disparition de certains métiers et l’aggravation des inégalités. L’IA pourrait, sans cadre réglementaire et économique adapté, bouleverser des pans entiers de l’économie, générant des déséquilibres majeurs. Pour cela, il est crucial de réfléchir à un encadrement à la fois technologique, éthique et social afin d’éviter des conséquences sociales profondes et inattendues.
En conclusion, Hopfield a exprimé sa crainte que les technologies modernes, y compris l’IA, puissent se développer de manière incontrôlée, avec des conséquences potentiellement catastrophiques pour l’humanité. Il a insisté sur l’importance de mettre en place des garde-fous pour éviter que ces innovations ne deviennent des forces destructrices.
Contactez Nous