Un appel au calme face aux discours alarmistes
Alors que les déclarations inquiétantes se multiplient chez les grandes entreprises d’intelligence artificielle, un chercheur français de premier plan invite le public à rester calme et sceptique face à ce qu’il décrit comme un marketing stratégique de la peur, au service d’intérêts commerciaux.
Laurent Daudet, professeur à l’École Normale Supérieure (ENS) et fondateur de la start-up d’IA générative LightOn, a livré un contrepoint à ce récit dans un entretien accordé à BFMTech. Il met en garde contre une lecture au premier degré de ces déclarations.
« Il faut garder la tête froide et prendre du recul par rapport à ces propos », a déclaré M. Daudet.
Un précédent chez OpenAI
Le chercheur rappelle un précédent : en 2019, lors de la publication de GPT-2, OpenAI affirmait que le modèle était « trop dangereux pour être rendu public ».
Selon lui, ces annonces servent les intérêts des plus grands acteurs du secteur. « Cela permet aux entreprises qui développent ces modèles de devenir de plus en plus secrètes sur la manière dont ils sont conçus et déployés, tout en suggérant qu’elles disposent d’une avance insurmontable sur leurs concurrents », a-t-il expliqué.
Il prédit que de telles déclarations pourraient se multiplier à mesure qu’Anthropic et OpenAI se préparent à une introduction en bourse, et que la concurrence entre la Chine et les États-Unis s’intensifie.
Des risques concrets à ne pas négliger
M. Daudet avertit que les discours apocalyptiques ne doivent pas occulter des défis bien réels. Il cite notamment l’impact de l’IA sur l’emploi et l’éducation, ainsi que le coût environnemental croissant de la technologie, qui repose sur des centres de données gourmands en énergie et en eau.
Le développement de l’IA étant encore largement non régulé, il estime qu’il devrait faire l’objet d’« audits plus véritablement indépendants », dont la méthodologie serait supervisée par un éventail plus large de parties prenantes — développeurs open source, société civile et universitaires — et non par les seules entreprises privées.
Il énumère des risques tangibles : menaces de cybersécurité, désinformation, suppressions d’emplois, impact climatique, perturbations de l’éducation, déséquilibres économiques et dépendance technologique.
Le scepticisme face à la superintelligence
M. Daudet se montre toutefois dubitatif quant à la perspective d’une superintelligence artificielle rebelle. « Nous sommes encore très loin de quoi que ce soit qui ressemble à une “IA générale” », a-t-il affirmé.
« Même si j’adore la science-fiction, il faut se méfier des fantasmes qu’elle induit, en particulier les fantasmes anthropomorphiques qui attribuent des sentiments, des intentions ou une conscience à un algorithme », a-t-il noté. « Il y a toujours un humain qui a installé le modèle, un serveur physique qui le fait tourner, et un autre humain qui l’a lancé sur un ensemble d’instructions. »
Il reconnaît néanmoins des marges de progression dans l’« alignement » de l’IA — le processus consistant à définir les intentions et les valeurs d’un système. Ce paramètre, plus difficile à programmer qu’une pure formule mathématique, peut comporter des imperfections entraînant des erreurs graves.
