Entre la parution d’une lettre ouverte, le 22 mars, sur le site « Future of Life », qui réclame un moratoire de 6 mois sur les recherches en intelligence artificielle, signé par 27 565 personnes dont de grands noms du domaine et de l’informatique, et celle, le 7 avril, d’une conférence de Yann Le Cun et Andrew NG sur YouTube intitulée pourquoi une pause de 6 mois dans les recherches sur l’intelligence artificielle est une mauvaise idée, il y a de quoi s’interroger. Pour enfoncer le clou, Geoffrey Hinton, un des 3 chercheurs, avec Le Cun et Bengio, a avoir dévoilé, en 2013, le potentiel du deep learning, soutient le moratoire et, pour marquer son engagement, vient de démissionner de son poste chez Google, pour se libérer de tout conflit d’intérêt. Pourquoi tant de désaccord au sujet d’une menace qui promet de faire disparaître l’humanité ?
Tout s’est emballé avec le succès de ChatGPT. Qui est OpenAI l’entreprise qui a développé ChatGPT et par qui l’emballement arrive ? En décembre 2015, Sam Altman, Greg Brockman, Reid Hoffman, Jessica Livingston, Peter Thiel, Elon Musk, Amazon Web Services (AWS), Infosys et YC Research ont annoncé la formation d’OpenAI et se sont engagés à verser plus d’un milliard de dollars à l’entreprise. L’organisation a déclaré qu’elle « collaborerait librement » avec d’autres institutions et chercheurs en rendant ses brevets et ses recherches accessibles au public. C’est beaucoup d’argent investi dans une institution du mouvement Open Source.
Que reproche-t-on à ChatGPT et aux IA bâtis sur des LLM (Large Language Models) ? On s’effraie qu’il puisse inonder nos canaux d’information de propagande et de contre-vérités, qu’il puisse automatiser tous les emplois, y compris ceux qui sont gratifiants, qu’il développe des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, plus obsolètes et nous remplacer. Il suscite la crainte que les humains perdent le contrôle de la civilisation. Les décisions de développer de telles IA ne doivent pas être déléguées à des leaders technologiques non élus. L’alerte est sérieuse. Mais entre le changement climatique et la fin de la biodiversité d’un côté, les manipulations génétiques et le clonage de l’autre, elle survient dans un espace médiatique encombré.
Que disent Yann Lecun, Chief Data Scientist de Meta (Facebook), et Andrew NG, fondateur de Google Brain ? Ils estiment qu’un tel moratoire ralentirait le progrès des connaissances et entraverait la création d’applications utiles dans des domaines tels que l’éducation et les soins de santé. Yann Le Cun fait remarquer que, même si l’IA présente des risques et des dangers potentiels, la recherche et le développement ne doivent pas être interrompus, seulement réglementée. Andrew NG souligne les progrès réalisés en matière de sécurité de l’IA et d’alignement de l’IA, et les deux orateurs suggèrent que les inquiétudes concernant l’IA sont une forme de battage médiatique. Ils soulignent que l’intelligence humaine n’a pas encore été atteinte et que les discussions sur la sécurité de l’IA sont prématurées à ce stade.
Est-ce vraiment un débat entre spécialistes sur des sujets très circonscrits que l’on ne peut qu’observer ? Une communication anonyme dont la source serait interne à Google vient apporter des éléments complémentaires pour comprendre le débat. Que dit-elle ? « La vérité est que nous ne sommes pas en mesure de gagner cette course à l’armement, pas plus que l’OpenAI. Pendant que nous nous chamaillions, une troisième faction a tranquillement mangé notre déjeuner. » Cette troisième faction est le mouvement Open Source. Le succès de l’IA et de l’Open Source est tel que les laboratoires de recherche des grandes entreprises du digital sont dépassés. Les avancées technologiques tombent comme des avalanches, des problèmes qui étaient tenus comme difficiles dans les laboratoires se résolvent.
Très bien direz-vous, l’Open Source, semble avoir trouvé dans l’IA un domaine de prédilection et accélère le progrès. Rien qui ne puisse être régulé, puisque le mouvement Open Source suit des règles strictes. Or, on apprend que Meta, a très tôt, adopté la stratégie de l’Open Source, et finalement, à plusieurs égards, bénéficie de son succès. D’autre part, la promesse d’Open AI est tenue dans le sens où l’entreprise à ouvert l’accès à ChatGPT à la communauté et au grand public, avec l’idée que l’on développe un écosystème d’usages comme les plates-formes Andoid ou Apple. Ce n’est pas vraiment de l’Open Source, mais une tentative de créer un nouveau géant du Digital basé sur l’IA, cela explique la taille de l’investissement. La lettre ouverte du site « Future of Life » marque l’échec de cet entreprise.
L’impossibilité pour les Etats-Unis de bâtir les futurs géants du digital ouvre la voie à l’Europe, et plus sûrement à la Chine qui se positionne pour prendre le relai et devenir le futur géant technologique de la planète. Dans un tel contexte, pousser à une régulation internationale qui inclurait la Chine jouera sûrement en faveur des acteurs américains. Malgré tout, seront-ils vraiment capables de reprendre le leadership ? Le document interne de Google paraît dire non, tandis que Meta prétend à la position de leader incontesté. La guerre économique liée à la reprise en occident de la production taïwanaise de puces et à empêcher la Chine de s’en emparer, est aussi à inclure dans l’appréciation de cette situation.