OpenAI modifie ses principes : ce qui change

OpenAI se montre aujourd'hui moins préoccupée par l'intelligence artificielle générale (AGI) qu'il y a presque dix ans et privilégie désormais un déploiement plus large de sa technologie, selon un nouveau texte définissant la mission de l'entreprise.Dimanche, OpenAI a publié une mise à jour de son document « Nos principes », qui définit la manière dont l'entreprise entend gérer sa technologie à l'avenir.Ce nouveau jeu de principes diffère sur plusieurs points essentiels de ce que l'entreprise mettait en avant il y a près de dix ans, lorsqu'elle n'était encore qu'une jeune organisation de recherche à but non lucratif en intelligence artificielle (IA).L'intelligence artificielle générale reléguée au second planEn 2018 (source en anglais), OpenAI était résolument focalisée sur la super-intelligence artificielle générale (AGI), c'est-à-dire l'idée que sa technologie finirait par dépasser l'intelligence humaine ; aujourd'hui, ce n'est plus qu'un élément d'un déploiement d'IA beaucoup plus large au sein de l'entreprise.Les deux versions des principes de l'entreprise indiquent que la mission d'OpenAI est de garantir que cette technologie « bénéficie à l'ensemble de l'humanité », mais la version de 2018 mentionne explicitement la nécessité de la développer de manière sûre et bénéfique.« Notre obligation fiduciaire principale est envers l'humanité », peut-on lire dans le document. « Nous anticipons de devoir mobiliser des ressources considérables pour remplir notre mission, mais nous agirons toujours avec diligence pour réduire au minimum les conflits d'intérêts entre nos employés et nos parties prenantes susceptibles de compromettre l'intérêt général. »La 2026 version (source en anglais), toutefois, indique qu'il faut continuer à concevoir des systèmes sûrs, mais que la société doit se confronter à « chaque nouveau palier de capacité de l'IA, le comprendre, l'intégrer et déterminer ensemble la meilleure voie à suivre ».Pour Sam Altman, directeur général et cofondateur d'OpenAI, la voie à suivre en 2026 consiste à démocratiser l'IA à tous les niveaux, en la rendant accessible à tous et en s'opposant à l'idée que cette technologie puisse « concentrer le pouvoir entre les mains de quelques-uns ».Le document de principes 2026 ajoute qu'OpenAI devrait travailler avec les gouvernements, les agences internationales et d'autres initiatives en matière d'AGI afin de « résoudre suffisamment les problèmes graves d'alignement, de sécurité ou de société avant d'aller plus loin » dans ses travaux.Concrètement, cela pourrait passer par l'utilisation de ChatGPT pour contrer des modèles capables de créer de nouveaux agents pathogènes ou par l'intégration de modèles cyberrésilients dans des infrastructures critiques.Altman a donné quelques clés de ce recul d'OpenAI sur l'AGI sur son blog personnel plus tôt ce mois-ci.L'AGI a quelque chose d'un « anneau de pouvoir » qui « pousse les gens à faire des choses folles », écrit Altman. Pour y faire face, il estime que la seule solution est de « s'orienter vers un partage large de la technologie avec le plus grand nombre, afin que personne n'ait l'anneau ».OpenAI ne se mettra plus en retrait au profit d'un produit concurrent jugé plus sûrEn 2018, OpenAI disait craindre que le développement de l'AGI ne devienne « une course à la compétitivité ne laissant pas le temps de prendre des précautions de sécurité adéquates ».L'entreprise s'engageait à suspendre le développement de ses propres modèles pour aider tout projet « aligné sur [ses] valeurs et soucieux de sécurité » qui se rapprocherait davantage de la construction d'une AGI.« Nous préciserons les modalités... mais un déclencheur typique pourrait être une probabilité supérieure à une chance sur deux de succès dans les deux prochaines années », pouvait-on lire dans le document de 2018.En 2026, il n'est plus question de se mettre en retrait au nom d'une cause supérieure. Le document reconnaît au contraire qu'OpenAI « pèse aujourd'hui bien davantage dans le monde qu'il y a quelques années » et promet d'être transparente quant aux moments et aux modalités selon lesquels ses principes de fonctionnement pourraient évoluer.L'entreprise est engagée dans une intense compétition avec plusieurs rivaux, dont Anthropic.En février, Anthropic a refusé d'accorder à l'administration du président américain Donald Trump un accès illimité à son IA à des fins militaires, ce qui a conduit à ce que l'entreprise soit qualifiée de risque pour la chaîne d'approvisionnement et a entraîné l'ordre donné aux agents fédéraux de cesser d'utiliser en mars l'assistant d'IA d'Anthropic, Claude.Le 28 février, OpenAI s'est engouffrée dans la brèche en signant un accord avec le Department of War, ce qui a poussé certains utilisateurs à boycotter ChatGPT au profit de Claude.Anthropic a également été valorisée ce mois-ci à 800 milliards de dollars (696 milliards d'euros), soit un niveau comparable à celui d'OpenAI.Des appels, plutôt vagues, adressés à l'ensemble de la sociétéDans le document de 2026, OpenAI réclame plusieurs changements de société pour que le monde s'adapte mieux à l'IA.« Nous imaginons un monde où la prospérité serait largement partagée, à un niveau qu'il est actuellement difficile d'imaginer », peut-on lire dans le document. « Beaucoup de choses que nous ne nous sommes autorisés à rêver que dans la science-fiction pourraient devenir réalité, et la plupart des gens pourraient mener une vie plus riche de sens que ce que la plupart peuvent espérer aujourd'hui. »Cet avenir n'est toutefois pas garanti, car l'IA peut soit être « détenue par un petit nombre d'entreprises utilisant et contrôlant la superintelligence », soit être « détenue de manière décentralisée par les gens », poursuit le texte.Le document sur les principes réaffirme aussi certaines des propositions politiques récentes d'OpenAI, comme l'appel aux gouvernements à envisager « de nouveaux modèles économiques » et à développer de nouvelles technologies permettant de faire baisser le coût des infrastructures d'IA.« Beaucoup de choses que nous faisons et qui paraissent étranges, comme acheter d'énormes capacités de calcul alors que notre chiffre d'affaires reste relativement modeste, sont guidées par notre conviction fondamentale en un avenir de prospérité universelle », indique encore le document.