Le parrain de l'IA, lauréat du prix Nobel, Hinton, soutient une action en justice contre OpenAI pour bloquer la transition à but lucratif

La transition d'OpenAI suscite la controverse

La semaine dernière, OpenAI a annoncé son intention de diviser son organisation en deux entités, une à but lucratif et une à but non lucratif, une décision qui a suscité de vives discussions et controverses au sein de la communauté de l'intelligence artificielle.

Le soutien à l'action en justice de Musk

Auparavant, le PDG de Tesla, Elon Musk, avait intenté une action fédérale contre OpenAI en novembre, cherchant à empêcher sa transition par une injonction préliminaire. Cette action en justice a maintenant reçu le soutien de plusieurs personnalités, dont Geoffrey Hinton, lauréat du prix Nobel et surnommé le "parrain de l'IA".

La position de Geoffrey Hinton

Geoffrey Hinton, très respecté pour ses contributions dans le domaine des réseaux neuronaux artificiels, est non seulement lauréat du prix Turing, mais a également remporté le prix Nobel de physique en 2024. Hinton a publiquement exprimé son soutien à l'action en justice visant à bloquer la transition d'OpenAI, estimant que cette démarche viole les engagements initiaux d'OpenAI en matière de sécurité.

L'organisation Encode se joint à l'action en justice

L'organisation de défense des jeunes, Encode, a également soumis un exposé d'amicus curiae, soutenant l'action en justice de Musk. Encode, qui a participé à la législation californienne sur la sécurité de l'IA, estime que la transition à but lucratif d'OpenAI compromettra sa mission axée sur la sécurité et l'intérêt public.

Le point de vue d'Encode

Encode estime qu'OpenAI internalise les profits de l'intelligence artificielle, tout en externalisant les risques pour l'humanité entière. Ils soulignent que si le monde est à l'aube d'une nouvelle ère d'intelligence artificielle générale, cette technologie devrait être contrôlée par une organisation caritative publique, soumise à la loi et accordant la priorité à la sécurité et à l'intérêt public, plutôt que par une organisation axée sur la création de rendements financiers pour un petit nombre d'investisseurs.

Le cœur du défi juridique

Les avocats d'Encode soulignent que l'organisation à but non lucratif d'OpenAI s'était engagée à ne pas concurrencer les projets "alignés sur les valeurs et soucieux de la sécurité". Cependant, une fois la transition vers une organisation à but lucratif effectuée, la situation sera très différente. De plus, une fois la restructuration terminée, le conseil d'administration de l'organisation à but non lucratif ne pourra plus annuler les participations des investisseurs en fonction des besoins de sécurité.

Exode de talents et préoccupations en matière de sécurité

OpenAI a récemment connu un exode de talents de haut niveau, en partie parce que les employés craignent que l'entreprise sacrifie la sécurité à des fins commerciales. L'ancien chercheur politique Miles Brundage estime que la partie à but non lucratif d'OpenAI pourrait devenir une "activité secondaire", tandis que la partie à but lucratif fonctionnerait comme une "entreprise normale", sans que les problèmes de sécurité potentiels ne soient résolus.

Considérations relatives à l'intérêt public

Encode estime que la responsabilité envers l'humanité qu'OpenAI prétend assumer n'existera plus, car la loi du Delaware stipule clairement que les administrateurs d'une société d'intérêt public ne sont pas responsables envers le public. Ils estiment qu'un organisme à but non lucratif axé sur la sécurité et dont la mission est limitée, qui cède le contrôle à une entreprise à but lucratif sans engagement exécutoire en matière de sécurité, nuira à l'intérêt public.

Calendrier des audiences

L'audience sur l'injonction préliminaire est prévue le 14 janvier 2025 devant la juge de district américaine Yvonne Gonzalez Rogers.

L'histoire et la transformation d'OpenAI

OpenAI a été créée en 2015 en tant que laboratoire de recherche à but non lucratif. Au fur et à mesure que les expériences progressaient, l'entreprise est devenue de plus en plus gourmande en capital et a commencé à accepter des investissements extérieurs. En 2019, OpenAI s'est transformée en une startup à structure hybride, avec une organisation à but non lucratif contrôlant l'entité à but lucratif. Récemment, OpenAI a prévu de transformer son entreprise à but lucratif en une société d'intérêt public (PBC) du Delaware et d'émettre des actions ordinaires. La partie à but non lucratif sera conservée, mais elle abandonnera le contrôle en échange d'actions de la PBC.

Les accusations de Musk

Musk accuse OpenAI d'avoir abandonné sa mission caritative initiale, qui consistait à rendre les résultats de la recherche sur l'intelligence artificielle accessibles à tous, et de dépouiller ses concurrents de capital par des moyens anticoncurrentiels.

La réponse d'OpenAI

OpenAI a qualifié les plaintes de Musk de "dénuées de fondement" et simplement de "râleries".