Rétrospective sur le parcours d'OpenAI et l'avenir de l'IA

Les débuts et la naissance de ChatGPT

Le deuxième anniversaire de ChatGPT est passé il y a à peine plus d'un mois, et nous avons déjà basculé dans un nouveau paradigme de modèles capables de raisonnements complexes. La nouvelle année incite à la réflexion, et je souhaitais partager quelques pensées personnelles sur le chemin parcouru et sur ce que j'ai appris en cours de route.

Alors que nous nous rapprochons de l'AGI (Intelligence Artificielle Générale), il semble important de nous pencher sur les progrès de notre entreprise. Il y a encore tellement de choses à comprendre, tellement de choses que nous ignorons, et nous n'en sommes qu'au début. Cependant, nous en savons beaucoup plus que lorsque nous avons commencé.

Nous avons fondé OpenAI il y a près de neuf ans parce que nous croyions que l'AGI était possible et qu'elle pourrait être la technologie la plus marquante de l'histoire de l'humanité. Nous voulions comprendre comment la construire et la rendre bénéfique pour tous. Nous étions enthousiastes à l'idée de laisser notre empreinte dans l'histoire. Nos ambitions étaient extrêmement élevées, tout comme notre conviction que ce travail pourrait profiter à la société de manière tout aussi extraordinaire.

À l'époque, très peu de gens s'en souciaient, et s'ils le faisaient, c'était surtout parce qu'ils pensaient que nous n'avions aucune chance de réussir.

En 2022, OpenAI était un laboratoire de recherche discret travaillant sur ce qui s'appelait temporairement "Chat With GPT-3.5". (Nous sommes bien meilleurs en recherche qu'en dénomination.) Nous avions observé l'utilisation de la fonctionnalité "playground" de notre API et nous savions que les développeurs appréciaient vraiment de pouvoir échanger avec le modèle. Nous avons pensé que la création d'une démo autour de cette expérience montrerait aux gens quelque chose d'important concernant l'avenir et nous aiderait à améliorer nos modèles et à les rendre plus sûrs.

Nous avons finalement, par chance, choisi de l'appeler ChatGPT et nous l'avons lancé le 30 novembre 2022.

Nous savions, de manière abstraite, qu'à un moment donné, nous atteindrions un point de bascule et que la révolution de l'IA démarrerait. Mais nous ne savions pas quel serait ce moment. À notre grande surprise, il s'est avéré que c'était celui-ci. Le lancement de ChatGPT a initié une courbe de croissance sans précédent, que ce soit dans notre entreprise, dans notre secteur ou dans le monde en général. Nous constatons enfin certains des avantages considérables que nous avons toujours espérés de l'IA, et nous pouvons voir tout ce qui va arriver prochainement.

Les défis et les leçons apprises

Cela n'a pas été facile. Le chemin n'a pas été sans embûches et les bons choix n'ont pas toujours été évidents.

Au cours des deux dernières années, nous avons dû construire toute une entreprise, presque à partir de zéro, autour de cette nouvelle technologie. Il n'y a pas de formation possible, si ce n'est en faisant, et lorsque la catégorie de technologie est totalement inédite, personne ne peut vous dire exactement comment il faut s'y prendre.

Développer une entreprise à une telle vitesse, avec si peu de préparation, est un processus désordonné. C'est souvent deux pas en avant, un pas en arrière (et parfois, un pas en avant et deux pas en arrière). Les erreurs sont corrigées au fur et à mesure, mais il n'y a pas vraiment de manuels ou de points de repère lorsque vous faites un travail original. Avancer à toute vitesse en eaux inconnues est une expérience incroyable, mais c'est aussi extrêmement stressant pour tous les acteurs. Les conflits et les malentendus sont nombreux.

Ces dernières années ont été les plus enrichissantes, amusantes, les meilleures, les plus intéressantes, les plus épuisantes, les plus stressantes et, en particulier pour les deux dernières, les plus désagréables de ma vie jusqu'à présent. Le sentiment dominant est la gratitude. Je sais qu'un jour, à la retraite, dans mon ranch, je regarderai les plantes pousser, un peu ennuyé, et je me rappellerai à quel point c'était génial d'avoir pu faire le travail dont je rêvais depuis que j'étais petit. J'essaie de m'en souvenir chaque vendredi, quand sept choses tournent mal avant 13 heures.

Il y a un peu plus d'un an, un vendredi en particulier, le principal problème de la journée était que j'avais été licencié par surprise lors d'un appel vidéo, et qu'immédiatement après avoir raccroché, le conseil d'administration publiait un article de blog à ce sujet. J'étais dans une chambre d'hôtel à Las Vegas. J'ai eu l'impression, à un degré presque impossible à expliquer, que mon rêve avait viré au cauchemar.

Être licencié publiquement sans préavis a déclenché quelques heures vraiment folles, et quelques jours assez dingues. Le "brouillard de guerre" était la partie la plus étrange. Aucun d'entre nous n'a pu obtenir de réponses satisfaisantes sur ce qui s'était passé, ni pourquoi.

L'événement tout entier a été, à mon avis, un grand échec de gouvernance de la part de personnes bien intentionnées, moi y compris. Avec le recul, j'aurais certainement aimé faire les choses différemment, et j'aime à croire que je suis un leader meilleur et plus réfléchi aujourd'hui qu'il y a un an.

J'ai également appris l'importance d'un conseil d'administration aux points de vue diversifiés et doté d'une vaste expérience dans la gestion d'un ensemble complexe de défis. Une bonne gouvernance nécessite beaucoup de confiance et de crédibilité. J'apprécie la façon dont tant de personnes ont collaboré pour construire un système de gouvernance plus solide pour OpenAI, qui nous permet de poursuivre notre mission de faire en sorte que l'AGI profite à toute l'humanité.

Ma plus grande leçon à retenir est à quel point je dois être reconnaissant et à combien de personnes je dois de la gratitude : à tous ceux qui travaillent chez OpenAI et qui ont choisi de consacrer leur temps et leurs efforts à la poursuite de ce rêve, aux amis qui nous ont aidés à traverser les moments de crise, à nos partenaires et clients qui nous ont soutenus et nous ont fait confiance pour leur permettre de réussir, et aux personnes de ma vie qui m'ont montré à quel point elles se souciaient de moi.

Nous nous sommes tous remis au travail de manière plus cohérente et positive, et je suis très fier de notre concentration depuis lors. Nous avons réalisé ce qui est sans doute l'une de nos meilleures recherches. Nous sommes passés d'environ 100 millions d'utilisateurs actifs hebdomadaires à plus de 300 millions. Plus important encore, nous avons continué à mettre sur le marché des technologies que les gens semblent sincèrement apprécier et qui résolvent de vrais problèmes.

L'évolution et les perspectives d'avenir

Il y a neuf ans, nous n'avions aucune idée de ce que nous allions devenir. Même aujourd'hui, nous ne savons que vaguement. Le développement de l'IA a connu de nombreux rebondissements, et nous nous attendons à d'autres à l'avenir.

Certains de ces rebondissements ont été joyeux, d'autres ont été difficiles. C'était amusant d'assister à un flux constant de miracles de la recherche, et de nombreux détracteurs sont devenus de vrais croyants. Nous avons également vu certains collègues se séparer et devenir des concurrents.

Les équipes ont tendance à évoluer au fur et à mesure qu'elles grandissent, et OpenAI grandit très vite. Je pense qu'une partie de cela est inévitable : les startups connaissent généralement un fort taux de rotation à chaque nouveau niveau d'échelle majeur, et chez OpenAI, les chiffres augmentent par ordre de grandeur tous les quelques mois. Les deux dernières années ont été comme une décennie dans une entreprise normale. Lorsque toute entreprise se développe et évolue si rapidement, les intérêts divergent naturellement. Et lorsqu'une entreprise d'un secteur important est en tête, de nombreuses personnes l'attaquent pour toutes sortes de raisons, surtout lorsqu'elles essaient de la concurrencer.

Notre vision ne changera pas, mais nos tactiques continueront d'évoluer. Par exemple, lorsque nous avons commencé, nous n'avions aucune idée que nous devrions construire une entreprise de produits. Nous pensions que nous allions simplement faire de la grande recherche. Nous n'avions pas non plus idée que nous aurions besoin d'une telle quantité de capitaux. Il y a de nouvelles choses que nous devons construire maintenant que nous ne comprenions pas il y a quelques années, et il y aura de nouvelles choses à l'avenir que nous pouvons à peine imaginer maintenant.

Nous sommes fiers de nos résultats en matière de recherche et de déploiement jusqu'à présent, et nous sommes déterminés à continuer de faire progresser notre réflexion sur la sécurité et le partage des bénéfices. Nous continuons de croire que la meilleure façon de rendre un système d'IA sûr est de le diffuser progressivement et de manière itérative dans le monde, en donnant à la société le temps de s'adapter et de co-évoluer avec la technologie, en tirant les leçons de l'expérience et en continuant à rendre la technologie plus sûre. Nous croyons en l'importance d'être des leaders mondiaux en matière de recherche sur la sécurité et l'alignement, et de guider cette recherche en nous basant sur les retours d'expériences concrètes.

Nous sommes désormais convaincus de savoir comment construire l'AGI telle que nous l'avons traditionnellement comprise. Nous pensons qu'en 2025, nous pourrions voir les premiers agents d'IA "rejoindre le marché du travail" et changer considérablement la production des entreprises. Nous continuons de croire qu'en mettant progressivement de grands outils à la disposition des gens, on obtient des résultats positifs, largement partagés.

Nous commençons à tourner notre regard au-delà de cela, vers la superintelligence au vrai sens du terme. Nous aimons nos produits actuels, mais nous sommes là pour un avenir glorieux. Avec la superintelligence, nous pouvons faire tout le reste. Les outils superintelligents pourraient accélérer considérablement les découvertes scientifiques et l'innovation, bien au-delà de ce que nous sommes capables de faire par nous-mêmes, et ainsi accroître massivement l'abondance et la prospérité.

Cela ressemble à de la science-fiction pour le moment, et il est même un peu fou d'en parler. C'est bien ainsi. Nous l'avons déjà vécu et nous sommes prêts à le revivre. Nous sommes assez confiants que dans les prochaines années, tout le monde verra ce que nous voyons, et que la nécessité d'agir avec beaucoup de prudence, tout en maximisant les avantages et l'autonomisation pour tous, est primordiale. Compte tenu des possibilités qu'offre notre travail, OpenAI ne peut pas être une entreprise ordinaire.

Quelle chance et quel honneur d'être en mesure de jouer un rôle dans ce travail.

(Merci à Josh Tyrangiel pour avoir en quelque sorte suscité cette réflexion. J'aurais aimé avoir beaucoup plus de temps.)

Remerciements et gratitude

Il y a eu beaucoup de personnes qui ont accompli un travail incroyable et colossal pour aider OpenAI, et moi personnellement, pendant ces quelques jours, mais deux personnes se sont particulièrement démarquées.

Ron Conway et Brian Chesky sont allés tellement au-delà de l'appel du devoir que je ne sais même pas comment le décrire. J'ai bien sûr entendu parler de l'habileté et de la ténacité de Ron pendant des années, et j'ai passé beaucoup de temps avec Brian au cours des deux dernières années à obtenir une aide et des conseils considérables.

Mais rien ne vaut le fait d'être dans la tranchée avec des gens pour voir ce qu'ils sont vraiment capables de faire. Je suis raisonnablement convaincu qu'OpenAI se serait effondrée sans leur aide. Ils ont travaillé jour et nuit pendant des jours jusqu'à ce que les choses soient réglées.

Bien qu'ils aient travaillé incroyablement dur, ils sont restés calmes et ont fait preuve d'une pensée stratégique claire et de conseils avisés tout au long du processus. Ils m'ont empêché de commettre plusieurs erreurs et n'en ont commis aucune eux-mêmes. Ils ont utilisé leurs vastes réseaux pour tout ce qui était nécessaire et ont été en mesure de naviguer dans de nombreuses situations complexes. Et je suis sûr qu'ils ont fait beaucoup de choses dont je n'ai pas connaissance.

Ce dont je me souviendrai le plus, cependant, c'est de leur attention, de leur compassion et de leur soutien.

Je pensais savoir à quoi ressemblait le soutien d'un fondateur et d'une entreprise, et dans une certaine mesure, c'était le cas. Mais je n'ai jamais vu, ni même entendu parler, de quoi que ce soit de semblable à ce que ces gars ont fait, et maintenant je comprends mieux pourquoi ils ont le statut légendaire qu'on leur attribue. Ils sont différents et méritent tous deux pleinement leur réputation unique, mais ils se ressemblent par leur capacité remarquable à déplacer des montagnes et à aider, et par leur engagement inébranlable en cas de besoin. Le secteur de la technologie est bien meilleur grâce à leur présence.

Il y a d'autres personnes comme eux. C'est une chose incroyablement spéciale dans notre secteur et cela contribue beaucoup plus à son bon fonctionnement que les gens ne le pensent. J'ai hâte de rendre la pareille.

Sur une note plus personnelle, je remercie tout particulièrement Ollie pour son soutien ce week-end et toujours. Il est incroyable à tous points de vue et personne ne pourrait demander un meilleur partenaire.

Reflections