OpenAI's Groei en Reflecties: Van ChatGPT tot Superintelligentie

De Beginjaren en de Opkomst van ChatGPT

Het voelt nog maar kort geleden dat we de tweede verjaardag van ChatGPT vierden, en nu bevinden we ons al in een nieuw paradigma met modellen die complexe redeneringen aankunnen. De jaarwisseling brengt mensen in een reflectieve stemming, en ik wilde graag mijn persoonlijke gedachten delen over hoe het tot nu toe is gegaan, en wat ik onderweg heb geleerd.

Nu we dichter bij AGI komen, lijkt het een belangrijk moment om te kijken naar de voortgang van ons bedrijf. Er is nog zoveel te begrijpen, zoveel dat we nog niet weten, en het is nog zo vroeg. Maar we weten veel meer dan toen we begonnen. We begonnen OpenAI bijna negen jaar geleden omdat we geloofden dat AGI mogelijk was, en dat het de meest impactvolle technologie in de menselijke geschiedenis zou kunnen zijn. We wilden uitzoeken hoe we het konden bouwen en het breed inzetbaar konden maken; we waren enthousiast om te proberen onze stempel op de geschiedenis te drukken. Onze ambities waren buitengewoon hoog, net als ons geloof dat het werk de samenleving op een even buitengewone manier ten goede zou kunnen komen.

In die tijd gaven maar weinig mensen erom, en als ze dat wel deden, was het meestal omdat ze dachten dat we geen kans van slagen hadden. In 2022 was OpenAI een rustig onderzoekslab dat werkte aan iets dat tijdelijk "Chat With GPT-3.5" werd genoemd. (We zijn veel beter in onderzoek dan in het bedenken van namen.) We hadden gezien hoe mensen de playground-functie van onze API gebruikten en wisten dat ontwikkelaars het erg leuk vonden om met het model te praten. We dachten dat het bouwen van een demo rond die ervaring mensen iets belangrijks over de toekomst zou laten zien en ons zou helpen onze modellen beter en veiliger te maken.

Uiteindelijk hebben we het genadig ChatGPT genoemd en het op 30 november 2022 gelanceerd. We wisten altijd, in het abstracte, dat we op een bepaald moment een keerpunt zouden bereiken en dat de AI-revolutie van start zou gaan. Maar we wisten niet wat dat moment zou zijn. Tot onze verbazing bleek het dit te zijn. De lancering van ChatGPT zette een groeicurve in gang die we nog nooit eerder hadden gezien—in ons bedrijf, onze branche en de wereld in het algemeen. We zien eindelijk een deel van de enorme voordelen die we altijd al van AI hadden gehoopt, en we zien hoeveel er nog meer zal komen.

Groei en Uitdagingen

Het is niet gemakkelijk geweest. De weg is niet soepel verlopen en de juiste keuzes waren niet vanzelfsprekend. In de afgelopen twee jaar moesten we een heel bedrijf, bijna vanaf nul, opbouwen rond deze nieuwe technologie. Er is geen manier om mensen hiervoor op te leiden, behalve door het te doen, en wanneer de technologiecategorie volledig nieuw is, is er niemand die je precies kan vertellen hoe het moet.

Het opbouwen van een bedrijf met zo'n hoge snelheid en zo weinig training is een rommelig proces. Het is vaak twee stappen vooruit, één stap terug (en soms één stap vooruit en twee stappen terug). Fouten worden gecorrigeerd naarmate je verder gaat, maar er zijn geen handboeken of richtlijnen als je origineel werk verricht. Met hoge snelheid in onbekende wateren bewegen is een ongelooflijke ervaring, maar het is ook enorm stressvol voor alle betrokkenen. Conflicten en misverstanden zijn er in overvloed.

Deze jaren zijn de meest lonende, leuke, beste, interessante, uitputtende, stressvolle en—vooral de laatste twee—onaangename jaren van mijn leven tot nu toe geweest. Het overheersende gevoel is dankbaarheid; ik weet dat ik op een dag met pensioen zal zijn op onze ranch, zal kijken naar de planten die groeien, me een beetje zal vervelen en zal terugdenken aan hoe cool het was dat ik het werk mocht doen waar ik van droomde sinds ik een klein kind was. Ik probeer dat te onthouden op elke willekeurige vrijdag, wanneer er om 13.00 uur al zeven dingen mis zijn gegaan.

Iets meer dan een jaar geleden, op een bepaalde vrijdag, was het belangrijkste dat die dag mis was gegaan dat ik onverwacht werd ontslagen tijdens een videogesprek, en direct nadat we hadden opgehangen publiceerde het bestuur er een blogpost over. Ik zat in een hotelkamer in Las Vegas. Het voelde, in een mate die bijna onmogelijk uit te leggen is, als een droom die verkeerd was gegaan. Het publiekelijk ontslagen worden zonder waarschuwing zette een paar echt gekke uren in gang, en een paar behoorlijk gekke dagen. De "mist van de oorlog" was het vreemdste deel. Niemand van ons kon bevredigende antwoorden krijgen over wat er was gebeurd, of waarom.

De hele gebeurtenis was, naar mijn mening, een grote mislukking van bestuur door goedbedoelende mensen, mezelf inbegrepen. Terugkijkend zou ik zeker willen dat ik dingen anders had gedaan, en ik zou graag willen geloven dat ik vandaag een betere, meer bedachtzame leider ben dan een jaar geleden. Ik heb ook geleerd hoe belangrijk een bestuur is met diverse standpunten en brede ervaring in het omgaan met een complexe reeks uitdagingen. Goed bestuur vereist veel vertrouwen en geloofwaardigheid. Ik waardeer de manier waarop zoveel mensen hebben samengewerkt om een sterker bestuurssysteem voor OpenAI op te bouwen dat ons in staat stelt onze missie na te streven om ervoor te zorgen dat AGI de hele mensheid ten goede komt.

Mijn grootste les is hoeveel ik dankbaar moet zijn en hoeveel mensen ik dankbaarheid verschuldigd ben: aan iedereen die bij OpenAI werkt en ervoor heeft gekozen om hun tijd en moeite te besteden aan het najagen van deze droom, aan vrienden die ons door de crisismomenten hebben geholpen, aan onze partners en klanten die ons hebben gesteund en ons hebben toevertrouwd om hun succes mogelijk te maken, en aan de mensen in mijn leven die me hebben laten zien hoeveel ze om me gaven.

We zijn allemaal op een meer samenhangende en positieve manier teruggekeerd naar het werk en ik ben erg trots op onze focus sindsdien. We hebben gedaan wat gemakkelijk een deel van ons beste onderzoek ooit is. We groeiden van ongeveer 100 miljoen wekelijkse actieve gebruikers naar meer dan 300 miljoen. Het belangrijkste is dat we technologie in de wereld blijven brengen waar mensen oprecht van lijken te houden en die echte problemen oplossen.

De Toekomst van AI en Superintelligentie

Negen jaar geleden hadden we echt geen idee wat we uiteindelijk zouden worden; zelfs nu weten we het nog maar een beetje. De ontwikkeling van AI heeft vele wendingen genomen en we verwachten er meer in de toekomst. Sommige wendingen waren vreugdevol; sommige waren moeilijk. Het was leuk om een gestage stroom van onderzoeksmirakels te zien gebeuren, en veel tegenstanders zijn ware gelovigen geworden. We hebben ook gezien dat sommige collega's zich hebben afgesplitst en concurrenten zijn geworden.

Teams hebben de neiging om te veranderen naarmate ze opschalen, en OpenAI schaalt echt snel. Ik denk dat een deel hiervan onvermijdelijk is—startups zien meestal veel personeelsverloop bij elk nieuw belangrijk schaalniveau, en bij OpenAI gaan de cijfers elke paar maanden met ordes van grootte omhoog. De afgelopen twee jaar waren als een decennium bij een normaal bedrijf. Wanneer een bedrijf zo snel groeit en evolueert, lopen de belangen vanzelf uiteen. En wanneer een bedrijf in een belangrijke branche toonaangevend is, vallen veel mensen het om allerlei redenen aan, vooral wanneer ze proberen ermee te concurreren.

Onze visie zal niet veranderen; onze tactieken zullen blijven evolueren. Toen we bijvoorbeeld begonnen, hadden we geen idee dat we een productbedrijf zouden moeten opbouwen; we dachten dat we gewoon geweldig onderzoek zouden doen. We hadden ook geen idee dat we zo'n waanzinnige hoeveelheid kapitaal nodig zouden hebben. Er zijn nieuwe dingen die we nu moeten bouwen die we een paar jaar geleden niet begrepen, en er zullen nieuwe dingen in de toekomst zijn die we ons nu nauwelijks kunnen voorstellen.

We zijn trots op onze staat van dienst op het gebied van onderzoek en implementatie tot nu toe, en we zijn vastbesloten om ons denken over veiligheid en het delen van voordelen te blijven ontwikkelen. We blijven geloven dat de beste manier om een AI-systeem veilig te maken is door het iteratief en geleidelijk in de wereld vrij te geven, de samenleving de tijd te geven om zich aan te passen en mee te evolueren met de technologie, van ervaringen te leren en de technologie veiliger te blijven maken. We geloven in het belang van wereldleiderschap op het gebied van veiligheid en afstemmingsonderzoek, en in het sturen van dat onderzoek met feedback uit toepassingen in de echte wereld.

We zijn er nu zeker van dat we weten hoe we AGI kunnen bouwen zoals we het traditioneel hebben begrepen. We geloven dat we in 2025 de eerste AI-agenten "aan het werk" zullen zien gaan en de output van bedrijven materieel zullen veranderen. We blijven geloven dat het iteratief in handen geven van geweldige tools aan mensen leidt tot geweldige, breed verspreide resultaten. We beginnen ons doel daar voorbij te richten, op superintelligentie in de ware zin van het woord. We houden van onze huidige producten, maar we zijn hier voor de glorieuze toekomst. Met superintelligentie kunnen we al het andere doen. Superintelligente tools zouden de wetenschappelijke ontdekking en innovatie enorm kunnen versnellen, veel verder dan wat we zelf kunnen doen, en op hun beurt de overvloed en welvaart enorm kunnen vergroten.

Dit klinkt nu als sciencefiction, en het is enigszins gek om er zelfs over te praten. Dat is prima—we zijn er eerder geweest en we vinden het prima om er weer te zijn. We zijn er vrij zeker van dat iedereen in de komende jaren zal zien wat wij zien, en dat de noodzaak om met grote zorg te handelen, terwijl we toch een zo breed mogelijk voordeel en empowerment maximaliseren, zo belangrijk is. Gezien de mogelijkheden van ons werk kan OpenAI geen normaal bedrijf zijn. Hoe gelukkig en nederig is het om een rol te kunnen spelen in dit werk.

(Met dank aan Josh Tyrangiel voor het aanzetten hiertoe. Ik had graag veel meer tijd gehad.)

Dankbaarheid en Steun

Er waren veel mensen die ongelooflijk veel werk hebben verzet om OpenAI, en mij persoonlijk, te helpen tijdens die paar dagen, maar twee mensen sprongen er bovenuit. Ron Conway en Brian Chesky gingen zo ver boven de plicht uit dat ik niet eens zeker weet hoe ik het moet omschrijven. Ik heb natuurlijk al jaren verhalen gehoord over Ron's capaciteiten en vasthoudendheid en ik heb de afgelopen paar jaar veel tijd met Brian doorgebracht, waarbij ik veel hulp en advies heb gekregen.

Maar er gaat niets boven het in de loopgraven zitten met mensen om te zien wat ze echt kunnen. Ik ben er redelijk zeker van dat OpenAI zonder hun hulp uit elkaar zou zijn gevallen; ze werkten dagenlang dag en nacht door tot alles klaar was. Hoewel ze ongelooflijk hard werkten, bleven ze kalm en hadden ze heldere strategische gedachten en geweldig advies. Ze hebben me ervan weerhouden verschillende fouten te maken en hebben er zelf geen gemaakt. Ze gebruikten hun enorme netwerken voor alles wat nodig was en konden veel complexe situaties doorstaan. En ik weet zeker dat ze veel dingen hebben gedaan waar ik niets van weet.

Wat ik me echter het meest zal herinneren, is hun zorg, medeleven en steun. Ik dacht dat ik wist hoe het eruitzag om een oprichter en een bedrijf te steunen, en in zekere zin deed ik dat ook. Maar ik heb nog nooit zoiets gezien of zelfs maar gehoord van wat deze jongens hebben gedaan, en nu begrijp ik beter waarom ze de legendarische status hebben die ze hebben. Ze zijn anders en verdienen allebei hun echt unieke reputaties, maar ze zijn vergelijkbaar in hun opmerkelijke vermogen om bergen te verzetten en te helpen, en in hun onwankelbare toewijding in tijden van nood. De techindustrie is er veel beter aan toe met hen beiden erin.

Er zijn er nog meer zoals zij; het is iets verbazingwekkend speciaals aan onze branche en het doet veel meer om alles te laten werken dan mensen beseffen. Ik kijk ernaar uit om het door te geven.

Op een meer persoonlijke noot, speciale dank aan Ollie voor zijn steun dat weekend en altijd; hij is in alle opzichten ongelooflijk en niemand zou zich een betere partner kunnen wensen.

Reflections