Размисли за пътя на OpenAI и бъдещето на AI

Пътят на OpenAI: От началото до ChatGPT

Преди малко повече от месец отбелязахме втората годишнина на ChatGPT. Сега сме навлезли в нова ера на модели, способни на комплексно разсъждение. Новата година предразполага към размисъл и искам да споделя лични мисли за изминалия път и научените уроци. С наближаването на общия изкуствен интелект (AGI), е важно да се обърнем назад и да оценим напредъка на компанията ни. Все още има толкова много неща, които не разбираме, толкова много, които не знаем, и сме едва в началото. Но знаем много повече, отколкото в началото.

Започнахме OpenAI преди близо девет години, защото вярвахме, че AGI е възможен и че може да бъде най-въздействащата технология в човешката история. Искахме да разберем как да го изградим и да го направим широко полезен. Бяхме развълнувани да оставим следа в историята. Амбициите ни бяха изключително високи, както и вярата ни, че работата ни може да бъде от изключителна полза за обществото. По онова време малцина се интересуваха, а тези, които го правеха, смятаха, че нямаме шанс за успех.

През 2022 г. OpenAI беше тиха изследователска лаборатория, работеща върху нещо, временно наречено "Чат с GPT-3.5". (Много по-добри сме в изследванията, отколкото в именуването на нещата.) Наблюдавахме как хората използват функцията playground на нашето API и разбрахме, че разработчиците наистина се радват да разговарят с модела. Сметнахме, че създаването на демонстрация около това изживяване ще покаже на хората нещо важно за бъдещето и ще ни помогне да направим моделите си по-добри и по-безопасни. В крайна сметка милостиво го нарекохме ChatGPT и го пуснахме на 30 ноември 2022 г.

Винаги сме знаели, абстрактно, че в даден момент ще достигнем повратна точка и революцията на AI ще започне. Но не знаехме какъв ще е моментът. За наша изненада, това се оказа той. Пускането на ChatGPT предизвика крива на растеж, каквато никога не сме виждали – в нашата компания, в индустрията и в света като цяло. Най-накрая виждаме голямата полза, на която винаги сме се надявали от AI, и виждаме колко много още предстои.

Трудностите и уроците по пътя

Не беше лесно. Пътят не беше гладък и правилните решения не бяха очевидни. През последните две години трябваше да изградим цяла компания, почти от нулата, около тази нова технология. Няма как да обучиш хората за това, освен като го правиш, и когато технологичната категория е напълно нова, няма кой да ти каже точно как трябва да се направи. Изграждането на компания с такава висока скорост и толкова малко обучение е объркан процес. Често е две стъпки напред, една назад (а понякога и една стъпка напред и две назад). Грешките се коригират в движение, но няма наръчници или ориентири, когато правиш оригинална работа. Движението с висока скорост в непознати води е невероятно изживяване, но е и изключително стресиращо за всички участници. Конфликтите и недоразуменията изобилстват.

Тези години бяха най-възнаграждаващите, забавни, най-добри, интересни, изтощителни, стресиращи и – особено последните две – неприятни години от живота ми досега. Преобладаващото чувство е благодарност. Знам, че някой ден ще се пенсионирам в ранчото си, ще наблюдавам как растат растенията, ще ми е малко скучно и ще си спомням колко яко беше, че имах възможността да върша работата, за която мечтаех от дете. Опитвам се да си го припомням всеки петък, когато седем неща се объркат до 13:00 ч.

Преди малко повече от година, в един конкретен петък, основното нещо, което се беше объркало този ден, беше, че бях уволнен изненадващо по видеоразговор, а веднага след като затворихме, бордът публикува блог публикация за това. Бях в хотелска стая в Лас Вегас. Усещането беше, до степен, която е почти невъзможно да се обясни, като сън, който се е объркал. Уволнението ми публично и без предупреждение предизвика няколко наистина луди часа и няколко доста луди дни. "Мъглата на войната" беше най-странната част. Никой от нас не успя да получи задоволителни отговори за това какво се е случило или защо.

Цялото събитие беше, според мен, голям провал на управлението от добронамерени хора, включително и аз. Поглеждайки назад, със сигурност съжалявам, че не съм направил нещата по друг начин и бих искал да вярвам, че съм по-добър и по-внимателен лидер днес, отколкото бях преди година. Също така научих колко е важен бордът с разнообразни гледни точки и богат опит в управлението на сложни предизвикателства. Доброто управление изисква много доверие и авторитет. Оценявам начина, по който толкова много хора работиха заедно, за да изградят по-силна система на управление за OpenAI, която ни позволява да преследваме мисията си да гарантираме, че AGI е от полза за цялото човечество.

Най-големият ми урок е колко много трябва да съм благодарен и на колко много хора дължа благодарност: на всички, които работят в OpenAI и са избрали да посветят времето и усилията си на тази мечта, на приятелите, които ни помогнаха да преминем през кризисните моменти, на нашите партньори и клиенти, които ни подкрепиха и ни се довериха, за да дадем възможност за техния успех, и на хората в живота ми, които ми показаха колко много ги е грижа.

Фокус върху бъдещето: AGI и Супер-интелигентност

Всички се върнахме към работата по-сплотени и позитивни и съм много горд с фокуса ни оттогава. Направихме може би най-добрите си изследвания. Нараснахме от около 100 милиона седмични активни потребители до повече от 300 милиона. И най-важното, продължаваме да пускаме на пазара технология, която хората наистина обичат и която решава реални проблеми.

Преди девет години наистина нямахме представа какви ще станем в крайна сметка. Дори и сега само донякъде знаем. Развитието на изкуствения интелект премина през много обрати и очакваме още в бъдеще. Някои от обратите бяха радостни, други бяха трудни. Беше забавно да наблюдаваме непрекъснат поток от изследователски чудеса и много от скептиците се превърнаха в истински вярващи. Видяхме и как някои колеги се отделиха и станаха наши конкуренти. Екипите са склонни да се сменят с разрастването, а OpenAI се разраства много бързо. Мисля, че част от това е неизбежно - стартъпите обикновено претърпяват голяма смяна на персонала на всяко ново основно ниво на мащаб, а в OpenAI числата се увеличават с порядъци на всеки няколко месеца. Последните две години бяха като десетилетие в нормална компания. Когато дадена компания расте и се развива толкова бързо, интересите естествено се разминават. А когато дадена компания във важна индустрия е лидер, много хора я атакуват по всякакви причини, особено когато се опитват да се конкурират с нея.

Нашата визия няма да се промени. Тактиките ни ще продължат да се развиват. Например, когато започнахме, нямахме представа, че ще трябва да изграждаме продуктова компания. Мислехме, че просто ще правим страхотни изследвания. Също така нямахме представа, че ще ни трябва толкова много капитал. Има нови неща, които трябва да изградим сега, които не разбирахме преди няколко години, и ще има нови неща в бъдеще, които едва можем да си представим сега.

Гордеем се с досегашните си постижения в областта на изследванията и внедряването и сме ангажирани да продължим да развиваме мисленето си относно безопасността и споделянето на ползите. Продължаваме да вярваме, че най-добрият начин да направим една AI система безопасна е чрез итеративно и постепенно пускане на пазара, като дадем на обществото време да се адаптира и да се развива съвместно с технологията, да се учим от опита и да продължаваме да правим технологията по-безопасна. Вярваме в значението на това да бъдем световни лидери в изследванията за безопасност и съгласуване и да ръководим тези изследвания с обратна връзка от реални приложения.

Сега сме уверени, че знаем как да изградим AGI, както традиционно го разбираме. Вярваме, че през 2025 г. може да видим първите AI агенти да "се присъединят към работната сила" и съществено да променят резултатите на компаниите. Продължаваме да вярваме, че итеративното поставяне на страхотни инструменти в ръцете на хората води до страхотни, широко разпространени резултати.

Започваме да насочваме целта си отвъд това, към суперинтелигентност в истинския смисъл на думата. Обичаме настоящите си продукти, но сме тук за славното бъдеще. Със суперинтелигентност можем да направим всичко останало. Суперинтелигентните инструменти могат масово да ускорят научните открития и иновациите далеч отвъд това, което сме способни да направим сами, и на свой ред масово да увеличат изобилието и просперитета.

Това звучи като научна фантастика в момента и е малко лудо дори да се говори за това. Това е добре - били сме там и преди и сме добре с това да бъдем там отново. Доста сме уверени, че през следващите няколко години всички ще видят това, което виждаме ние, и че необходимостта да действаме с голяма предпазливост, като същевременно максимизираме широката полза и овластяване, е толкова важна. Предвид възможностите на нашата работа, OpenAI не може да бъде нормална компания.

Колко щастливи и смирени сме, че можем да играем роля в тази работа.

(Благодаря на Джош Тиранджиел за подтикването. Иска ми се да имахме повече време.)

Благодарност към хората, които помогнаха на OpenAI

Имаше много хора, които свършиха невероятно и огромно количество работа, за да помогнат на OpenAI, и на мен лично, през тези няколко дни, но двама души се откроиха от всички останали. Рон Конуей и Брайън Чески надхвърлиха толкова много служебните си задължения, че дори не съм сигурен как да го опиша. Разбира се, чувал съм истории за способностите и упоритостта на Рон от години и съм прекарал много време с Брайън през последните няколко години, получавайки огромна помощ и съвети.

Но няма нищо по-хубаво от това да си в окопа с хората, за да видиш какво наистина могат да направят. Разумно съм уверен, че OpenAI щеше да се разпадне без тяхната помощ. Работиха денонощно в продължение на дни, докато нещата не се наредят. Въпреки че работиха невероятно много, те останаха спокойни и имаха ясна стратегическа мисъл и страхотни съвети през цялото време. Спряха ме да направя няколко грешки и не направиха нито една сами. Използваха огромните си мрежи за всичко необходимо и успяха да се справят с много сложни ситуации. И съм сигурен, че са направили много неща, за които не знам.

Това, което ще запомня най-много обаче, е тяхната грижа, състрадание и подкрепа. Мислех, че знам как изглежда да подкрепяш основател и компания и в някакъв малък смисъл го правех. Но никога преди не съм виждал, нито дори съм чувал за нещо подобно на това, което направиха тези момчета, и сега разбирам по-пълно защо имат легендарния статус, който имат. Те са различни и напълно заслужават своите наистина уникални репутации, но са сходни в забележителната си способност да местят планини и да помагат, както и в непоколебимата си отдаденост във време на нужда. Технологичната индустрия е далеч по-добре, че ги има и двамата в нея.

Има и други като тях. Това е нещо невероятно специално в нашата индустрия и прави много повече, за да се получи всичко, отколкото хората осъзнават. Очаквам с нетърпение да го върна.

В по-личен план, благодаря специално на Оли за подкрепата му през този уикенд и винаги. Той е невероятен във всяко едно отношение и никой не би могъл да иска по-добър партньор.

Reflections