Размышления о пути OpenAI: от скромных начинаний до супер-интеллекта

Размышления о прогрессе и будущем ИИ

Второй день рождения ChatGPT был чуть больше месяца назад, и теперь мы перешли к следующей парадигме моделей, способных к сложным рассуждениям. Новые годы располагают к размышлениям, и я хотел поделиться некоторыми личными мыслями о том, как все прошло до сих пор, и о некоторых вещах, которые я узнал по пути. По мере того, как мы приближаемся к AGI, кажется важным оглянуться на прогресс нашей компании. Еще так много нужно понять, так много мы не знаем, и еще так рано. Но мы знаем гораздо больше, чем когда начинали.

Мы основали OpenAI почти девять лет назад, потому что верили, что AGI возможен и что он может стать самой влиятельной технологией в истории человечества. Мы хотели понять, как его построить и сделать его широко полезным; мы были рады попытаться оставить свой след в истории. Наши амбиции были чрезвычайно высоки, как и наша вера в то, что эта работа может принести пользу обществу столь же необычайным образом. В то время мало кого это волновало, а если и волновало, то в основном потому, что они думали, что у нас нет шансов на успех.

В 2022 году OpenAI была тихой исследовательской лабораторией, работающей над чем-то, что временно называлось “Чат с GPT-3.5”. (Мы гораздо лучше в исследованиях, чем в придумывании названий.) Мы наблюдали за тем, как люди используют игровую площадку нашего API, и знали, что разработчикам действительно нравится общаться с моделью. Мы подумали, что создание демонстрации на основе этого опыта покажет людям что-то важное о будущем и поможет нам сделать наши модели лучше и безопаснее. В итоге мы, к счастью, назвали это ChatGPT и запустили его 30 ноября 2022 года.

Мы всегда знали, в абстрактном плане, что в какой-то момент мы достигнем переломного момента и начнется революция ИИ. Но мы не знали, каким будет этот момент. К нашему удивлению, оказалось, что это он и есть. Запуск ChatGPT вызвал кривую роста, подобной которой мы никогда не видели — в нашей компании, в нашей индустрии и в мире в целом. Мы наконец видим некоторые из тех огромных плюсов, на которые мы всегда надеялись от ИИ, и видим, сколько еще придет в скором времени.

Трудности роста и управления

Это было нелегко. Путь не был гладким, и правильные решения не были очевидными. За последние два года нам пришлось построить целую компанию, почти с нуля, вокруг этой новой технологии. Нет никакого способа обучить людей этому, кроме как делая это, а когда категория технологий совершенно новая, никто не может точно сказать, как это должно быть сделано.

Создание компании с такой высокой скоростью и с таким небольшим количеством обучения - это беспорядочный процесс. Часто это два шага вперед, один шаг назад (а иногда один шаг вперед и два шага назад). Ошибки исправляются по ходу дела, но на самом деле нет никаких справочников или ориентиров, когда вы занимаетесь оригинальной работой. Движение на скорости в неизведанных водах - это невероятный опыт, но он также чрезвычайно напряженный для всех игроков. Конфликты и недопонимание изобилуют.

Эти годы были самыми благодарными, веселыми, лучшими, интересными, изнурительными, напряженными и - особенно последние два - неприятными годами моей жизни. Преобладающее чувство - это благодарность; я знаю, что когда-нибудь я выйду на пенсию на нашем ранчо, буду наблюдать за ростом растений, немного скучать и вспоминать, как здорово было, что я смог заниматься работой, о которой мечтал с детства. Я стараюсь помнить об этом в любую пятницу, когда к часу дня семь вещей идут наперекосяк.

Неожиданное увольнение и уроки лидерства

Чуть больше года назад, в одну из пятниц, главным провалом того дня было то, что меня неожиданно уволили по видеозвонку, а сразу после того, как мы повесили трубку, правление опубликовало об этом сообщение в блоге. Я был в гостиничном номере в Лас-Вегасе. Это было похоже, до степени, которую почти невозможно объяснить, на сон, пошедший не так. Увольнение на глазах у публики без предупреждения вызвало несколько сумасшедших часов и несколько сумасшедших дней. “Туман войны” был самой странной частью. Никто из нас не смог получить удовлетворительных ответов о том, что произошло и почему.

Все это событие было, на мой взгляд, большой неудачей управления со стороны людей с благими намерениями, включая меня самого. Оглядываясь назад, я, конечно, жалею, что поступил по-другому, и хотел бы верить, что сегодня я лучший, более вдумчивый лидер, чем был год назад. Я также осознал важность совета директоров с разнообразными точками зрения и большим опытом в управлении сложным набором проблем. Хорошее управление требует большого доверия и авторитета. Я ценю то, как много людей работали вместе, чтобы построить более сильную систему управления для OpenAI, которая позволит нам преследовать нашу миссию по обеспечению того, чтобы AGI приносил пользу всему человечеству.

Благодарность и дальнейший путь

Мой самый большой вывод заключается в том, как много у меня есть за что благодарить, и скольким людям я обязан: всем, кто работает в OpenAI и выбрал потратить свое время и силы на достижение этой мечты, друзьям, которые помогли нам пережить кризисные моменты, нашим партнерам и клиентам, которые поддерживали нас и доверили нам возможность обеспечить их успех, и людям в моей жизни, которые показали мне, как сильно они заботятся. Мы все вернулись к работе более сплоченным и позитивным образом, и я очень горжусь нашей сосредоточенностью с тех пор. Мы сделали то, что, несомненно, является одними из наших лучших исследований за все время. Мы выросли со 100 миллионов еженедельных активных пользователей до более чем 300 миллионов. И самое главное, мы продолжаем выпускать в мир технологии, которые, похоже, искренне нравятся людям и решают реальные проблемы.

Девять лет назад мы понятия не имели, кем мы в итоге станем; даже сейчас мы только примерно знаем. Развитие ИИ приняло много неожиданных поворотов, и мы ожидаем их еще в будущем. Некоторые из этих поворотов были радостными; некоторые были трудными. Было интересно наблюдать за непрерывным потоком исследовательских чудес, и многие скептики стали истинными верующими. Мы также видели, как некоторые коллеги отделились и стали конкурентами. Команды, как правило, меняются по мере масштабирования, а OpenAI масштабируется очень быстро. Я думаю, что кое-что из этого неизбежно — стартапы обычно сталкиваются с большой текучкой кадров на каждом новом крупном уровне масштабирования, а в OpenAI цифры увеличиваются на порядки каждые несколько месяцев. Последние два года были как десятилетие в обычной компании. Когда любая компания растет и развивается так быстро, интересы, естественно, расходятся. И когда любая компания в важной отрасли лидирует, многие люди нападают на нее по самым разным причинам, особенно когда они пытаются с ней конкурировать.

Эволюция видения и будущие вызовы

Наше видение не изменится; наша тактика будет продолжать развиваться. Например, когда мы начинали, мы понятия не имели, что нам придется строить продуктовую компанию; мы думали, что просто будем заниматься отличными исследованиями. Мы также понятия не имели, что нам понадобится такое безумное количество капитала. Сейчас есть новые вещи, которые нам нужно построить, которые мы не понимали несколько лет назад, и в будущем появятся новые вещи, которые мы сейчас едва можем себе представить.

Мы гордимся нашим послужным списком в области исследований и внедрения на данный момент и привержены тому, чтобы продолжать развивать наше мышление в отношении безопасности и разделения преимуществ. Мы по-прежнему считаем, что лучший способ сделать систему ИИ безопасной - это итеративно и постепенно выпускать ее в мир, давая обществу время адаптироваться и совместно развиваться с технологией, учиться на опыте и продолжать делать технологию безопаснее. Мы верим в важность того, чтобы быть мировыми лидерами в области исследований безопасности и согласования, а также в том, чтобы направлять эти исследования, опираясь на отзывы из реальных приложений.

Сейчас мы уверены, что знаем, как построить AGI в том виде, в каком мы его традиционно понимали. Мы считаем, что в 2025 году мы можем увидеть, как первые агенты ИИ “присоединятся к рабочей силе” и существенно изменят результаты деятельности компаний. Мы по-прежнему считаем, что итеративное предоставление отличных инструментов в руки людей приводит к отличным, широко распределенным результатам.

На пути к супер-интеллекту

Мы начинаем направлять свои усилия дальше, к супер-интеллекту в истинном смысле этого слова. Нам нравятся наши текущие продукты, но мы здесь ради славного будущего. С супер-интеллектом мы можем делать все остальное. Супер-интеллектуальные инструменты могли бы значительно ускорить научные открытия и инновации, намного превосходящие то, на что мы способны самостоятельно, и, в свою очередь, значительно увеличить изобилие и процветание.

Сейчас это звучит как научная фантастика, и даже немного безумно говорить об этом. Это нормально - мы уже были в такой ситуации и готовы к этому снова. Мы вполне уверены, что в ближайшие несколько лет все увидят то, что видим мы, и что необходимость действовать с большой осторожностью, при этом максимально увеличивая широкую выгоду и расширение прав и возможностей, так важна. Учитывая возможности нашей работы, OpenAI не может быть обычной компанией. Какое это счастье и смирение - иметь возможность играть роль в этой работе.

(Спасибо Джошу Тирангиелю за то, что он подтолкнул меня к этому. Жаль, что у нас было не так много времени.)

Благодарность за поддержку в кризисные моменты

Было много людей, которые проделали невероятную и огромную работу, чтобы помочь OpenAI, и мне лично, в течение этих нескольких дней, но два человека выделялись на фоне всех остальных. Рон Конвей и Брайан Чески вышли далеко за рамки служебного долга, что я даже не знаю, как это описать. Я, конечно, много лет слышал истории о способностях и настойчивости Рона, и я много времени проводил с Брайаном в течение последних нескольких лет, получая огромную помощь и советы.

Но нет ничего лучше, чем оказаться в окопе с людьми, чтобы увидеть, на что они действительно способны. Я вполне уверен, что OpenAI развалилась бы без их помощи; они работали круглосуточно в течение нескольких дней, пока все не было сделано. Хотя они работали невероятно усердно, они сохраняли спокойствие и проявляли ясное стратегическое мышление и давали отличные советы на протяжении всего этого времени. Они удержали меня от совершения нескольких ошибок и не совершили ни одной сами. Они использовали свои обширные сети для всего необходимого и смогли справиться со многими сложными ситуациями. И я уверен, что они сделали много такого, о чем я не знаю.

Но больше всего я запомню их заботу, сострадание и поддержку. Я думал, что знаю, как выглядит поддержка основателя и компании, и в каком-то небольшом смысле я знал. Но я никогда раньше не видел и даже не слышал ничего подобного тому, что сделали эти ребята, и теперь я более полно понимаю, почему у них такой легендарный статус. Они разные и оба полностью заслуживают своей поистине уникальной репутации, но они похожи в своей замечательной способности двигать горы и помогать, а также в своей непоколебимой приверженности во времена нужды. Технологическая индустрия стала намного лучше благодаря их присутствию в ней. Есть и другие, подобные им; это удивительно особенная вещь в нашей индустрии, которая делает гораздо больше для того, чтобы все работало, чем люди осознают. Я с нетерпением жду возможности отплатить за это.

И в более личном плане, особая благодарность Олли за его поддержку в те выходные и всегда; он невероятен во всех отношениях, и никто не мог бы желать лучшего партнера.

Reflections