הרהורים על מסע OpenAI והעתיד

התחלות וחלומות

לפני כמעט תשע שנים, התחלנו את OpenAI מתוך אמונה שבינה מלאכותית כללית (AGI) היא אפשרית, ושהיא יכולה להיות הטכנולוגיה המשפיעה ביותר בהיסטוריה האנושית. רצינו להבין איך לבנות אותה ולהפוך אותה למועילה באופן נרחב; היינו נרגשים לנסות להשאיר את חותמנו על ההיסטוריה. השאיפות שלנו היו גבוהות במיוחד, וכך גם האמונה שלנו שהעבודה עשויה להועיל לחברה בצורה יוצאת דופן לא פחות. באותה תקופה, מעטים התעניינו, ואם כן, זה היה בעיקר משום שחשבו שאין לנו סיכוי להצליח.

לידת ChatGPT

בשנת 2022, OpenAI הייתה מעבדת מחקר שקטה שעבדה על משהו שנקרא באופן זמני "צ'אט עם GPT-3.5". (אנחנו הרבה יותר טובים במחקר מאשר במתן שמות לדברים.) צפינו באנשים משתמשים בתכונת המגרש של ה-API שלנו וידענו שמפתחים נהנו מאוד לדבר עם המודל. חשבנו שבניית הדגמה סביב החוויה הזו תראה לאנשים משהו חשוב לגבי העתיד ותעזור לנו לשפר את המודלים שלנו ולהפוך אותם לבטוחים יותר. בסופו של דבר קראנו לזה בחסד ChatGPT במקום זאת, והשקנו אותו ב-30 בנובמבר 2022. תמיד ידענו, באופן מופשט, שבשלב מסוים נגיע לנקודת מפנה ומהפכת הבינה המלאכותית תתחיל. אבל לא ידענו מה יהיה הרגע. להפתעתנו, התברר שזה זה.

צמיחה חסרת תקדים

השקת ChatGPT יזמה עקומת צמיחה שלא ראינו כמותה מעולם – בחברה שלנו, בתעשייה שלנו, ובעולם בכלל. אנחנו סוף סוף רואים חלק מהיתרונות העצומים שתמיד קיווינו להם מבינה מלאכותית, ואנחנו יכולים לראות כמה עוד יגיע בקרוב. זה לא היה קל. הדרך לא הייתה חלקה והבחירות הנכונות לא היו ברורות. בשנתיים האחרונות, היינו צריכים לבנות חברה שלמה, כמעט מאפס, סביב הטכנולוגיה החדשה הזו. אין דרך להכשיר אנשים לכך אלא על ידי עשייה, וכאשר קטגוריית הטכנולוגיה חדשה לחלוטין, אין אף אחד בכלל שיכול להגיד לך בדיוק איך זה צריך להיעשות.

אתגרים ולקחים

בניית חברה בקצב כה גבוה עם מעט הכשרה היא תהליך מבולגן. זה לעתים קרובות שני צעדים קדימה, צעד אחד אחורה (ולפעמים, צעד אחד קדימה ושני צעדים אחורה). טעויות מתוקנות תוך כדי תנועה, אבל אין ממש מדריכים או נקודות ציון כשאתה עושה עבודה מקורית. תנועה במהירות במים לא מוכרים היא חוויה מדהימה, אבל היא גם מלחיצה מאוד עבור כל השחקנים. סכסוכים ואי הבנות שוררים. השנים האלה היו המתגמלות, המהנות, הטובות, המעניינות, המתישות, המלחיצות, ובמיוחד בשנתיים האחרונות – הלא נעימות ביותר בחיי עד כה. התחושה המכרעת היא הכרת תודה; אני יודע שיום אחד אפרוש בחוות שלנו ואצפה בצמחים גדלים, קצת משועמם, ואזכר כמה מגניב היה שהגעתי לעשות את העבודה שחלמתי עליה מאז שהייתי ילד קטן. אני מנסה לזכור את זה בכל יום שישי נתון, כששבעה דברים משתבשים עד השעה 13:00. לפני קצת יותר משנה, באחד מימי שישי מסוימים, הדבר העיקרי שהשתבש באותו יום היה שפוטרתי בהפתעה בשיחת וידאו, ואז מיד אחרי שסיימנו את השיחה, הדירקטוריון פרסם פוסט בבלוג על כך. הייתי בחדר מלון בלאס וגאס. זה הרגיש, במידה שכמעט בלתי אפשרית להסביר, כמו חלום שהשתבש.

משבר וצמיחה

הפיטורין הפומביים ללא אזהרה יזמו כמה שעות מטורפות באמת, וכמה ימים די מטורפים. "ערפל המלחמה" היה החלק המוזר ביותר. אף אחד מאיתנו לא הצליח לקבל תשובות משביעות רצון לגבי מה שקרה, או למה. כל האירוע היה, לדעתי, כישלון גדול של ממשל על ידי אנשים בעלי כוונות טובות, כולל אני עצמי. במבט לאחור, אני בהחלט מצטער שלא עשיתי דברים אחרת, והייתי רוצה להאמין שאני מנהיג טוב יותר ומתחשב יותר היום מאשר שהייתי לפני שנה. למדתי גם על החשיבות של דירקטוריון עם נקודות מבט מגוונות וניסיון רחב בניהול מערך מורכב של אתגרים. ממשל תקין דורש אמון ואמינות רבים. אני מעריך את הדרך שבה כל כך הרבה אנשים עבדו יחד כדי לבנות מערכת ממשל חזקה יותר עבור OpenAI שמאפשרת לנו להמשיך במשימה שלנו להבטיח ש-AGI יועיל לכל האנושות.

הכרת תודה ופוקוס

הלקח הגדול ביותר שלי הוא כמה יש לי להיות אסיר תודה וכמה אנשים אני חייב להם הכרת תודה: לכל מי שעובד ב-OpenAI ובחר להשקיע את זמנו ומאמציו במרדף אחר החלום הזה, לחברים שעזרו לנו לעבור את רגעי המשבר, לשותפים וללקוחות שלנו שתמכו בנו והפקידו בידינו את האפשרות להצלחתם, ולאנשים בחיי שהראו לי כמה אכפת להם. כולנו חזרנו לעבודה בצורה מגובשת וחיובית יותר ואני מאוד גאה בפוקוס שלנו מאז. עשינו מה שקל לראות כחלק מהמחקר הטוב ביותר שלנו אי פעם. גדלנו מכ-100 מיליון משתמשים פעילים שבועיים ליותר מ-300 מיליון. יותר מכל, המשכנו להוציא לעולם טכנולוגיה שאנשים באמת נראה שאוהבים ושפותרת בעיות אמיתיות. לפני תשע שנים, באמת לא היה לנו מושג למה נהפוך בסופו של דבר; גם עכשיו, אנחנו רק יודעים בערך. פיתוח הבינה המלאכותית עבר תהפוכות רבות ואנחנו מצפים לעוד בעתיד.

אתגרים והזדמנויות

חלק מהתפניות היו משמחות; חלק היו קשות. היה כיף לראות זרם קבוע של ניסים מחקריים מתרחשים, והרבה מתנגדים הפכו למאמינים אמיתיים. ראינו גם כמה עמיתים מתפצלים והופכים למתחרים. צוותים נוטים להשתנות כשהם גדלים, ו-OpenAI גדלה ממש מהר. אני חושב שחלק מזה הוא בלתי נמנע – סטארט-אפים בדרך כלל רואים הרבה תחלופה בכל רמה גדולה חדשה של גודל, וב-OpenAI המספרים עולים בסדרי גודל כל כמה חודשים. השנתיים האחרונות היו כמו עשור בחברה רגילה. כאשר כל חברה גדלה ומתפתחת כל כך מהר, האינטרסים באופן טבעי מתפצלים. וכאשר כל חברה בתעשייה חשובה מובילה, הרבה אנשים תוקפים אותה מכל מיני סיבות, במיוחד כשהם מנסים להתחרות בה.

חזון והתפתחות

החזון שלנו לא ישתנה; הטקטיקות שלנו ימשיכו להתפתח. לדוגמה, כשהתחלנו לא היה לנו מושג שנצטרך לבנות חברת מוצר; חשבנו שאנחנו רק הולכים לעשות מחקר נהדר. לא היה לנו מושג שנצטרך כמות כזו מטורפת של הון. יש דברים חדשים שאנחנו צריכים ללכת לבנות עכשיו שלא הבנו לפני כמה שנים, ויהיו דברים חדשים בעתיד שאנחנו בקושי יכולים לדמיין עכשיו. אנחנו גאים בהישגים שלנו במחקר ובהטמעה עד כה, ומחויבים להמשיך לקדם את החשיבה שלנו על בטיחות ושיתוף יתרונות. אנחנו ממשיכים להאמין שהדרך הטובה ביותר להפוך מערכת בינה מלאכותית לבטוחה היא על ידי שחרור איטרטיבי והדרגתי שלה לעולם, מתן זמן לחברה להסתגל ולהתפתח יחד עם הטכנולוגיה, ללמוד מניסיון, ולהמשיך להפוך את הטכנולוגיה לבטוחה יותר. אנחנו מאמינים בחשיבות להיות מובילים עולמיים במחקר בטיחות ויישור, ובכיוון המחקר הזה עם משוב מיישומים בעולם האמיתי.

העתיד של הבינה המלאכותית

אנחנו בטוחים כעת שאנחנו יודעים איך לבנות AGI כפי שהבנו אותה באופן מסורתי. אנחנו מאמינים שבשנת 2025, אנו עשויים לראות את סוכני הבינה המלאכותית הראשונים "מצטרפים לכוח העבודה" ומשנים באופן מהותי את התפוקה של חברות. אנחנו ממשיכים להאמין שהכנסת כלים נהדרים לידי אנשים באופן איטרטיבי מובילה לתוצאות נהדרות ומפוזרות באופן נרחב. אנחנו מתחילים להפנות את המטרה שלנו מעבר לכך, לאינטליגנציה-על במובן האמיתי של המילה. אנחנו אוהבים את המוצרים הנוכחיים שלנו, אבל אנחנו כאן בשביל העתיד המפואר. עם אינטליגנציה-על, אנחנו יכולים לעשות כל דבר אחר. כלי אינטליגנציה-על יכולים להאיץ באופן מאסיבי את הגילוי המדעי והחדשנות הרבה מעבר למה שאנחנו מסוגלים לעשות בעצמנו, ובכך להגדיל באופן מאסיבי את השפע והשגשוג. זה נשמע כמו מדע בדיוני כרגע, וקצת מטורף אפילו לדבר על זה. זה בסדר – היינו שם בעבר ואנחנו בסדר להיות שם שוב. אנחנו די בטוחים שבשנים הקרובות, כולם יראו את מה שאנחנו רואים, ושהצורך לפעול בזהירות רבה, תוך מקסום תועלת והעצמה רחבה, הוא כל כך חשוב. בהתחשב באפשרויות של העבודה שלנו, OpenAI לא יכולה להיות חברה רגילה. כמה בר מזל ומשפיל זה להיות מסוגל לשחק תפקיד בעבודה הזו.

הכרת תודה מיוחדת

היו הרבה אנשים שעשו כמויות עבודה מדהימות וענקיות כדי לעזור ל-OpenAI, ולי באופן אישי, במהלך אותם ימים, אבל שני אנשים בלטו מכולם. רון קונווי ובריאן צ'סקי עשו הרבה מעבר לנדרש עד כדי כך שאני אפילו לא בטוח איך לתאר את זה. כמובן שמעתי סיפורים על היכולת והנחישות של רון במשך שנים וביליתי הרבה זמן עם בריאן בשנתיים האחרונות וקיבלתי כמות עצומה של עזרה ועצות. אבל אין כמו להיות בשוחה עם אנשים כדי לראות מה הם באמת יכולים לעשות. אני בטוח באופן סביר ש-OpenAI הייתה מתפרקת ללא עזרתם; הם עבדו מסביב לשעון במשך ימים עד שהדברים נעשו. למרות שהם עבדו קשה להפליא, הם נשארו רגועים והיו להם מחשבה אסטרטגית ברורה ועצות נהדרות לאורך כל הדרך. הם מנעו ממני לעשות כמה טעויות ולא עשו אף אחת בעצמם. הם השתמשו ברשתות העצומות שלהם לכל מה שהיה צריך והצליחו לנווט במצבים מורכבים רבים. ואני בטוח שהם עשו הרבה דברים שאני לא יודע עליהם. מה שאזכור יותר מכל, עם זאת, הוא הדאגה, החמלה והתמיכה שלהם. חשבתי שאני יודע איך נראית תמיכה במייסד ובחברה, ובמובן קטן כלשהו עשיתי זאת. אבל מעולם לא ראיתי, או אפילו שמעתי על, שום דבר כמו מה שהבחורים האלה עשו, ועכשיו אני מבין יותר מדוע יש להם את המעמד האגדי שיש להם. הם שונים ושניהם ראויים לחלוטין למוניטין הייחודי באמת שלהם, אבל הם דומים ביכולתם המדהימה להזיז הרים ולעזור, ובמחויבותם הבלתי מעורערת בעתות צרה. תעשיית הטכנולוגיה טובה בהרבה בזכות שניהם בה. יש עוד כמוהם; זה דבר מיוחד להפליא בתעשייה שלנו ועושה הרבה יותר כדי לגרום לכל זה לעבוד ממה שאנשים מבינים. אני מצפה לשלם את זה קדימה.

בנוסף, תודה מיוחדת לאולי על תמיכתו באותו סוף שבוע ותמיד; הוא מדהים בכל דרך ואף אחד לא יכול לבקש שותף טוב יותר.

Reflections