การไตร่ตรองเกี่ยวกับ OpenAI และอนาคตของ AI

การเดินทางของ OpenAI และการเติบโตของ ChatGPT

เมื่อไม่นานมานี้ ChatGPT เพิ่งฉลองวันเกิดครบรอบสองปี และตอนนี้เราได้ก้าวเข้าสู่ยุคใหม่ของโมเดลที่สามารถให้เหตุผลที่ซับซ้อนได้ ช่วงเวลาส่งท้ายปีเก่าทำให้ผู้คนหันมาทบทวนสิ่งต่างๆ และผมเองก็อยากจะแบ่งปันความคิดเห็นส่วนตัวเกี่ยวกับสิ่งที่ผ่านมา และสิ่งที่ได้เรียนรู้ตลอดเส้นทางนี้

เมื่อเราเข้าใกล้ AGI มากขึ้น เรารู้สึกว่านี่เป็นช่วงเวลาที่สำคัญที่จะต้องมองไปที่ความก้าวหน้าของบริษัทของเรา ยังมีอีกมากมายที่เราต้องทำความเข้าใจ ยังมีอีกมากมายที่เรายังไม่รู้ และมันยังเป็นเพียงช่วงเริ่มต้น แต่เราก็รู้มากกว่าตอนที่เราเริ่ม

เราเริ่มต้น OpenAI เมื่อเกือบเก้าปีที่แล้ว เพราะเราเชื่อว่า AGI เป็นไปได้ และมันอาจเป็นเทคโนโลยีที่มีอิทธิพลมากที่สุดในประวัติศาสตร์มนุษย์ เราต้องการที่จะคิดค้นวิธีการสร้างมันและทำให้มันเป็นประโยชน์อย่างกว้างขวาง เราตื่นเต้นที่จะพยายามสร้างรอยบนหน้าประวัติศาสตร์ ความทะเยอทะยานของเราสูงมาก และความเชื่อของเราว่างานนี้จะสามารถเป็นประโยชน์ต่อสังคมได้อย่างไม่ธรรมดาก็สูงเช่นกัน

ในเวลานั้น มีคนเพียงไม่กี่คนที่สนใจ และถ้าพวกเขาสนใจ ส่วนใหญ่ก็เป็นเพราะพวกเขาคิดว่าเราไม่มีโอกาสประสบความสำเร็จ

ในปี 2022 OpenAI เป็นห้องปฏิบัติการวิจัยที่เงียบสงบที่กำลังทำงานเกี่ยวกับสิ่งที่เรียกว่า "Chat With GPT-3.5" ชั่วคราว (เราเก่งเรื่องการวิจัยมากกว่าการตั้งชื่อ) เราได้เฝ้าดูผู้คนใช้ฟีเจอร์ playground ของ API ของเรา และรู้ว่านักพัฒนาสนุกกับการพูดคุยกับโมเดล เราคิดว่าการสร้างตัวอย่างการใช้งานจากประสบการณ์นั้นจะแสดงให้ผู้คนเห็นถึงสิ่งสำคัญเกี่ยวกับอนาคต และช่วยให้เราปรับปรุงโมเดลของเราให้ดีขึ้นและปลอดภัยยิ่งขึ้น

ในที่สุดเราก็ตั้งชื่อมันว่า ChatGPT แทน และเปิดตัวเมื่อวันที่ 30 พฤศจิกายน 2022

เราทราบเสมอโดยนามธรรมว่า ณ จุดหนึ่งเราจะถึงจุดเปลี่ยน และการปฏิวัติ AI จะเริ่มต้นขึ้น แต่เราไม่รู้ว่าช่วงเวลานั้นจะเป็นเมื่อไหร่ ที่น่าประหลาดใจก็คือมันเกิดขึ้นแล้ว การเปิดตัว ChatGPT จุดประกายให้เกิดการเติบโตอย่างที่ไม่เคยมีมาก่อน ไม่ว่าจะเป็นในบริษัทของเรา ในอุตสาหกรรมของเรา และในโลกโดยทั่วไป ในที่สุดเราก็ได้เห็นผลตอบแทนมหาศาลที่เราหวังไว้จาก AI และเราก็สามารถเห็นได้ว่าจะมีอะไรตามมาอีกมากมายในเร็วๆ นี้

มันไม่ง่ายเลย เส้นทางไม่ได้ราบรื่น และทางเลือกที่ถูกต้องก็ไม่ได้ชัดเจน

ในช่วงสองปีที่ผ่านมา เราต้องสร้างบริษัททั้งบริษัทขึ้นมาเกือบจากศูนย์ โดยมีเทคโนโลยีใหม่นี้เป็นศูนย์กลาง ไม่มีทางที่จะฝึกฝนผู้คนสำหรับเรื่องนี้ได้ นอกจากการลงมือทำ และเมื่อหมวดหมู่เทคโนโลยีเป็นของใหม่ทั้งหมด ก็ไม่มีใครเลยที่จะสามารถบอกคุณได้อย่างชัดเจนว่าควรทำอย่างไร

การสร้างบริษัทขึ้นมาด้วยความเร็วสูงเช่นนี้ โดยที่ไม่มีการฝึกอบรมเพียงพอ เป็นกระบวนการที่ยุ่งเหยิง บ่อยครั้งที่มันคือสองก้าวไปข้างหน้า หนึ่งก้าวถอยหลัง (และบางครั้งก็หนึ่งก้าวไปข้างหน้า สองก้าวถอยหลัง) ความผิดพลาดได้รับการแก้ไขไปพร้อมๆ กับการดำเนินงาน แต่ก็ไม่มีคู่มือหรือหลักเกณฑ์ใดๆ เมื่อคุณกำลังทำงานริเริ่ม การเคลื่อนที่ด้วยความเร็วในน่านน้ำที่ไม่คุ้นเคยเป็นประสบการณ์ที่เหลือเชื่อ แต่ก็เป็นสิ่งที่สร้างความเครียดอย่างมากสำหรับผู้เล่นทุกคน ความขัดแย้งและความเข้าใจผิดมีอยู่ทั่วไป

ปีเหล่านี้เป็นปีที่คุ้มค่าที่สุด สนุกที่สุด ดีที่สุด น่าสนใจที่สุด เหนื่อยล้าที่สุด เครียดที่สุด และโดยเฉพาะอย่างยิ่งสำหรับสองปีที่ผ่านมา เป็นปีที่ไม่น่าพอใจที่สุดในชีวิตของผมจนถึงตอนนี้ ความรู้สึกที่ท่วมท้นคือความกตัญญู ผมรู้ว่าสักวันหนึ่งผมจะเกษียณอายุอยู่ที่ไร่ของเรา เฝ้าดูต้นไม้เติบโต รู้สึกเบื่อเล็กน้อย และจะหวนคิดถึงว่ามันเจ๋งแค่ไหนที่ผมได้ทำในสิ่งที่ใฝ่ฝันมาตั้งแต่เด็ก ผมพยายามที่จะจำเรื่องนั้นไว้ในทุกๆ วันศุกร์ เมื่อมีเจ็ดสิ่งผิดพลาดภายในบ่ายโมง

ความท้าทายและการเรียนรู้

เมื่อประมาณหนึ่งปีที่แล้ว ในวันศุกร์วันหนึ่ง สิ่งที่ผิดพลาดที่สุดในวันนั้นคือผมถูกไล่ออกโดยไม่ทันตั้งตัวในการประชุมทางวิดีโอ และหลังจากที่เราวางสาย คณะกรรมการก็เผยแพร่บล็อกโพสต์เกี่ยวกับเรื่องนี้ ผมอยู่ในห้องพักโรงแรมในลาสเวกัส มันรู้สึกเหมือนความฝันที่ผิดพลาดในระดับที่แทบอธิบายไม่ได้

การถูกไล่ออกต่อหน้าสาธารณชนโดยไม่มีการเตือนล่วงหน้าทำให้เกิดช่วงเวลาที่บ้าคลั่งไม่กี่ชั่วโมง และช่วงเวลาที่บ้าคลั่งไม่กี่วัน ความ "คลุมเครือของสงคราม" เป็นส่วนที่แปลกที่สุด พวกเราไม่มีใครได้รับคำตอบที่น่าพอใจเกี่ยวกับสิ่งที่เกิดขึ้น หรือเหตุผล

เหตุการณ์ทั้งหมดนี้ ในความเห็นของผม เป็นความล้มเหลวในการกำกับดูแลโดยผู้ที่มีเจตนาดี ซึ่งรวมถึงตัวผมเองด้วย เมื่อมองย้อนกลับไป ผมหวังว่าผมจะได้ทำสิ่งต่างๆ แตกต่างออกไป และผมอยากจะเชื่อว่าผมเป็นผู้นำที่ดีขึ้นและมีเหตุผลมากขึ้นในวันนี้มากกว่าเมื่อปีที่แล้ว

ผมยังได้เรียนรู้ถึงความสำคัญของคณะกรรมการที่มีมุมมองที่หลากหลายและมีประสบการณ์ที่กว้างขวางในการจัดการกับความท้าทายที่ซับซ้อน การกำกับดูแลที่ดีต้องอาศัยความไว้วางใจและความน่าเชื่อถือ ผมซาบซึ้งในวิธีที่ผู้คนมากมายทำงานร่วมกันเพื่อสร้างระบบการกำกับดูแลที่แข็งแกร่งขึ้นสำหรับ OpenAI ซึ่งช่วยให้เราสามารถดำเนินตามพันธกิจในการทำให้ AGI เป็นประโยชน์ต่อมนุษยชาติทุกคน

สิ่งที่ผมได้เรียนรู้มากที่สุดคือผมมีเรื่องให้ขอบคุณมากมาย และมีผู้คนมากมายที่ผมต้องแสดงความขอบคุณต่อ: ทุกคนที่ทำงานที่ OpenAI และเลือกที่จะใช้เวลาและความพยายามในการไล่ตามความฝันนี้ เพื่อนๆ ที่ช่วยให้เราผ่านช่วงวิกฤตไปได้ พันธมิตรและลูกค้าของเราที่สนับสนุนเราและมอบความไว้วางใจให้เราช่วยให้พวกเขาประสบความสำเร็จ และผู้คนในชีวิตของผมที่แสดงให้ผมเห็นว่าพวกเขาห่วงใยผมมากแค่ไหน

พวกเราทุกคนกลับมาทำงานด้วยกันอย่างสามัคคีและเชิงบวกมากขึ้น และผมภูมิใจกับความมุ่งมั่นของเราตั้งแต่นั้นมา เราได้ทำการวิจัยที่ดีที่สุดเท่าที่เราเคยทำมา เราเติบโตจากผู้ใช้งาน 100 ล้านคนต่อสัปดาห์ เป็นมากกว่า 300 ล้านคน ที่สำคัญที่สุดคือเรายังคงนำเทคโนโลยีออกสู่โลกที่ผู้คนดูเหมือนจะชื่นชอบอย่างแท้จริง และช่วยแก้ปัญหาที่เกิดขึ้นจริง

อนาคตของ AI และ Superintelligence

เมื่อเก้าปีที่แล้ว เราไม่รู้ว่าเราจะกลายเป็นอะไรในที่สุด แม้แต่ตอนนี้ เราก็รู้เพียงเล็กน้อย การพัฒนา AI ได้ผ่านการเปลี่ยนแปลงมากมาย และเราคาดหวังว่าจะมีการเปลี่ยนแปลงมากขึ้นในอนาคต

การเปลี่ยนแปลงบางอย่างก็เป็นเรื่องที่น่ายินดี บางอย่างก็ยากลำบาก มันสนุกที่ได้เห็นปาฏิหาริย์การวิจัยเกิดขึ้นอย่างต่อเนื่อง และผู้ที่เคยไม่เชื่อหลายคนก็กลายเป็นผู้ที่เชื่ออย่างแท้จริง เรายังได้เห็นเพื่อนร่วมงานบางคนแยกตัวออกไปและกลายเป็นคู่แข่ง ทีมงานมักจะมีการเปลี่ยนแปลงเมื่อมีการขยายขนาด และ OpenAI ก็ขยายขนาดอย่างรวดเร็ว ผมคิดว่าสิ่งเหล่านี้เป็นสิ่งที่หลีกเลี่ยงไม่ได้ สตาร์ทอัพมักจะมีการเปลี่ยนแปลงมากมายในแต่ละระดับการขยายขนาดใหม่ และที่ OpenAI ตัวเลขเพิ่มขึ้นตามลำดับทุกๆ สองสามเดือน สองปีที่ผ่านมาเหมือนหนึ่งทศวรรษในบริษัททั่วไป เมื่อบริษัทใดๆ เติบโตและพัฒนาอย่างรวดเร็ว ความสนใจก็ย่อมแตกต่างกันไป และเมื่อบริษัทใดๆ ในอุตสาหกรรมที่สำคัญเป็นผู้นำ ก็จะมีผู้คนมากมายโจมตีด้วยเหตุผลต่างๆ โดยเฉพาะอย่างยิ่งเมื่อพวกเขากำลังพยายามแข่งขันกับบริษัทนั้น

วิสัยทัศน์ของเราจะไม่เปลี่ยนแปลง กลยุทธ์ของเราจะยังคงพัฒนาต่อไป ตัวอย่างเช่น เมื่อเราเริ่มต้น เราไม่รู้ว่าเราจะต้องสร้างบริษัทผลิตภัณฑ์ เราคิดว่าเราจะทำการวิจัยที่ยอดเยี่ยมเท่านั้น เรายังไม่รู้ว่าเราจะต้องใช้เงินทุนจำนวนมากขนาดนี้ มีสิ่งใหม่ๆ ที่เราต้องไปสร้างในตอนนี้ ซึ่งเราไม่เข้าใจเมื่อไม่กี่ปีที่ผ่านมา และจะมีสิ่งใหม่ๆ ในอนาคตที่เราแทบจะจินตนาการไม่ได้ในตอนนี้

เราภูมิใจในผลงานด้านการวิจัยและการนำไปใช้ของเราจนถึงตอนนี้ และมุ่งมั่นที่จะพัฒนาความคิดของเราในเรื่องความปลอดภัยและการแบ่งปันผลประโยชน์ต่อไป เรายังคงเชื่อว่าวิธีที่ดีที่สุดในการทำให้ระบบ AI ปลอดภัยคือการค่อยๆ ปล่อยมันออกสู่โลก ให้สังคมมีเวลาปรับตัวและวิวัฒนาการร่วมกับเทคโนโลยี เรียนรู้จากประสบการณ์ และพัฒนาเทคโนโลยีให้ปลอดภัยยิ่งขึ้นต่อไป เราเชื่อในความสำคัญของการเป็นผู้นำระดับโลกด้านการวิจัยความปลอดภัยและการปรับตัว และในการชี้นำการวิจัยนั้นด้วยข้อเสนอแนะจากการใช้งานจริง

ตอนนี้เรามั่นใจว่าเรารู้วิธีสร้าง AGI ตามที่เราเข้าใจกันมาโดยตลอด เราเชื่อว่าในปี 2025 เราอาจได้เห็นตัวแทน AI กลุ่มแรก "เข้าร่วมตลาดแรงงาน" และเปลี่ยนแปลงผลผลิตของบริษัทอย่างมีนัยสำคัญ เรายังคงเชื่อว่าการนำเครื่องมือที่ยอดเยี่ยมไปอยู่ในมือของผู้คนอย่างต่อเนื่องนำไปสู่ผลลัพธ์ที่ยอดเยี่ยมและกระจายไปในวงกว้าง

เรากำลังเริ่มหันเป้าหมายไปไกลกว่านั้น ไปสู่ superintelligence ในความหมายที่แท้จริงของคำ เราชื่นชอบผลิตภัณฑ์ปัจจุบันของเรา แต่เราอยู่ที่นี่เพื่ออนาคตอันรุ่งโรจน์ ด้วย superintelligence เราสามารถทำอะไรก็ได้ เครื่องมือ superintelligence สามารถเร่งการค้นพบทางวิทยาศาสตร์และนวัตกรรมได้อย่างมาก เกินกว่าที่เราสามารถทำได้ด้วยตัวเราเอง และจะเพิ่มความอุดมสมบูรณ์และความเจริญรุ่งเรืองอย่างมาก

สิ่งนี้ฟังดูเหมือนนิยายวิทยาศาสตร์ในตอนนี้ และค่อนข้างบ้าที่จะพูดถึงด้วยซ้ำ ไม่เป็นไร เราเคยเป็นแบบนั้นมาก่อน และเราก็โอเคที่จะเป็นแบบนั้นอีก เราค่อนข้างมั่นใจว่าในอีกไม่กี่ปีข้างหน้า ทุกคนจะเห็นสิ่งที่เราเห็น และความจำเป็นในการดำเนินการด้วยความระมัดระวังอย่างยิ่ง ในขณะที่ยังคงเพิ่มผลประโยชน์และการเสริมอำนาจในวงกว้างให้มากที่สุดนั้นเป็นสิ่งสำคัญอย่างยิ่ง ด้วยความเป็นไปได้ของงานของเรา OpenAI ไม่สามารถเป็นบริษัททั่วไปได้

ช่างโชคดีและถ่อมตนเพียงใดที่ได้มีบทบาทในงานนี้

(ขอขอบคุณ Josh Tyrangiel ที่ช่วยกระตุ้นเรื่องนี้ ผมหวังว่าเราจะมีเวลามากกว่านี้)

การแสดงความขอบคุณ

[1] มีผู้คนมากมายที่ทำงานอย่างไม่น่าเชื่อและมหาศาลเพื่อช่วยเหลือ OpenAI และตัวผมเองในช่วงสองสามวันนั้น แต่มีสองคนที่โดดเด่นกว่าคนอื่นๆ ทั้งหมด

Ron Conway และ Brian Chesky ได้ทำสิ่งที่เกินความคาดหมายจนผมไม่แน่ใจว่าจะอธิบายอย่างไร ผมเคยได้ยินเรื่องราวเกี่ยวกับความสามารถและความมุ่งมั่นของ Ron มาหลายปี และผมได้ใช้เวลามากมายกับ Brian ในช่วงสองสามปีที่ผ่านมา ได้รับความช่วยเหลือและคำแนะนำมากมาย

แต่ไม่มีอะไรเทียบได้กับการอยู่ในสนามเพลาะกับผู้คนเพื่อดูว่าพวกเขาสามารถทำอะไรได้บ้าง ผมค่อนข้างมั่นใจว่า OpenAI คงจะพังทลายหากไม่มีความช่วยเหลือจากพวกเขา พวกเขาทำงานตลอดเวลาหลายวันจนกระทั่งทุกอย่างเสร็จ

แม้ว่าพวกเขาจะทำงานหนักอย่างไม่น่าเชื่อ แต่พวกเขาก็ยังคงใจเย็น และมีแนวคิดเชิงกลยุทธ์ที่ชัดเจน และให้คำแนะนำที่ดีตลอด พวกเขาหยุดผมจากการทำผิดพลาดหลายครั้ง และไม่ได้ทำผิดพลาดเลย พวกเขาใช้เครือข่ายขนาดใหญ่ของพวกเขาสำหรับทุกสิ่งที่จำเป็น และสามารถจัดการกับสถานการณ์ที่ซับซ้อนมากมายได้ และผมก็มั่นใจว่าพวกเขาทำอะไรอีกหลายอย่างที่ผมไม่รู้

สิ่งที่ผมจะจำได้มากที่สุดคือความห่วงใย ความเห็นอกเห็นใจ และการสนับสนุนของพวกเขา

ผมคิดว่าผมรู้ว่าการสนับสนุนผู้ก่อตั้งและบริษัทเป็นอย่างไร และในแง่เล็กๆ น้อยๆ ผมก็รู้ แต่ผมไม่เคยเห็น หรือแม้แต่ได้ยินอะไรแบบที่คนเหล่านี้ทำมาก่อน และตอนนี้ผมเข้าใจมากขึ้นว่าทำไมพวกเขาถึงมีสถานะในตำนานเช่นนี้ พวกเขาแตกต่างกัน และทั้งคู่ก็สมควรได้รับชื่อเสียงที่เป็นเอกลักษณ์อย่างแท้จริง แต่พวกเขามีความคล้ายคลึงกันในความสามารถที่โดดเด่นในการเคลื่อนภูเขาและช่วยเหลือ และในการอุทิศตนอย่างแน่วแน่ในยามที่ต้องการ อุตสาหกรรมเทคโนโลยีดีขึ้นมากที่มีพวกเขาทั้งสองคนอยู่ในนั้น

ยังมีคนอื่นๆ ที่เหมือนพวกเขา มันเป็นสิ่งที่พิเศษอย่างน่าทึ่งเกี่ยวกับอุตสาหกรรมของเรา และทำอะไรอีกมากมายเพื่อให้ทุกอย่างดำเนินไปได้มากกว่าที่ผู้คนตระหนัก ผมรอคอยที่จะตอบแทน

ในประเด็นส่วนตัวมากขึ้น ขอขอบคุณ Ollie เป็นพิเศษสำหรับการสนับสนุนในช่วงสุดสัปดาห์นั้นและเสมอมา เขาเป็นคนที่น่าทึ่งในทุกๆ ด้าน และไม่มีใครที่จะขอคู่ครองที่ดีกว่านี้ได้

Reflections