Нобелевский лауреат, 'крестный отец' ИИ Хинтон, поддерживает иск против OpenAI о блокировке перехода к прибыли

Переход OpenAI вызывает споры

В прошлую пятницу OpenAI объявила о планах разделить свою организацию на две части: прибыльную и некоммерческую. Этот шаг вызвал широкие обсуждения и споры в сообществе искусственного интеллекта.

Поддержка иска Маска

Ранее генеральный директор Tesla Илон Маск подал федеральный иск против OpenAI в ноябре, пытаясь заблокировать ее переход с помощью предварительного судебного запрета. Сейчас этот иск получил дополнительную поддержку, в том числе от лауреата Нобелевской премии Джеффри Хинтона, которого называют "крестным отцом ИИ".

Позиция Джеффри Хинтона

Джеффри Хинтон, уважаемый за свой вклад в области искусственных нейронных сетей, является не только лауреатом премии Тьюринга, но и лауреатом Нобелевской премии по физике 2024 года. Хинтон публично заявил о своей поддержке иска, направленного на блокировку перехода OpenAI, считая, что этот шаг нарушает первоначальные обязательства OpenAI по безопасности.

Организация Encode присоединяется к иску

Молодежная правозащитная организация Encode также подала заявление amicus curiae в поддержку иска Маска. Encode, которая участвовала в разработке законодательства о безопасности искусственного интеллекта в Калифорнии, считает, что переход OpenAI к прибыли подорвет ее миссию, ориентированную на безопасность и общественное благо.

Точка зрения Encode

Encode считает, что OpenAI интернализирует прибыль от искусственного интеллекта, но экстернализирует риски для всего человечества. Они подчеркивают, что если мир находится в новой эре общего искусственного интеллекта, то эта технология должна контролироваться общественным благотворительным учреждением, связанным законом и приоритезирующим безопасность и общественное благо, а не организацией, ориентированной на создание финансовой отдачи для нескольких инвесторов.

Суть юридических споров

Юрист Encode отмечает, что некоммерческая организация OpenAI обещала прекратить конкуренцию с любыми "согласованными по ценностям и безопасными проектами". Однако после преобразования в прибыльную организацию ситуация будет совсем иной. Кроме того, после реорганизации совет директоров некоммерческой организации больше не сможет отменять долю инвесторов в зависимости от требований безопасности.

Утечка талантов и опасения по поводу безопасности

В последнее время в OpenAI произошла утечка высококвалифицированных кадров, отчасти из-за опасений сотрудников о том, что компания жертвует безопасностью ради коммерческой выгоды. Бывший научный сотрудник по политике Майлз Брундаж считает, что некоммерческая часть OpenAI может превратиться во "второстепенное занятие", а прибыльная часть будет функционировать как "нормальная компания", и потенциальные проблемы безопасности не будут решены.

Соображения общественной выгоды

Encode считает, что ответственность OpenAI перед человечеством, о которой она заявляла, перестанет существовать, поскольку законодательство штата Делавэр четко гласит, что директора компаний, работающих в интересах общества, не несут никакой ответственности перед обществом. Они считают, что передача контроля от некоммерческой организации, ориентированной на безопасность и имеющей ограниченные задачи, прибыльной компании без каких-либо обязательств по безопасности нанесет ущерб общественным интересам.

Назначение слушаний

Слушания по предварительному судебному запрету назначены на 14 января 2025 года у судьи окружного суда США Ивонн Гонсалес Роджерс.

История и преобразование OpenAI

OpenAI была основана в 2015 году как некоммерческая исследовательская лаборатория. По мере ускорения экспериментов компания становилась все более капиталоемкой и начала привлекать внешние инвестиции. В 2019 году OpenAI преобразовалась в стартап со смешанной структурой, где некоммерческая организация контролировала прибыльную структуру. Недавно OpenAI планировала преобразовать свою прибыльную компанию в публичную компанию штата Делавэр (PBC) и выпустить обыкновенные акции. Некоммерческая часть сохранится, но откажется от контроля в обмен на долю в PBC.

Обвинения Маска

Маск обвинил OpenAI в отказе от ее первоначальной благотворительной миссии, заключавшейся в том, чтобы сделать результаты исследований в области искусственного интеллекта доступными для всех, и в лишении конкурентов капитала с помощью антиконкурентных мер.

Ответ OpenAI

OpenAI назвала жалобы Маска "необоснованными" и просто "завистью".

Более подробный анализ ситуации

Разделение OpenAI на прибыльную и некоммерческую части – это не просто организационное изменение, это фундаментальный сдвиг в подходе к развитию и применению искусственного интеллекта. Изначально OpenAI была создана как некоммерческая исследовательская лаборатория, целью которой было развитие ИИ на благо всего человечества. Однако по мере того как компания росла и развивалась, ее финансовые потребности также возрастали, что привело к привлечению внешних инвестиций и, как следствие, к переходу к гибридной структуре.

Роль Джеффри Хинтона и его опасения

Джеффри Хинтон, выдающийся ученый, внесший огромный вклад в развитие искусственных нейронных сетей, выражает серьезные опасения по поводу этого перехода. Его поддержка иска Маска свидетельствует о том, что он видит в этом шаге угрозу для первоначальных целей OpenAI. Хинтон, как один из самых уважаемых экспертов в области ИИ, имеет веское мнение, которое нельзя игнорировать. Его опасения связаны с тем, что коммерциализация ИИ может привести к тому, что безопасность и общественное благо будут отодвинуты на второй план в угоду прибыли.

Позиция организации Encode

Организация Encode, занимающаяся защитой прав молодежи и участвующая в разработке законодательства в области ИИ, также присоединилась к иску, выражая аналогичные опасения. Их аргументы основаны на том, что OpenAI, переходя к прибыльной модели, ставит во главу угла финансовую выгоду, а не безопасность и общественное благо. Они подчеркивают, что ИИ, как технология, способная оказать огромное влияние на человечество, должен развиваться под контролем организаций, которые ставят общественные интересы выше частной выгоды.

Проблема контроля и ответственности

Одним из ключевых моментов в споре является вопрос контроля и ответственности. Некоммерческая часть OpenAI, созданная с целью обеспечения безопасности и этичности ИИ, теряет контроль над прибыльной частью, которая, в свою очередь, имеет обязательства перед своими инвесторами. Это означает, что решения о развитии и применении ИИ могут приниматься в первую очередь на основе финансовых соображений, а не на основе соображений безопасности и этичности.

Утечка талантов и внутренние противоречия

Утечка талантов из OpenAI также является тревожным сигналом. Многие сотрудники, обеспокоенные изменением приоритетов компании, покидают ее. Это свидетельствует о том, что внутри компании существуют серьезные разногласия по поводу ее будущего направления. Опасения сотрудников о том, что безопасность может быть принесена в жертву коммерческой выгоде, не должны оставаться без внимания.

Правовые аспекты и будущие слушания

Слушания по предварительному судебному запрету назначены на январь 2025 года. Это означает, что в ближайшее время мы увидим более подробное обсуждение правовых аспектов спора. Суд должен будет решить, является ли переход OpenAI к прибыльной модели нарушением ее первоначальных обязательств и представляет ли это угрозу для общественного блага.

Исторический контекст и эволюция OpenAI

История OpenAI показывает, как менялся подход к развитию ИИ. Компания начинала как некоммерческая лаборатория, но со временем, по мере роста и развития, столкнулась с финансовыми потребностями, которые привели к изменению ее структуры. Этот переход является отражением более широкой тенденции в развитии технологий, когда коммерческие интересы часто вступают в противоречие с общественными целями.

Позиция Илона Маска и реакция OpenAI

Илон Маск, один из основателей OpenAI, выражает резкое несогласие с ее нынешним направлением. Его обвинения в адрес компании сводятся к тому, что она отказалась от своих первоначальных благотворительных целей и стремится к коммерческой выгоде, игнорируя общественное благо. OpenAI, в свою очередь, отвергает эти обвинения, называя их "необоснованными".

Влияние на будущее ИИ

Этот спор имеет большое значение для будущего развития ИИ. Он поднимает важные вопросы о том, как должна развиваться эта технология, кто должен контролировать ее развитие и как обеспечить ее безопасность и этичность. Решения, принятые в ходе этого спора, могут оказать долгосрочное влияние на будущее ИИ и его роль в обществе.

Перспективы и возможные сценарии

В зависимости от исхода судебного разбирательства, могут быть различные сценарии развития событий. Если суд примет решение в пользу Маска и других истцов, то OpenAI может быть вынуждена пересмотреть свою структуру и подход к развитию ИИ. Если же суд встанет на сторону OpenAI, то это может стать прецедентом для других компаний, занимающихся разработкой ИИ.

Значение для общества

В конечном счете, этот спор имеет значение для всего общества. ИИ, как технология, способная оказать огромное влияние на нашу жизнь, должен развиваться с учетом интересов всего человечества. Это означает, что необходимо обеспечить прозрачность, подотчетность и этичность в развитии ИИ.