Geoffrey Hinton apoia ação contra OpenAI para impedir transição para fins lucrativos

A transição da OpenAI para uma estrutura com fins lucrativos tem gerado grande controvérsia, especialmente após o anúncio da empresa de dividir sua organização em duas partes: uma com fins lucrativos e outra sem fins lucrativos. Essa decisão provocou debates acalorados na comunidade de inteligência artificial e levanta questões sobre o futuro da tecnologia.

Apoio à Ação Judicial de Musk

Elon Musk, CEO da Tesla, já havia apresentado uma ação federal contra a OpenAI em novembro, buscando uma liminar para impedir a transição. Agora, essa ação ganha mais força com o apoio de figuras influentes, incluindo Geoffrey Hinton, renomado como o "Pai da IA" e laureado com o Prêmio Nobel.

A Posição de Geoffrey Hinton

Geoffrey Hinton, respeitado por suas contribuições no campo das redes neurais artificiais, não só é vencedor do Prêmio Turing, mas também recebeu o Prêmio Nobel de Física em 2024. Hinton manifestou publicamente seu apoio à ação para bloquear a transição da OpenAI, argumentando que essa mudança viola os compromissos iniciais de segurança da empresa. Sua participação adiciona um peso significativo à controvérsia.

Encode Junta-se à Ação

A organização de defesa juvenil Encode também apresentou um parecer de amicus curiae em apoio à ação de Musk. A Encode, que já participou da legislação de segurança da IA na Califórnia, acredita que a transição da OpenAI para fins lucrativos compromete sua missão original de priorizar a segurança e o interesse público.

A Perspectiva da Encode

A Encode argumenta que a OpenAI internaliza os lucros da IA, enquanto externaliza os riscos para toda a humanidade. Eles enfatizam que, se o mundo está entrando em uma nova era de inteligência artificial geral, essa tecnologia deve ser controlada por uma instituição de caridade pública, com obrigações legais e priorizando a segurança e o interesse público, em vez de uma organização focada em gerar retornos financeiros para um grupo seleto de investidores.

O Núcleo do Desafio Legal

Os advogados da Encode ressaltam que a organização sem fins lucrativos da OpenAI prometeu não competir com projetos "alinhados em valor e conscientes da segurança". No entanto, uma vez que a empresa se torne lucrativa, a situação mudará drasticamente. Além disso, após a reestruturação, o conselho da organização sem fins lucrativos não poderá mais cancelar a participação dos investidores com base em necessidades de segurança.

Preocupações com a Perda de Talentos e a Segurança

Recentemente, a OpenAI tem enfrentado uma perda de talentos de alto nível, em parte devido à preocupação dos funcionários de que a empresa esteja priorizando o lucro em detrimento da segurança. Miles Brundage, ex-pesquisador de políticas, acredita que a parte sem fins lucrativos da OpenAI pode se tornar um "projeto paralelo", enquanto a parte com fins lucrativos operará como uma "empresa normal", deixando potenciais problemas de segurança sem solução.

O Impacto no Interesse Público

A Encode argumenta que a responsabilidade da OpenAI para com a humanidade, como prometido, deixará de existir, pois a lei de Delaware deixa claro que os diretores de empresas de interesse público não têm qualquer responsabilidade para com o público. Eles acreditam que entregar o controle de uma organização sem fins lucrativos, focada na segurança e com uma missão limitada, a uma empresa com fins lucrativos, sem um compromisso executável com a segurança, prejudicará o interesse público.

Audiência Agendada

Uma audiência sobre a liminar está marcada para 14 de janeiro de 2025, perante a juíza federal Yvonne Gonzalez Rogers. A batalha legal está em andamento, e o resultado pode ter implicações significativas para o futuro do desenvolvimento e da governança da IA.

Histórico e Transição da OpenAI

A OpenAI foi fundada em 2015 como um laboratório de pesquisa sem fins lucrativos. À medida que os experimentos avançavam, a empresa se tornou cada vez mais intensiva em capital, começando a aceitar investimentos externos.

Evolução da Estrutura

Em 2019, a OpenAI se transformou em uma startup com uma estrutura híbrida, onde uma organização sem fins lucrativos controlava uma entidade com fins lucrativos. Recentemente, a OpenAI planeja transformar sua empresa com fins lucrativos em uma Public Benefit Corporation (PBC) de Delaware, emitindo ações ordinárias.

Mudança de Controle

A parte sem fins lucrativos será mantida, mas abrirá mão do controle em troca de ações da PBC. Essa mudança de controle é um dos pontos centrais da disputa legal, com muitos argumentando que a missão original da OpenAI está sendo abandonada em favor do lucro.

Acusações de Musk

Musk acusa a OpenAI de abandonar sua missão filantrópica original de tornar a pesquisa em inteligência artificial acessível a todos e de usar práticas anticompetitivas para privar os concorrentes de capital. As críticas de Musk ecoam as preocupações de muitos na comunidade de IA, que veem a transição da OpenAI como uma traição aos seus princípios fundadores.

Resposta da OpenAI

A OpenAI respondeu às reclamações de Musk, afirmando que elas são "infundadas" e apenas "azedas". A empresa insiste que sua transição é necessária para garantir o desenvolvimento contínuo e responsável da IA, mas seus críticos permanecem céticos e preocupados com o futuro da tecnologia.

A controvérsia sobre a transição da OpenAI destaca a tensão entre inovação tecnológica, lucro e a necessidade de garantir que a IA seja desenvolvida de forma segura e para o benefício de todos. A ação judicial em curso pode determinar o futuro do modelo de negócios da OpenAI e estabelecer um precedente importante para outras empresas de IA.