Geoffrey Hinton Apoya Demanda Contra OpenAI por Transición Lucrativa

La Controversia de la Transición de OpenAI

La decisión de OpenAI de dividirse en entidades con y sin fines de lucro ha generado un amplio debate en la comunidad de la inteligencia artificial. Este movimiento, anunciado el pasado viernes, ha suscitado inquietudes sobre la dirección futura de la empresa y su compromiso con la seguridad de la IA.

Apoyo a la Demanda de Musk

La demanda federal presentada por Elon Musk en noviembre, buscando una orden judicial preliminar para detener la transición, ha ganado un respaldo significativo. Entre los que se han unido a esta causa se encuentra Geoffrey Hinton, reconocido como el "padrino de la IA" y galardonado con el Premio Nobel.

La Postura de Geoffrey Hinton

Geoffrey Hinton, figura prominente en el campo de las redes neuronales y ganador del Premio Turing, ha expresado públicamente su apoyo a la demanda. Su preocupación se centra en que la transición de OpenAI viola los compromisos iniciales de la empresa con la seguridad de la IA. Además de su destacada contribución a la IA, Hinton también fue laureado con el Premio Nobel de Física en 2024, lo que añade peso a su opinión.

Encode Se Suma a la Lucha Legal

La organización de defensa juvenil Encode también ha presentado un escrito de amicus curiae en apoyo a la demanda de Musk. Encode, que ha participado en la legislación sobre seguridad de la IA en California, considera que la transición de OpenAI hacia fines de lucro socava su misión original de priorizar la seguridad y el bien público.

La Perspectiva de Encode

Encode argumenta que OpenAI está internalizando las ganancias de la IA mientras externaliza los riesgos para toda la humanidad. Subrayan que, si el mundo se encuentra en una nueva era de inteligencia artificial general, esta tecnología debería estar controlada por una organización benéfica pública sujeta a la ley, que priorice la seguridad y el bien público, en lugar de una entidad enfocada en generar retornos financieros para unos pocos inversores.

El Núcleo del Desafío Legal

Los abogados de Encode señalan que la organización sin fines de lucro de OpenAI se había comprometido a no competir con ningún "proyecto alineado en valores y consciente de la seguridad". Sin embargo, la transición a una estructura con fines de lucro cambia el panorama. Una vez completada la reestructuración, la junta directiva de la organización sin fines de lucro ya no podrá cancelar las participaciones de los inversores en función de las necesidades de seguridad.

Preocupaciones por la Fuga de Talentos y la Seguridad

La reciente fuga de talentos de OpenAI se debe, en parte, a la preocupación de los empleados de que la empresa esté priorizando los intereses comerciales sobre la seguridad. Miles Brundage, ex investigador de políticas, sugiere que la parte sin fines de lucro de OpenAI podría convertirse en un "proyecto secundario", mientras que la parte con fines de lucro operará como una "empresa normal", dejando sin resolver los posibles problemas de seguridad.

Consideraciones sobre el Bien Público

Encode sostiene que la responsabilidad de OpenAI hacia la humanidad, tal como se ha proclamado, ya no existirá. La ley de Delaware establece que los directores de una empresa de beneficio público no tienen ninguna responsabilidad ante el público. Creen que transferir el control de una organización sin fines de lucro centrada en la seguridad y con una misión limitada a una empresa con fines de lucro sin un compromiso exigible con la seguridad, perjudicará el bien público.

Próxima Audiencia

La audiencia sobre la orden judicial preliminar está programada para el 14 de enero de 2025 ante la jueza de distrito de EE. UU. Yvonne Gonzalez Rogers.

Historia y Transformación de OpenAI

OpenAI fue fundada en 2015 como un laboratorio de investigación sin fines de lucro. A medida que los experimentos se aceleraron, la empresa se volvió más intensiva en capital y comenzó a aceptar inversiones externas. En 2019, OpenAI se transformó en una startup con una estructura híbrida, donde la organización sin fines de lucro controlaba la entidad con fines de lucro. Recientemente, OpenAI planea convertir su empresa con fines de lucro en una Empresa de Beneficio Público (PBC) de Delaware y emitir acciones ordinarias. La parte sin fines de lucro se mantendrá, pero renunciará al control a cambio de acciones en la PBC.

Acusaciones de Musk

Musk acusa a OpenAI de abandonar su misión caritativa original, que era hacer que los resultados de la investigación en inteligencia artificial fueran accesibles para todos, y de privar a los competidores de capital a través de prácticas anticompetitivas.

La Respuesta de OpenAI

OpenAI ha calificado las quejas de Musk como "infundadas" y las ha tachado de "pataleta".

La situación actual plantea serias preguntas sobre el futuro de la inteligencia artificial y su impacto en la sociedad. La batalla legal en curso determinará si las ganancias prevalecerán sobre la seguridad y el bien público, o si la promesa original de OpenAI de un desarrollo de la IA seguro y beneficioso para todos se mantendrá.