A OpenAI, empresa responsável pelo desenvolvimento de modelos de inteligência artificial como o ChatGPT, desfez sua equipe interna dedicada a garantir que seus sistemas de IA sejam "seguros, confiáveis e consistentemente alinhados com valores humanos". A confirmação foi dada à reportagem do TechCrunch, após a informação ser divulgada inicialmente pelo veÃculo Platformer. Os membros da equipe foram realocados para outras funções dentro da empresa.
O ex-lÃder do grupo, Josh Achiam, assumiu um novo papel como "futurista-chefe" da OpenAI. Em um post publicado em um blog da empresa na quarta-feira, Achiam explicou que seu objetivo no novo cargo é "apoiar a missão da OpenAI — garantir que a inteligência artificial geral beneficie toda a humanidade — estudando como o mundo mudará em resposta à IA, à AGI e além". Ele afirmou que colaborará com Jason Pruet, um fÃsico da equipe técnica da empresa.
Reorganização interna e histórico de equipes
Um porta-voz da OpenAI atribuiu o desmonte da equipe a realinhamentos de rotina que ocorrem em uma empresa de ritmo acelerado. A equipe desfeita, formada em setembro de 2024, era a unidade interna da startup focada em trabalhos de "alinhamento" — um campo amplo da indústria que busca garantir que a IA aja de acordo com os interesses humanos. Um post do blog de Pesquisa de Alinhamento da OpenAI declarava que o objetivo era fazer com que os sistemas "sigam consistentemente a intenção humana em cenários complexos do mundo real e condições adversas, evitem comportamentos catastróficos e permaneçam controláveis, auditáveis ​​e alinhados com os valores humanos".
Esta não é a primeira vez que a empresa desfaz uma equipe com foco em segurança de longo prazo. Anteriormente, a OpenAI tinha uma "equipe de superalinhamento", formada em 2023 para estudar ameaças existenciais de longo prazo representadas pela IA, que também foi desmantelada em 2024.
Destino dos membros e novo cargo
O porta-voz informou que o restante da equipe de Alinhamento — um grupo de seis ou sete pessoas — foi subsequentemente realocado para diferentes partes da empresa. Não foi especificado para quais áreas os membros foram designados, mas o porta-voz afirmou que eles estão engajados em trabalhos semelhantes em seus novos papéis. Também não ficou claro se Achiam terá uma nova equipe como parte de sua função de "futurista".
O perfil no LinkedIn de Josh Achiam mostra que ele atuou como Chefe de Alinhamento de Missão desde setembro de 2024. Seu site pessoal ainda o lista como chefe de Alinhamento de Missão na OpenAI e descreve seu interesse em garantir que o "futuro de longo prazo da humanidade seja bom".
A mudança ocorre em um contexto de crescente escrutÃnio sobre os desenvolvimentos e a governança da inteligência artificial por parte de grandes empresas de tecnologia. A OpenAI continua a lançar novos modelos, como um recente modelo de codificação agêntica, minutos após a concorrente Anthropic divulgar seu próprio lançamento.