A OpenAI, empresa criadora do ChatGPT, finalizou um acordo com o Departamento de Defesa dos Estados Unidos para o uso de seus modelos de inteligência artificial em missões de defesa. O anúncio foi feito pelo CEO Sam Altman, que detalhou os termos em uma sessão de perguntas e respostas na rede social X no último sábado (3). O contrato foi fechado após a concorrente Anthropic recusar um ultimato sobre o uso de seu modelo Claude em vigilância doméstica em massa e armas totalmente autônomas.
Segundo Altman, o acordo foi negociado rapidamente, em uma tentativa de "desescalar a situação" entre o Departamento de Defesa e a indústria de IA. "Se estivermos certos e isso levar a uma desescalada, pareceremos gênios", escreveu o executivo. "Se não, continuaremos a ser caracterizados como apressados e descuidados".
Contrato foi prioridade sobre concorrente
Questionado sobre por que o Pentágono escolheu a OpenAI em vez da Anthropic, Altman especulou que as negociações com a concorrente podem ter se deteriorado rapidamente. "Acredito que a Anthropic pode ter querido mais controle operacional do que nós", afirmou. Ele destacou que a OpenAI e o Departamento de Defesa "se sentiram confortáveis com a linguagem contratual" estabelecida.
O CEO também pediu "alguma empatia" pelo Departamento de Defesa, dada sua "missão extremamente importante", e afirmou que a empresa negociou para garantir que termos semelhantes fossem oferecidos a todos os outros laboratórios de IA.
Três "linhas vermelhas" éticas da empresa
Sam Altman afirmou que a OpenAI estabeleceu três "linhas vermelhas" éticas no acordo, mas ressaltou que esses limites podem mudar conforme a tecnologia evolui e novos riscos surgem. "Temos experiência com a tecnologia e entendemos suas limitações, mas acho que você deve ficar aterrorizado com uma empresa privada decidindo o que é e o que não é ético nas áreas mais importantes", declarou.
Ele exemplificou: "Parece bom para nós decidir como o ChatGPT deve responder a uma pergunta controversa. Mas eu realmente não quero que nós decidamos o que fazer se um míssil nuclear estiver vindo em direção aos EUA".
Foco em defesa cibernética e biosegurança
O executivo detalhou que a IA poderá ser útil em duas frentes principais para os EUA. A primeira é a defesa contra grandes ataques cibernéticos, especialmente aqueles que possam derrubar a rede elétrica do país. A segunda área é a biosegurança. "Não acho que estamos atualmente bem preparados o suficiente para detectar e responder a uma nova ameaça pandêmica", disse Altman.
As conversas com o Departamento de Defesa sobre trabalhos não classificados ocorreram por "muitos meses", antes que "as coisas entrassem em alta velocidade no lado classificado" das negociações.
Contexto e próximos passos
O acordo ocorre em um momento de intenso debate sobre o uso ético de inteligência artificial avançada em aplicações militares e de segurança nacional. Altman afirmou ver "sinais promissores" para o desfecho dessa parceria para a OpenAI. A empresa se comprometeu a apoiar a "missão muito importante" do Departamento de Defesa, mantendo seus próprios parâmetros de controle sobre a tecnologia.