Você confiaria em uma inteligência artificial para salvar vidas? A resposta parece óbvia, mas a realidade é mais sombria do que você imagina. O CEO da OpenAI, Sam Altman, se viu obrigado a pedir desculpas públicas a uma pequena cidade no Canadá após um erro de julgamento que custou vidas.
A carta que chocou o Canadá
Em uma carta publicada no jornal local Tumbler RidgeLines, Altman disse estar "profundamente arrependido" por sua empresa não ter alertado as autoridades sobre o suspeito de um massacre que deixou oito mortos em Tumbler Ridge. O atirador, Jesse Van Rootselaar, de 18 anos, teve sua conta do ChatGPT banida ainda em junho de 2025, depois de descrever cenários envolvendo violência armada.
O problema? A OpenAI sabia do risco, mas optou por não agir. Funcionários da empresa debateram se deveriam contatar a polícia, mas decidiram contra. O contato com as autoridades canadenses só aconteceu depois que o ataque já havia ocorrido.
O dilema ético que ninguém quer enfrentar
"Sei que as palavras nunca são suficientes, mas acredito que um pedido de desculpas é necessário para reconhecer o dano e a perda irreversível que sua comunidade sofreu", escreveu Altman. O premier da Colúmbia Britânica, David Eby, classificou o pedido como "necessário, mas grosseiramente insuficiente para a devastação causada às famílias de Tumbler Ridge."
Enquanto isso, a OpenAI anuncia que está melhorando seus protocolos de segurança, com critérios mais flexíveis para determinar quando contas devem ser encaminhadas às autoridades. Mas a pergunta que fica no ar é: quantas vidas mais precisam ser perdidas para que a inteligência artificial aprenda a agir?
O que muda daqui para frente?
Autoridades canadenses já sinalizaram que estão considerando novas regulamentações para inteligência artificial, mas ainda não tomaram nenhuma decisão final. O caso expõe uma verdade desconfortável: estamos confiando a máquinas decisões que podem significar vida ou morte, enquanto os humanos por trás delas ainda não sabem como lidar com o peso dessa responsabilidade.