A proliferação descoordenada de ferramentas de inteligência artificial dentro da Amazon está criando um problema de "AI sprawl", com duplicação de software, sobreposição de dados e potenciais falhas de segurança, de acordo com um documento interno confidencial obtido pelo Business Insider. O fenômeno reflete um desafio mais amplo enfrentado por corporações à medida que a tecnologia generativa se espalha rapidamente pelas organizações.
O documento, produzido em fevereiro por uma equipe responsável por avaliar e melhorar as ferramentas de IA usadas no vasto negócio de varejo da Amazon, alerta que a IA está agravando um problema crônico de duplicação de ferramentas na empresa. "A IA está piorando nosso problema de duplicação de ferramentas", afirma o texto. "Mais duplicação está sendo criada mais rapidamente, e menos está sendo limpa."
Barreira mais baixa, problema maior
A cultura da Amazon, que há muito valoriza a autonomia das pequenas equipes – frequentemente descrita como o modelo "two-pizza team" –, agora enfrenta um novo desafio. A IA "reduz drasticamente a barreira para construir novas ferramentas", permitindo que as equipes prototipem e lancem software muito mais rapidamente, segundo o documento interno.
Em vez de procurar soluções existentes, os engenheiros podem criar as suas próprias em uma fração do tempo e mantê-las a um custo muito menor. O resultado é um aumento nos sistemas sobrepostos, com menos pressão para consolidá-los. "A IA agora está piorando esse problema em ambas as direções", declarou o documento.
Riscos com os dados e "shadow AI"
O problema vai além da sobrecarga de ferramentas. Muitos dos sistemas de IA da Amazon ingerem dados internos e os convertem em novos formatos, como bases de conhecimento e resumos. Essas saídas são frequentemente armazenadas separadamente da fonte original, criando efetivamente novas cópias das mesmas informações.
Se os dados originais forem posteriormente excluídos ou tiverem o acesso restrito, essas versões derivadas nem sempre são atualizadas. Em um caso interno, um sistema chamado Spec Studio continuou mostrando detalhes de software que haviam sido tornados privados no repositório interno de código da Amazon.
Debo Dutta, diretor de IA da empresa de cloud Nutanix, descreve o fenômeno como "shadow AI", onde aplicativos não autorizados introduzem riscos como exposição de dados sensíveis e violações regulatórias. "Se não for governado adequadamente, tudo isso pode levar à interrupção de dados e sistemas", disse Dutta ao Business Insider.
Resposta da empresa e visão de futuro
Em comunicado por e-mail, a porta-voz da Amazon, Montana MacLachlan, afirmou que o documento reflete a perspectiva de uma única equipe e que é "impreciso" usar a visão de um grupo para caracterizar a experiência da força de trabalho mais ampla da empresa. Ela destacou que a empresa incentiva o diálogo aberto sobre desafios, uma abordagem que a ajudou a se antecipar a problemas no passado.
Paradoxalmente, a solução explorada pela Amazon para o problema pode envolver mais IA. A empresa está investigando maneiras de usar a própria inteligência artificial para identificar ferramentas duplicadas, sinalizar riscos e incentivar as equipes a consolidarem esforços mais cedo, antes que a sobreposição se torne difícil de desfazer.
O desafio, conforme apontado no documento, é equilibrar velocidade com coordenação. "Equipes que constroem sistemas de IA sob medida provavelmente repetirão esses mesmos problemas", concluiu o relatório interno, destacando a tensão entre a cultura de experimentação rápida e a necessidade de governança corporativa em meio à revolução da IA generativa.