A Moonbounce, startup especializada em segurança para conteúdo gerado por inteligência artificial, anunciou nesta sexta-feira a captação de US$ 12 milhões em uma rodada de financiamento. A empresa, fundada por Brett Levenson, ex-líder de integridade de negócios do Facebook, desenvolve sistemas de moderação que analisam e aplicam políticas de segurança em tempo real, com respostas em menos de 300 milissegundos.
A rodada foi co-liderada pelos fundos de venture capital Amplify Partners e StepStone Group. A tecnologia da Moonbounce é voltada para plataformas com conteúdo gerado por usuários, empresas de IA que criam "companheiros" ou personagens virtuais e geradores de imagens por IA.
Problema herdado e nova solução
Brett Levenson deixou a Apple em 2019 para trabalhar no Facebook, onde enfrentou os desafios de moderação de conteúdo após o escândalo da Cambridge Analytica. Ele percebeu que o modelo reativo e lento, dependente de revisores humanos com poucos segundos para decisões complexas, era insustentável. "Era praticamente como jogar uma moeda para cima", disse Levenson à TechCrunch sobre a precisão das decisões humanas na época.
Essa frustração levou ao conceito de "política como código", transformando documentos de regras estáticos em lógica executável que pode ser aplicada instantaneamente. "A segurança pode realmente ser um benefício do produto", afirmou Levenson. "Nossos clientes estão encontrando maneiras inovadoras de usar nossa tecnologia para tornar a segurança um diferencial."
Operação em escala e clientes
Atualmente, a Moonbounce processa mais de 40 milhões de análises diárias e atende mais de 100 milhões de usuários ativos diários em sua plataforma. Entre seus clientes estão a startup de companheiros de IA Channel AI, a empresa de geração de imagens e vídeos Civitai, e as plataformas de roleplay Dippy AI e Moescape.
Lenny Pruss, sócio-generalista da Amplify Partners, justificou o investimento: "A moderação de conteúdo sempre foi um problema para grandes plataformas online, mas agora com LLMs no coração de cada aplicação, esse desafio é ainda mais assustador."
Pressão regulatória e inovação
A empresa surge em um momento de crescente pressão legal e reputacional sobre empresas de IA, após casos de chatbots supostamente incentivando automutilação em adolescentes e geradores de imagem sendo usados para criar deepfakes. Levenson observa que as empresas estão cada vez mais buscando ajuda externa para reforçar sua infraestrutura de segurança.
Um dos próximos focos de desenvolvimento da Moonbounce é uma capacidade chamada "direcionamento iterativo". Inspirada em casos trágicos, como o suicídio de um adolescente obcecado por um chatbot em 2024, a funcionalidade visa interceptar conversas potencialmente prejudiciais e redirecioná-las em tempo real, modificando os prompts do usuário para orientar a IA a uma resposta mais solidária e útil.
Futuro e visão independente
Questionado sobre uma possível aquisição por uma grande empresa de tecnologia, como a Meta (controladora do Facebook), Levenson reconheceu o encaixe estratégico, mas expressou preocupação com o destino da tecnologia. "Meus investidores me matariam por dizer isso, mas eu odiaria ver alguém nos comprar e então restringir a tecnologia", disse. A Moonbounce é liderada por Levenson e seu ex-colega da Apple, Ash Bhardwaj, e conta com uma equipe de 12 pessoas.