HiddenLayer arrecada US$ 100 milhões enquanto as empresas correm para proteger suas implantações de IA

Quando a startup de segurança de IA HiddenLayer levantou sua Série A de US$ 50 milhões há três anos, uma das grandes questões no espaço era se as ameaças de IA contra as quais a startup estava se protegendo se manifestariam em quantidade suficiente para criar um mercado real. Como observou na época meu ex-colega Kyle Wiggers, era difícil identificar exemplos reais de ataques contra a IA em grande escala.

Como as coisas mudaram rapidamente. As empresas de segurança estão agora a esforçar-se para criar produtos que possam monitorizar não apenas os agentes, mas também as ferramentas e complementos que utilizam. Embora ainda não haja muitas manchetes sobre a exploração de agentes, o risco de os agentes enlouquecerem durante a produção é real. E assim o mercado de ferramentas para evitar que isso aconteça explodiu: a Gartner estima que as empresas gastarão 2,83 mil milhões de dólares este ano em produtos destinados a proteger ferramentas de IA, 83% mais do que em 2025, e espera que os gastos atinjam quase 4,78 mil milhões de dólares no próximo ano.

A HiddenLayer, que fabrica ferramentas para proteger modelos, agentes e fluxos de trabalho de IA contra ataques adversários, vulnerabilidades e injeções de código malicioso, conseguiu tirar bom proveito dessa mudança. Seu cofundador e CEO, Chris Sestito, disse ao TechCrunch que a receita recorrente anual da startup cresceu mais de 10 vezes no ano passado. Ele se recusou a fornecer um número exato, mas disse que o ARR está agora na casa das “dezenas de milhões” de dólares, e mais de 90% desse crescimento foi impulsionado pela assinatura de novos clientes no ano passado.

Os serviços financeiros e as grandes empresas de tecnologia que criam produtos de IA são atualmente os maiores setores verticais da empresa, e ela também tem contratos com o Departamento de Defesa e a comunidade de inteligência. Um de seus clientes é aparentemente um “fornecedor líder de modelos de fronteira” com “mais de 700 milhões de usuários semanais”, o que para mim parece OpenAI ou Anthropic.

Para aproveitar ao máximo esse impulso, a startup já levantou US$ 100 milhões em uma rodada de financiamento da Série B liderada pela Delta-v Capital, com a participação da Ten Eleven Ventures, Morgan Stanley, M12 da Microsoft, Booz Allen Hamilton e outros.

A startup com sede em Austin ainda vende o que costumava fazer em 2023, mas Sestito disse ao TechCrunch que a maior mudança que teve que fazer foi estender seus produtos existentes – descoberta, proteção de tempo de execução, simulação de ataque e segurança da cadeia de suprimentos – para lidar com injeção imediata, manipulação de agentes e uso de ferramentas maliciosas.

“Inferência ainda é inferência. Portanto, seja em um modelo tradicional de aprendizado de máquina, seja na geração de IA, seja em um fluxo de trabalho de agente, grande parte da nossa tecnologia ainda é aplicada. Então, na verdade, não tivemos que dinamizar, mas tivemos que aumentar nosso escopo… da modelagem tradicional para a geração de IA e para a agência”, disse ele.

Sestito enfatizou que a segurança do tempo de execução se tornou especialmente uma prioridade à medida que as implantações de IA se tornam comuns nas empresas, e comparou-a às soluções tradicionais de detecção e resposta de endpoint (EDR), mas especificamente para IA.

Os novos produtos da empresa refletem essa mudança, e Sestito destacou uma nova oportunidade para os invasores explorarem modelos de código aberto. “Analisamos e verificamos cerca de 50 estruturas de arquivos de IA diferentes para garantir que, especialmente no caso de modelos de código aberto e de peso aberto, a ferramenta com a qual você está trabalhando é aquela que você acredita que seja, e é aquela que pretende ser. Estamos analisando coisas como modelos que pretendem ser uma coisa, mas são outra – modelos ocultos dentro de modelos”, disse ele.

A startup diz que os novos US$ 100 milhões vão ajudá-la a avançar nessa direção, embora com mais foco em vendas e distribuição, ao mesmo tempo em que continua a expandir sua engenharia e pesquisa. Também planeja expandir-se para a Europa e EMEA.

No entanto, o HiddenLayer pode acabar explorando esse baú de guerra para obter mais. Grandes empresas de cibersegurança, como Cisco, Palo Alto Networks e Check Point, muitas vezes preferem comprar em vez de construir este tipo de tecnologia, enquanto startups como Noma e Zenity arrecadaram mais de 100 milhões de dólares cada para assumir áreas adjacentes ou sobrepostas deste espaço.

Sestito reconheceu que algumas partes dos produtos de segurança de IA que sua empresa oferece poderiam eventualmente ser agrupadas em plataformas construídas por empresas como Microsoft, OpenAI e AWS. No entanto, ele espera que a infraestrutura de IA cresça em direção a recursos de governança, como descoberta, identidade e controles de políticas, em vez do tipo de ferramentas que sua empresa constrói.

Por enquanto, ele diz que o trabalho da HiddenLayer é “escalar verticalmente junto com a inteligência artificial” e, eventualmente, expandir horizontalmente em partes da segurança cibernética que dependem cada vez mais da IA. Esse é um objetivo ambicioso, mas primeiro a startup tem de provar que pode transformar o seu avanço num negócio duradouro antes que o resto da indústria o alcance.