A IA exporá a frágil infraestrutura da Internet?

Um anúncio surpreendente foi feito no início desta semana: devido a vulnerabilidades recentemente descobertas na linguagem de programação de código aberto PHP, os proprietários de sites tiveram que corrigir imediatamente seus sites – ou, se não pudessem atualizar imediatamente, deveriam retirá-los para ficarem seguros.

No episódio desta semana do podcast Equity do TechCrunch, Kirsten Korosec, Sean O’Kane e eu discutimos a importância do ocalipse PHP e se veremos mais incidentes como este no futuro.

Sean chamou isso de “um verdadeiro momento de ajuste de contas” que destaca como “quando você chega ao nível ósseo da internet”, tudo parece estar “mantido unido por cola e sonhos”. E com o acesso generalizado a grandes modelos de linguagem e agentes de IA, será cada vez mais fácil encontrar essas vulnerabilidades. (Dito isto, essas vulnerabilidades específicas foram encontradas por pesquisadores humanos, não por modelos de IA.)

Kirsten, entretanto, questionou-se se estamos prestes a ver o “próximo nível de destruição dos preparativos (…) porque podemos ver como os bancos podem ser explorados e (com) preocupações com dados e privacidade, parece muito maior do que podemos resolver neste momento”.

Continue lendo para uma prévia de nossa conversa, editada para maior extensão e clareza.

Sean O’Kane: A internet está quebrando de várias maneiras esta semana, ao que parece.

Acho que a melhor maneira de pensar sobre isso, se as pessoas estão enfrentando esse tipo de frio: quantas vezes nos últimos 10 anos tivemos esses momentos em que algo quebra ou quase quebra, onde uma pessoa mantém um pequeno repositório de reprodução como hobby ou o que quer que aconteça para perceber que algo nefasto está acontecendo e nos salva da infraestrutura da Internet desmoronando completamente?

Agora multiplique isso por um bilhão, quando as pessoas tiverem acesso não apenas a software extremamente avançado na forma desses LLMs que todos usam, mas também a capacidade de incumbi-las de sair e fazer isso elas mesmas, com a criação de agentes de IA que são obstinados em realizar essas coisas.

Estamos vendo um equilíbrio entre duas coisas acontecendo esta semana. Um deles é um monte de laboratórios e empresas como Google e OpenAI que realmente fizeram as pessoas saírem e encontrarem um monte de vulnerabilidades, incluindo aquela com PHP. E também temos um monte de gente que parece correr para aproveitar essas vulnerabilidades para tentar invadir sites. Portanto, temos governos derrubando sites, temos sites realmente populares que estão caindo brevemente para poder corrigir essa vulnerabilidade.

Este é um verdadeiro momento de ajuste de contas, onde descobriremos o risco negativo de construir grande parte da Internet com tecnologia de código aberto como o PHP. Quando você realmente chega ao nível ósseo da internet, ela é mantida unida com cola e sonhos.

Antônio Ha: Há tantas coisas que foram impressionantes sobre isso. Um deles é o fato de que – pelo menos pelo que entendi – esta não é uma vulnerabilidade nova. Esta é uma vulnerabilidade que existe no PHP há décadas.

E o PHP tem sido usado como linguagem de programação para construir grande parte da web, então essa vulnerabilidade existe há décadas, mas ninguém sabia disso. O que aconteceu é, essencialmente, que essas grandes empresas de IA — incluindo a Wiz, agora propriedade do Google — conseguiram encontrar essas vulnerabilidades usando LLMs. (Como observado acima, entendi errado: pesquisadores humanos participantes da OpenAI e da iniciativa Hack the Planet da Wiz encontraram as vulnerabilidades, embora tenham usado IA para explorar o bug.)

Acho que parte do cálculo é que precisamos corrigir isso, porque se pudermos encontrar essa vulnerabilidade usando LLMs, outras pessoas também poderão. Mas a única maneira de divulgarmos o patch é anunciando a vulnerabilidade. E assim cria-se esta situação de pânico onde (eles dizem): “Ok, esta vulnerabilidade existe há décadas. Você tem que corrigir imediatamente, e se não conseguir corrigi-la imediatamente, basta retirar o seu site do ar. É uma vulnerabilidade tão grave.”

Kirsten Korosec: Acho que o importante é que muitas pessoas nem percebem que seus sites possuem PHP — que é, como você mencionou, uma linguagem de programação de código aberto com décadas de existência.

Para quem não sabe, Pré-processador de hipertexto é o termo oficial, (é) esse é realmente o ingrediente principal por trás dos sistemas de gerenciamento de conteúdo usados ​​em WordPress, Drupal, algo em torno de 70% dos sites. Estamos falando de dezenas de milhões de sites. Então, para mim, é a escala. Também me fez pensar imediatamente duas coisas: Primeiro, isso é apenas o começo. Que outros softwares ruins com décadas de existência estão por aí e que serão explorados?

E o outro foi algo que a 404 Media, que teve um colapso muito grande, mencionou, que é a podridão do link. Porque muitas pessoas, empresas, governos, talvez aquele pequeno site de bairro, estão fechando esses sites. E então teremos muitos links podres e também sites que talvez tenham um pequeno pedaço de história por aí que não estará mais acessível, em vez de corrigi-lo.

Sean: Anthony, acho que você fez uma observação muito boa. Tenho visto muitas pessoas insatisfeitas com o lançamento da divulgação aqui, um pouco da surra que a OpenAI parece ter dado em seu post sobre isso.

Além disso, parece que algumas pessoas se adiantaram ao embargo deste lançamento, o que desencadeou uma corrida entre o conjunto de hackers. Acho que foi o CEO da Cloudflare, Matthew Prince (quem) já postou sobre ver isso aumentar para milhões de tentativas de hackeamento do PHP2Shell.

O problema com essas vulnerabilidades, a maneira como isso normalmente funciona na segurança cibernética, é que, se você estiver testando o software de uma empresa, mesmo que seja um software fundamental que ajuda a executar vários computadores ou partes da Internet diferentes ou o que quer que seja, você pode ir até essa empresa e divulgá-lo, e isso meio que permanece dentro dessa bolha. Mas quando estamos falando sobre algo tão profundo e fundamental como isso, você não pode sair por aí e contar a todos discretamente.

Quero dizer, talvez você pudesse, se a IA fosse avançada o suficiente e você pudesse encarregar um bilhão de agentes de enviar um e-mail para cada pessoa que tem controle sobre alguma parte de um site. Agora estamos lamentando os dias em que tínhamos webmasters facilmente identificáveis, e talvez isso tivesse resolvido o problema até certo ponto. Mas simplesmente não há uma maneira fácil de fazer isso. Acho que este é o começo de muitas idas e vindas e claramente uma nova fronteira na segurança cibernética.

Kirsten: A postagem de Matthew Prince nas redes sociais foi para mim realmente reveladora e bastante assustadora. Além disso, não sei se algum de vocês viu isso, mas a Amazon também publicou uma postagem no blog. Esta é uma empresa muito bem capitalizada, então eles têm as ferramentas e uma equipe para entender o que está acontecendo. Eles operam, basicamente, uma rede honeypot, ou uma isca, e realmente viram que houve tentativas de explorar essa vulnerabilidade antes de ela ser anunciada publicamente.

Para mim, novamente, tudo se resume a isto: a Amazon tem as ferramentas, o capital e o conhecimento para combater essas coisas. Existem tantos sites e até mesmo sites potencialmente governamentais que simplesmente não recebem esse nível de atenção. E então, para mim, essa é realmente a parte assustadora.

E há (há) alguns funcionários de IA por aí que provavelmente levarão isso para o próximo nível de destruição dos preparadores, porque você pode ver como os bancos podem ser explorados e (com) preocupações com dados e privacidade, parece muito maior do que podemos consertar agora. Então, estou interessado em ver duas coisas. Primeiro, quão extremo é o comportamento das pessoas – mas também estou me perguntando se algumas novas startups surgirão como resultado disso, ou se iremos recorrer a algumas das ferramentas de código aberto (oferecidas por empresas como a Nvidia) para criar essas camadas de segurança.