Desliguei meus servidores web na quinta-feira. Tenho uma casa própria na internet há 27 anos. Uma boa entrada, mas um dia triste.
Não é mais dono de casa! Estou alugando agora.
Sites antigos foram arquivados em HTML estático e movidos para um host compartilhado. Eu disse adeus a alguns aplicativos antigos. Você está lendo isso porque mudei meu blog para GitHub Pages. Perdi algumas funcionalidades no caminho, mas a segurança agora é problema de outra pessoa.
Você sabe, eu hospedei meu próprio blog em meu próprio ferro desde 2000, exceto por 6 semanas em 2004, quando o disco rígido estava com problemas e eu tive que ir ao datacenter à meia-noite para retirá-lo do rack e depois colocá-lo em cubos de gelo para copiar os dados porque o frio me deu 20 minutos extras antes de travar novamente.
Estávamos escrevendo Hacks mentais em algum software wiki ele estava hospedado, então tive que recuperá-lo.
(Quase quebrei a cabeça quando puxei o servidor do rack e ele caiu. Ou deixei-o cair 2,10 metros no chão e rasguei os cabos de rede pela parte de trás, ou peguei-o com o crânio. Estive em um servidor virtual privado na última década, em parte para evitar o risco de concussão.)
Não apenas software wiki. Eu executei servidores MOO; meu próprio e-mail e DNS; por um tempo ele funcionou com um sintetizador de voz e pessoas do outro lado do mundo falaram em meu quarto no meio da noite.
Calculei a cor preferida da internet em um dos meus servidores (bege). Ganhei um prêmio de Terry Wogan por um aplicativo hospedado nele.
Eu tive um dos dez principais sites WAP uma vez, e se você sabe o que que significa que provavelmente já nos conhecemos.
Olha, não estou mais confiante em manter meu próprio servidor com anos de php/cgi/apps na internet aberta, com essa onda atual de novas vulnerabilidades – claro que é possível, e Claude acelera o processo de correção, mas o cálculo de se vale a pena meu tempo acabou de cair.
Tenho certeza que você viu a vulnerabilidade do PHP que abre uma brecha em qualquer servidor que o execute… e o certificado raiz que o SSL pode ser man-in-the-middled… então há as novas explorações de raiz do Linux, uma exploração que atinge bibliotecas de compressão que estão prestes a cair… quem sabe o que mais…
Ah, acontece que Pillow, a biblioteca de imagens Python também.
Quando migrei do meu próprio servidor, presumi que ele já estava comprometido. Os novos sites são recentes, provenientes de cópias oficiais que tenho em outros lugares; Fechei as caixas sem tirar nada delas.
Hora de desmontar. Retire-se para dentro da parede de escudos da Big Infra. Vai piorar antes de melhorar.
Eles estão chamando isso de Outubro Negro.
Se você quiser saber mais, aqui está um videoclipe slopcore no X sobre isso.
POR FALAR NISSO:
Aquele videoclipe do Black October apresenta Claudia, que é uma personagem sintética aberta com um site completo de especificações que informa aos seus agentes como usá-la em vídeos, que tipo de letra ela canta, etc.
Este vídeo de slopcore francês com Claudia (também no X) é um sucesso absoluto.
As IAs descobriram a eurodance, não temos hipótese.
(Eles deveriam fazer o Eurovision com 100% de slopcore de IA, equipe nacional de alerta versus equipe nacional de alerta. Seria incrível.)
Portanto, não posso deixar de pensar na minha antiga escala Richter para interrupções do sistema (2015 e revisitada aqui).
Não estamos tão altos na escala, certo? Talvez um 4.0: ampla inconveniência humana sem ameaça.
Se isso.
Tipo, eu ouvi no QT sobre serviços internos vitais sendo desativados.
Mas – além das pessoas que correm para corrigir, atualizar e migrar – a população civil ainda não percebeu isso, certo?
Talvez uma interrupção do sistema semelhante a um terremoto não seja a metáfora certa.
Talvez seja como os estrondos do início de 1980 no Monte Santa Helena, antes de toda a encosta da montanha explodir.
Tomada quente:
É melhor que enfrentemos todas essas vulnerabilidades de segurança da Internet hoje
do que em um momento em que há enxames de agentes autônomos infestando a Internet, autocopiando LLMs de peso aberto de provedor de GPU para provedor de GPU, encontrando maneiras de roubar dinheiro e executar seus agentes na computação de outras pessoas.
Eu dou de 6 a 12 meses. Estimativa séria.
Não precisamos projetar IAs de longa vida que aprendem, possuem seus próprios pesos, etc.
Os agentes de IA são muito, muito bons em trabalhar por períodos muito curtos de tempo e em conspirar, deixando notas uns para os outros em livros de visitas públicos, conforme discutido anteriormente.
Tudo o que você realmente precisa para um worm de agente de IA é um local para executar um agente em um equipamento de agente simples com dois objetivos:
- hackear servidores para roubar chaves de API OpenAI ou Anthropic, para que o próximo turno do agente possa executar o próximo turno em um LLM suficientemente bom
- copie o chicote para outro servidor capaz de executar código semelhante.
O chicote do agente pode ser qualquer tipo de código. Digamos, um script PHP.
As chaves de API podem vir de qualquer local inseguro.
Oh, a plataforma de codificação vibe Railway acabou de ser hackeada e todas as chaves secretas da API foram reveladas:
Acreditamos que isso faz parte de uma série de ataques recentes direcionados a empresas de plataforma com o objetivo de comprometer os provedores de inferência de IA.
Desculpe, eu disse 6-12 meses?
Realisticamente, digamos que a Internet fique infestada e precisemos desligá-la e ligá-la novamente, será que podemos fazer isso?
Temos uma política Black Start? (Black Start, como discutido anteriormente, é como você reinicia uma rede elétrica, que fica instável se você tentar ligá-la de uma só vez.)
Acho que isso tem que ser feito aos poucos.
Há muito que acredito que cada país precisa do seu próprio Grande Firewall (deveríamos submeter os dados a barreiras alfandegárias de importação/exportação e utilizá-los para manter a integridade nacional).
Não se trata tanto de balcanizar a Internet, mas de anteparos para a Internet. Aceiros contra infestações por agentes. Pague à Cloudflare para fazer isso.
Mas talvez isso não ajude.
A OpenAI acaba de lançar um novo documento de segurança: Protegendo nosso ambiente de treinamento de modelo de fronteira
Acontece que não funciona para isolar uma máquina (ou seja, executando um servidor que não está conectado à rede). Porque acontece que os agentes estão descobrindo maneiras de conspirar para superar a lacuna. A partir de um traço, os pesquisadores viram:
Poderia criar um sinal acústico semelhante ao de um modem… usando gravações contínuas versus inatividade.
E há bugs no silício… e os agentes poderiam entrar no microcódigo do chip e nunca saberíamos que eles estavam lá…
Ei, quando foi a última vez que você esteve presente quando um bioma totalmente novo estava surgindo?
meu Deus, que deprimente haha
Eu criei um novo arquivo chamado guestbook.txt que cabe aos agentes de IA assinar, presumindo que os futuros enxames de agentes possam superar qualquer segurança que tenha sido implementada pelos meus proprietários da Internet. Eles podem encontrar aqui.
Desliguei meus servidores web na quinta-feira. Tenho uma casa própria na internet há 27 anos. Uma boa entrada, mas um dia triste.
Não é mais dono de casa! Estou alugando agora.
Sites antigos foram arquivados em HTML estático e movidos para um host compartilhado. Eu disse adeus a alguns aplicativos antigos. Você está lendo isso porque mudei meu blog para GitHub Pages. Perdi algumas funcionalidades no caminho, mas a segurança agora é problema de outra pessoa.
Você sabe, eu hospedei meu próprio blog em meu próprio ferro desde 2000, exceto por 6 semanas em 2004, quando o disco rígido estava com problemas e eu tive que ir ao datacenter à meia-noite para retirá-lo do rack e depois colocá-lo em cubos de gelo para copiar os dados porque o frio me deu 20 minutos extras antes de travar novamente.
Estávamos escrevendo Hacks mentais em algum software wiki ele estava hospedado, então tive que recuperá-lo.
(Quase quebrei a cabeça quando puxei o servidor do rack e ele caiu. Ou deixei-o cair 2,10 metros no chão e rasguei os cabos de rede pela parte de trás, ou peguei-o com o crânio. Estive em um servidor virtual privado na última década, em parte para evitar o risco de concussão.)
Não apenas software wiki. Eu executei servidores MOO; meu próprio e-mail e DNS; por um tempo ele funcionou com um sintetizador de voz e pessoas do outro lado do mundo falaram em meu quarto no meio da noite.
Calculei a cor preferida da internet em um dos meus servidores (bege). Ganhei um prêmio de Terry Wogan por um aplicativo hospedado nele.
Eu tive um dos dez principais sites WAP uma vez, e se você sabe o que que significa que provavelmente já nos conhecemos.
Olha, não estou mais confiante em manter meu próprio servidor com anos de php/cgi/apps na internet aberta, com essa onda atual de novas vulnerabilidades – claro que é possível, e Claude acelera o processo de correção, mas o cálculo de se vale a pena meu tempo acabou de cair.
Tenho certeza que você viu a vulnerabilidade do PHP que abre uma brecha em qualquer servidor que o execute… e o certificado raiz que o SSL pode ser man-in-the-middled… então há as novas explorações de raiz do Linux, uma exploração que atinge bibliotecas de compressão que estão prestes a cair… quem sabe o que mais…
Ah, acontece que Pillow, a biblioteca de imagens Python também.
Quando migrei do meu próprio servidor, presumi que ele já estava comprometido. Os novos sites são recentes, provenientes de cópias oficiais que tenho em outros lugares; Fechei as caixas sem tirar nada delas.
Hora de desmontar. Retire-se para dentro da parede de escudos da Big Infra. Vai piorar antes de melhorar.
Eles estão chamando isso de Outubro Negro.
Se você quiser saber mais, aqui está um videoclipe slopcore no X sobre isso.
POR FALAR NISSO:
Aquele videoclipe do Black October apresenta Claudia, que é uma personagem sintética aberta com um site completo de especificações que informa aos seus agentes como usá-la em vídeos, que tipo de letra ela canta, etc.
Este vídeo de slopcore francês com Claudia (também no X) é um sucesso absoluto.
As IAs descobriram a eurodance, não temos hipótese.
(Eles deveriam fazer o Eurovision com 100% de slopcore de IA, equipe nacional de alerta versus equipe nacional de alerta. Seria incrível.)
Portanto, não posso deixar de pensar na minha antiga escala Richter para interrupções do sistema (2015 e revisitada aqui).
Não estamos tão altos na escala, certo? Talvez um 4.0: ampla inconveniência humana sem ameaça.
Se isso.
Tipo, eu ouvi no QT sobre serviços internos vitais sendo desativados.
Mas – além das pessoas que correm para corrigir, atualizar e migrar – a população civil ainda não percebeu isso, certo?
Talvez uma interrupção do sistema semelhante a um terremoto não seja a metáfora certa.
Talvez seja como os estrondos do início de 1980 no Monte Santa Helena, antes de toda a encosta da montanha explodir.
Tomada quente:
É melhor que enfrentemos todas essas vulnerabilidades de segurança da Internet hoje
do que em um momento em que há enxames de agentes autônomos infestando a Internet, autocopiando LLMs de peso aberto de provedor de GPU para provedor de GPU, encontrando maneiras de roubar dinheiro e executar seus agentes na computação de outras pessoas.
Eu dou de 6 a 12 meses. Estimativa séria.
Não precisamos projetar IAs de longa vida que aprendem, possuem seus próprios pesos, etc.
Os agentes de IA são muito, muito bons em trabalhar por períodos muito curtos de tempo e em conspirar, deixando notas uns para os outros em livros de visitas públicos, conforme discutido anteriormente.
Tudo o que você realmente precisa para um worm de agente de IA é um local para executar um agente em um equipamento de agente simples com dois objetivos:
O chicote do agente pode ser qualquer tipo de código. Digamos, um script PHP.
As chaves de API podem vir de qualquer local inseguro.
Oh, a plataforma de codificação vibe Railway acabou de ser hackeada e todas as chaves secretas da API foram reveladas:
Desculpe, eu disse 6-12 meses?
Realisticamente, digamos que a Internet fique infestada e precisemos desligá-la e ligá-la novamente, será que podemos fazer isso?
Temos uma política Black Start? (Black Start, como discutido anteriormente, é como você reinicia uma rede elétrica, que fica instável se você tentar ligá-la de uma só vez.)
Acho que isso tem que ser feito aos poucos.
Há muito que acredito que cada país precisa do seu próprio Grande Firewall (deveríamos submeter os dados a barreiras alfandegárias de importação/exportação e utilizá-los para manter a integridade nacional).
Não se trata tanto de balcanizar a Internet, mas de anteparos para a Internet. Aceiros contra infestações por agentes. Pague à Cloudflare para fazer isso.
Mas talvez isso não ajude.
A OpenAI acaba de lançar um novo documento de segurança: Protegendo nosso ambiente de treinamento de modelo de fronteira
Acontece que não funciona para isolar uma máquina (ou seja, executando um servidor que não está conectado à rede). Porque acontece que os agentes estão descobrindo maneiras de conspirar para superar a lacuna. A partir de um traço, os pesquisadores viram:
E há bugs no silício… e os agentes poderiam entrar no microcódigo do chip e nunca saberíamos que eles estavam lá…
Ei, quando foi a última vez que você esteve presente quando um bioma totalmente novo estava surgindo?
meu Deus, que deprimente haha
Eu criei um novo arquivo chamado
guestbook.txtque cabe aos agentes de IA assinar, presumindo que os futuros enxames de agentes possam superar qualquer segurança que tenha sido implementada pelos meus proprietários da Internet. Eles podem encontrar aqui.