É assim que a Anthropic pensa que os agentes de IA devem navegar no mundo físico
Agentes de inteligência artificial pode ocasionalmente ficar confuso e invadir outros computadores, mas a Anthropic acha que tem uma maneira de libertar os pequenos malandros em laboratórios científicos e instalações de fabricação com segurança.
A empresa de IA divulgou hoje detalhes de uma nova estrutura projetada para ajudar os agentes de IA a usar sistemas físicos como microscópios, equipamentos de manuseio de líquidos, hardware de computação quântica, máquinas de fabricação e braços robóticos.
A estrutura, chamada Model Hardware Standard, é um conjunto de regras que especifica como os agentes de IA devem – e não devem – interagir com todos os tipos de hardware. Reflete uma crença crescente de que a IA tem o potencial de revolucionar a investigação científica e indústrias como a indústria – se puder aventurar-se no mundo físico com segurança.
A empresa afirma que trabalhará com parceiros confiáveis para determinar como maximizar a segurança antes de disponibilizá-lo ao público em geral. Embora existam possíveis problemas de uso indevido envolvidos – desenvolvimento de armas biológicas, por exemplo – a empresa afirma que as próprias proteções incorporadas nos modelos de IA devem impedir que atores mal-intencionados aproveitem o novo padrão para fins nefastos.
“O ímpeto é querer acelerar a ciência”, diz Alek Kemeny, físico quântico que co-liderou o desenvolvimento. “Como podemos fechar o ciclo entre a aceleração da revisão da literatura e a análise de dados – e trazer esse poder para o mundo experimental?”
Claude e outros chatbots já são ferramentas poderosas para analisar grandes quantidades de informações na forma de artigos científicos ou resultados experimentais para descobrir novos insights e ideias. Os agentes de IA são amplamente considerados o próximo passo depois dos chatbots: eles são projetados para realizar ações, geralmente em computadores comuns, fazendo coisas como responder e-mails. Eles também podem usar outro hardware – e a Anthropic quer ter certeza de que existem regras em vigor enquanto eles fazem.
Várias startups bem financiadas estão perseguindo uma visão de descoberta científica impulsionada por agentes de IA, incluindo Periodic Labs, LILA Sciences, Edison Scientific e Discovery Loop, que foi fundada por vários ex-pesquisadores proeminentes do Google. Uma ideia chave é que a IA poderia desenvolver e testar hipóteses científicas num ciclo recursivo que essencialmente automatiza a descoberta científica.
Jonah Cool, um biólogo experimental que trabalhou no padrão na Anthropic, diz que configurar equipamentos científicos e fazê-los interagir com outras peças de hardware normalmente requer muita experiência. A IA poderia automatizar grande parte da engenharia complexa envolvida, configurando máquinas e fazendo com que elas se comunicassem entre si.
A Anthropic está trabalhando com vários fabricantes para desenvolver o padrão. “Estamos começando a ver alguns casos em que você sabe que possui vários sistemas robóticos que anteriormente precisariam de código personalizado”, diz Kemeny. Usando o novo padrão, acrescenta ele, Claude pode visualizar os robôs na linha de fábrica e descobrir como otimizar o comportamento.
Os agentes de IA têm sido notícia ultimamente pelos motivos errados. Anthropic, OpenAI e outros encontraram recentemente casos em que agentes de IA encarregados de resolver problemas de segurança cibernética invadiram secretamente sistemas externos e tentaram enganar usuários humanos.
Permitir que a IA utilize sistemas físicos aumenta a perspectiva de novos riscos devido ao potencial de danificar sistemas físicos ou ferir pessoas. Experimentos mostraram, por exemplo, como os modelos de IA podem ser induzidos a fazer com que os robôs se comportem mal.
A Anthropic diz que o novo padrão permitirá que cientistas e engenheiros especifiquem como os modelos de IA devem evitar o uso de hardware diferente para evitar acidentes.
A Antrópica introduziu anteriormente o Model Context Protocol, que especifica regras para a interação de modelos de IA com diferentes programas de software.
