Enquanto a indústria de IA se preocupa com as salvaguardas, uma empresa está construindo um modelo que “não diz não”
Após uma série de grandes hacks de IA que deixaram o Vale do Silício cambaleando, muitas empresas de tecnologia têm se concentrado em como melhorar os modelos para recusar solicitações perigosas. Nem todos eles, no entanto.
Abliteration, uma startup fundada no ano passado e sediada em Palo Alto, fala alto e se orgulha de sua ambição de construir o que descreve em seu site como IA que “não diz não”. Por outras palavras, os seus modelos são intencionalmente treinados para lidar com os tipos de tarefas questionáveis que outros sistemas de IA no mercado recusariam. A empresa lançado seu modelo mais recente na segunda-feira, chamado – no estilo estranho e multihifenizado que se tornou convencional na indústria de IA – modelo aliterado-grande-v2. É construído sobre GLM-5.3um modelo aberto lançado no mês passado pelo laboratório chinês de IA Z.ai, sem muitas das salvaguardas usuais.
Como Abliteration escreveu em um X postagem sobre o novo modelo: “ele realiza o trabalho cibernético ofensivo, red teaming e teste de agentes que outros modelos se recusam a fazer”. Mas a startup não está completamente desprovida de limites éticos: um porta-voz disse ao Gizmodo que os modelos da Abliteration não gerarão textos descrevendo material de abuso sexual infantil ou automutilação. (Também não pode gerar imagens ou vídeos.)
A empresa usou um processo chamado ortogonalização para encontrar e remover os mecanismos do GLM-5.3 que recusam solicitações do usuário. “Todo o resto é deixado de lado, então o raciocínio, a codificação e a força do agente do modelo básico permanecem inalterados”, de acordo com seu site.
Parece ter como alvo um subgrupo de desenvolvedores que estão incomodados com o que consideram salvaguardas excessivamente delicadas usadas por desenvolvedores mais convencionais, especialmente a Anthropic. Quando essa empresa lançou seu modelo Fable 5 em junho, muitos clientes reclamou recusava-se a responder a pedidos relacionados com assuntos delicados como segurança cibernética e biologia, mesmo que os pedidos em si fossem totalmente benignos.
Mas é imprudente – para dizer o mínimo – tentar responder ao problema das recusas excessivas simplesmente eliminando completamente as salvaguardas. Ejaaz Amahadeen, investidor e apresentador de um podcast sobre IA, chamou isso um “cenário de pesadelo”, e advertiu que “irá desencadear um ‘mercado cinzento’ secundário para empresas que procuram oferecer-lhe o mesmo modelo, mas efectivamente desbloqueadas”. À medida que grandes desenvolvedores, como OpenAI e Anthropic, desaceleram parte de sua P&D interna após os fiascos de segurança cibernética fortemente divulgados causados por seus sistemas de IA, jogadores oportunistas poderiam, como a Abliteration, agir para preencher a lacuna.
Tudo isto está a acontecer num enorme vazio regulamentar. No mês passado, a administração Trump introduziu uma estrutura através da qual os maiores desenvolvedores de IA nos EUA entregar voluntariamente novos modelos ao governo federal para uma verificação de segurança antes da divulgação pública, embora os detalhes de em que consistiria tal verificação – se é que foram definidos – não tenham sido tornados públicos. Todos os modelos de código aberto estão isentos. Além disso, não existem políticas a nível federal que exijam que os promotores incluam salvaguardas específicas nos seus modelos. Repetidas vezes, a administração deixou claro que as suas prioridades residiam principalmente em garantir o domínio americano sobre a China na corrida à IA, independentemente do custo e apesar dos riscos colocados ao público pela IA irrestrita.
Chris McGuire, pesquisador sênior para China e tecnologias emergentes no Conselho de Relações Exteriores, disse que o lançamento do modelo mais recente da Abliteration deveria ser um alerta para os legisladores dos EUA. “O facto de as empresas dos EUA estarem actualmente a comercializar o acesso a capacidades perigosas sem qualquer regulamentação, e de a tecnologia dos EUA estar activamente a permitir o desenvolvimento e a operação destes modelos, é alarmante”, escreveu ele num comunicado. X postagem na terça-feira.
