Listagem de ações de grande sucesso da Anthropic – 5 coisas surpreendentes que sabemos agora
Cada empresa pública tem de dizer aos potenciais investidores como as coisas podem correr mal.
Os “fatores de risco” da Antrópico eram únicos, revelando também como a tecnologia de IA que está a desenvolver poderia condenar a humanidade como um todo.
“Sistemas de IA suficientemente avançados poderiam, se não fossem desenvolvidos, implantados e operados com salvaguardas, supervisão e medidas de segurança adequadas, representar riscos catastróficos ou existenciais para a humanidade”, disse a Anthropic.
Observou que há menos de um ano, um grupo de hackers Anthropic que se acredita ser patrocinado pela China “manipulou” Claude para invadir com sucesso uma série de instituições, incluindo grandes empresas de tecnologia, instituições financeiras, empresas de fabricação de produtos químicos e agências governamentais.
Mas a Anthropic disse que seu sucesso depende de sua capacidade de “desenvolver, melhorar e implantar constantemente os modelos de IA mais avançados, capazes e úteis”.
Um dos riscos mais significativos para essa capacidade é o acesso da Anthropic à infra-estrutura, incluindo chips de computador e centros de dados, de que necessita para construir, treinar e operar os modelos que sustentam a sua tecnologia.
