Rei Charles alerta sobre ‘perigo existencial’ de IA cair em mãos erradas
Jensen Huang, executivo-chefe da Nvidia, estava entre os principais líderes da indústria presentes.
A Nvidia é um player central na infraestrutura de IA, fornecendo chips para os principais desenvolvedores de modelos de IA, incluindo OpenAI e Meta.
É também a empresa mais valiosa do mundo, com um valor de mercado de cerca de 5,15 biliões de dólares.
Huang disse na sala que acreditava que a segurança era “fundamental”, acrescentando que as empresas deveriam reter um produto e “manter a engenharia” se não fosse suficientemente seguro.
O chefe da Nvidia também destacou o valor dos modelos abertos – sistemas que dão aos usuários acesso direto ao software – como forma de “garantir que pessoas e países não fiquem para trás”.
Ele disse que esses sistemas também devem ser protegidos para que “pesquisadores, universidades, start-ups e países” possam desenvolver aplicações “que nenhum de nós teria imaginado sozinho”.
“Vamos liderar com otimismo responsável, construir a IA de forma segura, abri-la a mais pessoas, expandir a nossa ambição e resolver os problemas que são importantes para o mundo”, acrescentou Huang.
Enquanto isso, Sir Demis Hassabis, cofundador do laboratório de IA do Reino Unido DeepMind – posteriormente adquirido pelo Google – ofereceu uma visão mais cautelosa sobre o ritmo de desenvolvimento.
Ele disse que a inteligência artificial geral – sistemas que se acredita poderiam ser tão bons ou melhores que os humanos em múltiplas tarefas – estava “provavelmente a apenas alguns anos de distância” e poderia ter um impacto “dez vezes maior que o da Revolução Industrial”.
A chance de algo dar errado era “definitivamente diferente de zero”, acrescentou Sir Demis.
Mas ele defendeu “um meio-termo sensato”, dizendo que a humanidade poderia enfrentar os riscos se coletivamente tivesse espaço e tempo para mitigá-los.
“O futuro ainda não está escrito”, disse ele aos delegados do rei.
Sarah Friar, diretora financeira da OpenAI, disse que a IA tem potencial para resolver alguns dos “problemas mais difíceis” da sociedade – mas concordou que suas crescentes capacidades levantam questões sobre segurança e “como podemos garantir que ela sempre sirva as pessoas”.
“Precisamos abordar essas questões juntos”, disse ela.
“Nenhuma empresa ou governo pode fazer isso sozinho e estou grato a Sua Majestade por convocar esta discussão num momento tão importante.”
