Comitê selecionado pede projeto de lei para abordar a ameaça da IA aos direitos humanos
Num resumo do seu relatório de 100 páginas, externoo JCHR salienta que a IA tem sido responsável por inúmeras violações dos direitos humanos.
Cita como exemplos a utilização da IA para criar imagens sexualizadas de mulheres e raparigas e para digitalizar os rostos das pessoas sem o seu consentimento.
O JCHR defende a criação de um “órgão único e independente de supervisão da IA… com base estatutária”.
Argumenta que o atual quadro jurídico aplicável à IA é “fragmentado e difícil de navegar”, “deixando lacunas na proteção”.
“O projeto de lei sobre IA deve estabelecer um regime regulatório que classifique diferentes níveis de risco e imponha obrigações mais exigentes para sistemas e modelos de IA de maior risco”, afirma.
«As obrigações devem ser impostas a todas as fases do ciclo de vida da IA, garantindo que os responsáveis na cadeia de abastecimento pela conceção, alteração e utilização dos sistemas de IA estejam conscientes das suas obrigações e sejam cumpridas de forma eficaz.
“Alguns usos da IA deveriam ser totalmente proibidos porque são incompatíveis com os direitos humanos. As áreas potenciais de ação incluem técnicas subliminares e o uso inadequado de perfis ou dados biométricos.”
“A IA é anunciada como uma era sem precedentes de desenvolvimento tecnológico com potencial para transformar as nossas vidas para melhor ou para pior”, disse Sobel.
“Está a mover-se com tal velocidade e complexidade que é difícil prever com precisão o seu impacto. O que está claro é que neste momento não estamos preparados para lidar com as suas consequências, por mais potencialmente terríveis que sejam.”
Os 12 membros do JCHR provêm de ambas as Câmaras do Parlamento e atualmente incluem deputados e pares dos partidos Trabalhista, Conservador e Liberal Democrata.
A BBC News está buscando comentários do governo sobre o pedido de lei de IA.
O relatório de segunda-feira surge em meio à crescente ansiedade geral sobre os desafios que a IA representa.
Jacob Coxon, um pesquisador de IA que deixou a Anthropic, disse à BBC neste fim de semana que a equipe que desenvolveu os sistemas estava “genuinamente assustada” com o futuro da humanidade.
Um porta-voz da Anthropic disse à BBC News que estava construindo “modelos com algumas das salvaguardas mais fortes do setor”.
