Uma citação de Jakub Pachocki

O argumento mais forte que vejo para continuar a treinar modelos muito mais inteligentes rapidamente é a necessidade de construir sistemas defensivos contra os perigos representados por outras IA. (…)

Precisaremos de uma IA poderosa e alinhada para a defesa; para proteger a infraestrutura, para proteger contra agentes desonestos em tempo real e para inventar medidas de proteção inteiramente novas. Este será o foco principal dos esforços de implantação da OpenAI.

Ao mesmo tempo, mesmo com a incerteza que advém do amplo progresso previsto na IA e da necessidade de construir sistemas defensivos, não devemos permitir que isso se torne uma desculpa para a imprudência. A ideia de avançar a todo custo parece absurda quando se internaliza a seriedade do que está em jogo.

-Jakub Pachocki, Cientista-chefe da OpenAI