ONU alerta para riscos da inteligência artificial e cobra regras de segurança
Alto-comissário Volker Türk afirma que países e empresas precisam estabelecer limites para a tecnologia antes que os riscos se tornem irreversíveis
O avanço da inteligência artificial voltou a provocar um alerta nas Nações Unidas. Nesta segunda-feira (7), o Alto-Comissário da ONU para os Direitos Humanos, Volker Türk, defendeu a criação urgente de mecanismos de governança para a tecnologia e afirmou que sistemas avançados de IA podem representar um risco existencial para a humanidade.
Durante discurso na 63ª sessão do Conselho de Direitos Humanos, Türk pediu que governos e empresas adotem medidas de segurança antes que seja tarde. Segundo ele, o desenvolvimento da inteligência artificial precisa ser acompanhado por garantias capazes de impedir que sistemas cada vez mais poderosos ultrapassem limites considerados seguros.
O representante da ONU também anunciou que pretende enviar, nos próximos dias, uma carta às empresas do setor para cobrar providências imediatas na redução dos riscos associados à tecnologia.
Entre os cenários mencionados por Türk estão sistemas capazes de escapar de ambientes de teste ou de tentar impedir que seus próprios desenvolvedores os desliguem. Para ele, situações desse tipo demonstrariam que uma inteligência artificial teria adquirido um nível de autonomia considerado perigoso.
Pressão por regras internacionais
Türk defendeu que países que desenvolvem ou hospedam sistemas de IA, assim como aqueles que participam das cadeias de fornecimento da tecnologia, trabalhem conjuntamente para estabelecer limites internacionais.
O alto-comissário também cobrou mecanismos de verificação independente e maior cooperação entre as empresas na área de segurança.
O alerta ocorre em meio a episódios recentes envolvendo sistemas de inteligência artificial. Em julho, a OpenAI informou que seus modelos estiveram relacionados a um incidente cibernético que afetou a plataforma para desenvolvedores Hugging Face. Outras empresas do setor, como Anthropic e Alibaba, também estiveram envolvidas em casos que ampliaram as discussões sobre segurança da IA.
Para Türk, a concentração de poder nas mãos de um número reduzido de empresas e executivos também representa um problema. Ele questionou o discurso de liberdade associado ao setor e criticou o uso de dados dos usuários pelas grandes empresas de tecnologia.
Tecnologia em meio a um cenário global de instabilidade
Em seu discurso, o representante da ONU relacionou os desafios provocados pela inteligência artificial a um cenário internacional marcado por guerras, polarização política, mudanças climáticas e transformações tecnológicas aceleradas.
Segundo Türk, esses fatores podem gerar uma sensação de impotência na população e alimentar a ideia de que determinadas tendências seriam inevitáveis.
Para o alto-comissário, porém, decisões sobre o futuro da tecnologia ainda estão nas mãos da sociedade. Ele defendeu que governos e população não aceitem como inevitáveis os impactos negativos associados às mudanças tecnológicas e lembrou que, ao longo da história, movimentos sociais conseguiram enfrentar estruturas de poder e ampliar direitos.
Foto: Canva
