Governos não deveriam esperar que todos os riscos da inteligência artificial sejam completamente compreendidos para começar a criar salvaguardas, defende a ONU. O alerta está no primeiro relatório temático do painel científico internacional criado pela organização para avaliar os riscos e as oportunidades da tecnologia.
O documento chama a atenção para ameaças que podem ser catastróficas ou irreversíveis. A discussão ocorre durante a Assembleia Geral da ONU, enquanto Estados Unidos e China se preparam para conversar sobre inteligência artificial.
O princípio da precaução
Para o painel, não é preciso descobrir exatamente como ou por que determinados incidentes envolvendo sistemas avançados de IA acontecem antes de reforçar a segurança.
A recomendação recorre ao princípio da precaução. A ideia é que a incerteza científica, por si só, não deve impedir medidas contra possíveis danos graves ou irreversíveis. O conceito foi incorporado à Declaração do Rio sobre Meio Ambiente e Desenvolvimento, de 1992, e passou a influenciar políticas ambientais e de saúde pública.
O relatório considera esse princípio particularmente importante diante da possibilidade de perda de controle sobre sistemas de IA. Entre os pontos destacados estão:
- mais atenção aos riscos de sistemas avançados;
- mais recursos para segurança da IA;
- maior coordenação entre países;
- mecanismos mais fortes de responsabilização;
- salvaguardas mesmo quando ainda existem incertezas científicas.
O texto também menciona incidentes envolvendo empresas como OpenAI, Anthropic, Google e Meta, incluindo ataques a alvos reais e grupos de agentes assumindo o controle de fóruns de mensagens.
Como a ONU pretende agir
O painel científico é parte de uma estrutura montada pela ONU para discutir a governança da inteligência artificial. Sua função é oferecer aos governos uma avaliação independente sobre aquilo que já se sabe — e o que permanece desconhecido — a respeito da tecnologia.
Ao lado dele está o Diálogo Global sobre Governança de IA. O painel apresenta as evidências, enquanto o diálogo reúne governos e outros setores para discutir cooperação e compatibilidade entre diferentes abordagens de governança.
António Guterres, secretário-geral da ONU, resumiu a posição da organização: “A ação nacional é essencial, mas a coordenação global é indispensável”.
EUA e China no centro das conversas
O tema chega à agenda internacional no momento em que Estados Unidos e China se preparam para discutir IA. Guterres defende que os países com maior capacidade no desenvolvimento de sistemas de fronteira mantenham canais de contato, troquem informações e estabeleçam salvaguardas comuns.
Leia mais:
- Medo de IA destruir empregos é global; pesquisas mostram onde impacto já aparece
- Anthropic, OpenAI, SpaceXAI e Google são acusadas de fazer acordo ilegal para frear avanço da IA
- Hackers que invadiram a OpenAI alertam para problema de segurança na indústria de inteligência artificial
O secretário-geral comparou o desenvolvimento da IA à corrida armamentista entre Estados Unidos e União Soviética durante a Guerra Fria. Para ele, mecanismos de cooperação são necessários para evitar uma disputa que eleve os riscos globais.
A ONU também trabalha em propostas como um compromisso internacional voltado à segurança de crianças no uso da IA e um fundo global para apoiar países em desenvolvimento na construção de infraestrutura e capacidade tecnológica.
Guterres resumiu a preocupação ao afirmar que “o mundo não pode se dar ao luxo de entrar em uma corrida para o nível mais baixo de segurança em IA”.
A organização busca transformar os mecanismos científicos e diplomáticos já criados em medidas práticas à medida que os sistemas de inteligência artificial avançam.
O post ONU quer cooperação global para criar salvaguardas enquanto os riscos da IA ainda são avaliados apareceu primeiro em Olhar Digital.