A inteligência artificial está a tornar-se mais capaz mais rapidamente do que muitos especialistas previam, mas a nossa capacidade de avaliar os seus riscos no mundo real não está a acompanhar o mesmo ritmo. Essa é a tensão central do Relatório Internacional sobre a Segurança da IA de 2026, uma avaliação científica liderada por Yoshua Bengio e elaborada com a orientação de mais de 100 especialistas independentes, nomeados por mais de 30 países e organizações internacionais.
O relatório não é uma previsão de que um desfecho dramático seja inevitável. É um mapa do que os investigadores sabem, do que não sabem e da razão pela qual a própria incerteza é importante quando a IA de uso geral é implementada em larga escala.
Três famílias de risco
O relatório agrupa os riscos emergentes em três grandes áreas:
- Utilização maliciosa, incluindo burlas, fraudes, operações cibernéticas e conteúdos sintéticos abusivos.
- Mau funcionamento, em que um sistema se comporta de forma pouco fiável, persegue um objetivo errado ou produz resultados prejudiciais.
- Riscos sistémicos, em que a adoção generalizada afeta o trabalho, os ambientes de informação, a concentração do mercado ou instituições críticas.
As provas são desiguais. Alguns danos, como a fraude assistida por IA e a divulgação de imagens íntimas sem consentimento, já estão documentados. Outros cenários permanecem incertos, especialmente quando dependem de capacidades futuras ou de cadeias complexas de acontecimentos sociais. Uma abordagem jornalística responsável deve manter essa distinção visível.
O fosso de avaliação
Uma pontuação de referência pode demonstrar que um modelo apresenta um bom desempenho num teste definido. Contudo, não consegue, por si só, prever como o mesmo sistema se comportará num ambiente de trabalho caótico, sob pressão adversária ou quando ligado a ferramentas e dados sensíveis.
O relatório designa isto como uma lacuna de avaliação. Os modelos podem ser sensíveis a prompts e ao contexto; os testes podem tornar-se obsoletos; e um resultado de laboratório pode não transpor-se diretamente para a utilização real. Isto não torna a avaliação inútil. Significa que a avaliação deve ser realizada em várias camadas: testes de capacidade, exercícios de red-teaming, monitorização da implementação, reporte de incidentes e revisão humana respondem, cada um, a questões diferentes.
As salvaguardas estão a melhorar — mas não são decisivas.
Os programadores e investigadores alargaram o âmbito das avaliações de modelos, do treino de recusa, dos controlos de acesso, das ferramentas de proveniência e dos quadros de segurança para modelos de fronteira. O relatório realça também as suas limitações. Atacantes qualificados podem contornar as salvaguardas, as marcas de água podem ser frágeis e a eficácia de muitos controlos no mundo real continua a ser difícil de quantificar.
A resposta sensata não é abandonar as salvaguardas. É evitar tratar qualquer controlo isolado como uma garantia. A defesa em profundidade é importante: limite permissões, isole sistemas sensíveis, registe ações com impacto, teste cenários de falha e possibilite a reversão de alterações.
O que as equipas podem fazer na prática
- Adapte o nível de supervisão às consequências da tarefa.
- Mantenha os seres humanos responsáveis por decisões financeiras, médicas, jurídicas e críticas para a segurança.
- Forneça às ferramentas de IA o mínimo de dados e permissões de que necessitam.
- Meça o desempenho após a implementação, não apenas antes do lançamento.
- Registe as falhas e os quase acidentes para que a base de evidências possa melhorar.
- Informe os utilizadores quando conteúdos ou decisões envolvem IA de forma significativa.
O Mythic Mode perspetiva
A lição mais útil é de natureza cultural: a confiança deve basear-se em evidências. A IA pode acelerar a investigação, o design e as operações, mas a velocidade não é sinónimo de fiabilidade. Um sistema torna-se mais digno de confiança quando os seus limites são visíveis, as suas ações são passíveis de revisão e os seus operadores estão dispostos a dizer "ainda não sabemos".
O relatório não encerra todos os debates. Oferece uma base científica comum para tomar melhores decisões, à medida que as capacidades e os riscos continuam a mudar.