A Fundação Christchurch Call publicou recentemente um relatório que analisa a forma como ferramentas de Inteligência Artificial (IA) estão a ser exploradas por grupos terroristas, movimentos extremistas e indivíduos associados a formas de violência niilista.
O documento destaca a necessidade de uma abordagem coordenada, baseada em evidência empírica, para compreender e responder aos riscos associados à utilização indevida da IA em contextos de extremismo violento online.
Entre as principais conclusões identificadas no relatório, destacam-se:
As avaliações de segurança da IA devem assentar em evidência empírica e atender às especificidades de cada agente de ameaça;
A produção de conteúdos audiovisuais gerados por IA é uma prática transversal aos diferentes agentes de ameaça, embora com objetivos e impactos distintos;
A utilização de conteúdos gerados por IA para glorificação de autores de atos violentos é comum em vários contextos extremistas;
A utilização de chatbots de companhia que simulam ou interpretam figuras violentas é recorrente em algumas comunidades extremistas;
A escolha de modelos e estratégias de IA varia em função das motivações e objetivos dos diferentes agentes;
Existem posições divergentes relativamente à utilização da IA entre os vários grupos analisados;
Foram identificados casos de utilização de ferramentas de IA para apoiar o planeamento de ataques e outras atividades operacionais, particularmente entre indivíduos motivados por ressentimento ou com problemas de saúde mental.
O relatório apresenta ainda um conjunto de recomendações dirigidas a diferentes intervenientes, com vista à mitigação dos riscos associados ao uso indevido destas tecnologias:
Entidades coordenadoras:
Promover mecanismos de partilha de informação entre setores, laboratórios de IA e plataformas de alojamento de conteúdos.
Programadores de modelos e ferramentas de IA:
Realizar avaliações de segurança baseadas em evidências;
Divulgar os respetivos resultados;
Reforçar os mecanismos de proteção e segurança.
Plataformas digitais:
Identificar novos padrões de conteúdos nocivos gerados por IA;
Prevenir a amplificação algorítmica desses conteúdos, salvaguardando os direitos fundamentais e a liberdade de expressão.
Governos:
Apoiar avaliações independentes de segurança da IA;
Incentivar a adoção de boas práticas por parte dos desenvolvedores e a divulgação dos respetivos resultados.
Consulte o relatório completo Artificial Intelligence, Violent Extremism, and Nihilistic Violence – The Need for Contextual Awareness and Threat-Specific Evaluation in AI Safety