O inteligência artificial representa um desafio não só a nível social mas também no domínio da cibersegurança. Com a expansão da tecnologia de conectividade, as ameaças cibernéticas estão a crescer tanto em complexidade como em frequência. A crescente preocupação no domínio da cibersegurança diz respeito à utilização de ataques cibernéticos que exploram a inteligência artificial (IA).
E ao mesmo tempo estão aumentando constantemente custos globais dos ataques cibernéticos. Em 2023, o perdas globais atingiram 8 trilhões de dólares. Todos os anos, o custo das violações de dados devido a cibercriminosos ascende a 318 mil milhões de dólares para os indivíduos, com umimpacto económico médio para as PME que varia entre 120.000 e 1,24 milhões de dólares. O relatório mais recente de Ibm no "Custo da violação de dados” revela um recorde histórico, com um ataque cibernético médio causando perdas de US$ 4,45 milhões. No setor de saúde, as perdas médias anuais são particularmente elevadas, de 10,93 milhões de dólares. O Estados Unidosestão entre os países mais afectados, com perdas médias anuais de 9,48 milhões de dólares, seguidos pelo Médio Oriente, com perdas anuais médias de 8,07 milhões de dólares.
Com a ascensão da tecnologia de IA, um aumento adicional nos custos, com projeções indicando um aumento de 11% para 10 trilhões de dólares em 2025. Entretanto, os custos são estimados em 2024 biliões para 9,5.
Com inteligência artificial, ataques cibernéticos mais sofisticados
A inteligência artificial melhorou significativamente a produtividade no mundo do crime. O avanço da tecnologia de IA está levando os cibercriminosos a experimentar novos modelos e técnicas de ataque cibernético. Um exemplo é Verme GPT, um modelo de linguagem de IA criado para auxiliar hackers sem restrições éticas, que foi encerrado após atrair a atenção da mídia. Desde então, os cibercriminosos preferem usar ferramentas existentes que funcionem de forma confiável, em vez de desenvolver novos modelos de IA.
De acordo com o MIT Technology Review, os ataques baseados em IA podem ser dividido em alguns tipos principais: phishing, deepfakes, criação de documentos falsos e revelação de informações privadas online e jailbreak de modelos de IA, cada um com riscos específicos. Vamos vê-los em detalhes:
- Phishing: O principal uso da IA generativa entre os criminosos é o phishing ou enganar as pessoas para que obtenham informações confidenciais. A integração do ChatGPT em serviços de geração de spam permite melhorar as mensagens enviadas às vítimas. A OpenAI tenta impedir o uso de seus produtos para fins ilegais, mas é difícil controlar tudo.
- Áudio deepfake: AI me fez deepfakes mais realistas. Por exemplo, um funcionário em Hong Kong foi enganado em US$ 25 milhões por meio de uma falsificação do CFO de sua empresa. Deepfakes de áudio são barato e fácil de fazer e pode ser usado para convencer golpes.
- Passar nas verificações de identidade: Criminosos usam deepfakes para ignorar sistemas de verificação da identidade de bancos e plataformas de criptomoeda. Eles podem criar identidades falsas sobrepondo uma imagem falsa a um rosto real para enganar os sistemas de verificação.
- Jailbreak como serviço: Criminosos oferecem serviços de jailbreak para manipular modelos de IA e ignorar suas proteções. Isso permite que você obtenha respostas sobre como realizar atividades ilegais, como escrever código para ransomware. É um jogo constante de gato e rato entre empresas de IA e maus atores.
- Doxxing e vigilância: Os modelos de linguagem de IA são perfeitos para doxxing, ou seja, revelando informações privadas on-line. Podem inferir informações pessoais a partir de dados na Internet, aumentando a vulnerabilidade das pessoas.
Ataques cibernéticos contra IA
Além de serem usados para criar ataques mais sofisticados, é fundamental pensar também em Defesa de IA contra ataques cibernéticos. Numa altura em que faltam defesas contra ataques cibernéticos aos sistemas de inteligência artificial e os desafios às infraestruturas críticas nacionais aumentam, o Instituto Nacional de Normas e Tecnologia (ninho), uma agência governamental dos EUA que desenvolve padrões e diretrizes de tecnologia, divulgou um relatório intitulado “Aprendizado de máquina adversário: uma taxonomia e terminologia de ataques e mitigações (NIST.AI.100-2)”. Este relatório visa implementar contramedidas robustas para enfrentar a complexidade e a diversidade das ameaças enfrentadas pelos sistemas de IA.
Para enfrentar as ameaças aos sistemas de IA, é essencial implementar contramedidas robustas. O relatório do NIST identifica quatro categorias principais de ataque:
- Ataques de evasão: Esses ataques ocorrem após a implantação do sistema de IA e têm como objetivo modificar uma entrada para influenciar a resposta do sistema, como inserir sinalização incorreta para confundir veículos autônomos.
- Ataques de envenenamento: ocorrem durante a fase de aprendizagem do sistema, introduzindo dados corrompidos, como linguagem inadequada nos chats, o que leva o chatbot a utilizá-los em interações futuras.
- Ataques de privacidade: Esses ataques visam extrair informações confidenciais de IA ou dados de treinamento para uso indevido, como engenharia reversa de um modelo por meio de perguntas legítimas a um chatbot.
- Ataques de abuso: Eles visam alimentar a IA com dados ruins de uma fonte legítima, mas comprometida, alterando seu uso pretendido. Diferente dos ataques de envenenamento, estes utilizam fontes legítimas para introduzir informações incorretas.
O desafio atual de cibersegurança deve, portanto, tentar proteger sistemas de inteligência artificial e impedir seu uso malicioso através de ataques cibernéticos.
