O abuso na utilização da Inteligência Artificial (IA) é “caracterizado como uma manipulação de algoritmos e dados para atividades maliciosas, tais como a criação de conteúdos falsos e desinformação, a exploração de preconceitos, a recolha indevida de dados sensíveis ou o comprometimento de dados”.

A Inteligência Artificial está a permear os sistemas e é frequentemente utilizada como um meio para aumentar a segurança e proteção dos nossos sistemas, detetar anomalias nos sistemas informáticos e configurar automaticamente os ativos informáticos. No entanto, está a tornar-se rapidamente um alvo para os cibercriminosos que atacam a lógica dos modelos de IA. Um ataque bem-sucedido que inverta a decisão tomada por um modelo de IA permite aos cibercriminosos esconder as suas atividades.

Isto acontece principalmente porque vivemos numa sociedade interligada em que as tecnologias e aplicações de nuvem, periferia e IoT produzem enormes quantidades de dados a cada segundo. Estes dados são fundamentais para todas as empresas que querem competir no mercado global e devem ser corretamente geridos e analisados. Uma melhor gestão e análise conduzem, de facto, a processos mais rápidos, a uma melhor gestão dos clientes e a custos gerais mais baixos. Além disso, a adoção da Inteligência Emocional está a impulsionar a migração dos sistemas de software tradicionais para aqueles que utilizam algoritmos como raciocínio sobre os dados tornando este modelo mais favorável a uma nova vaga de ciberataques.

O papel assumido pelos dados como facilitadores de uma economia torna-os um alvo importante para os cibercriminosos. As ameaças contra estes formam um conjunto de riscos que visam as fontes com o objetivo de obter acesso e divulgação não autorizados, bem como a manipulação de dados para interferir no comportamento do sistema.

A violação de dados é definida no RGPD (Regulamento Geral de Proteção de Dados) como qualquer violação de segurança que provoque, de modo acidental ou ilícito, a destruição, a perda, a alteração ou divulgação ou acesso não autorizados a dados pessoais transmitidos, conservados ou sujeitos a qualquer outro tipo de tratamento. Em termos técnicos, as ameaças contra os dados podem ser classificadas principalmente em violações e fugas de dados. Embora frequentemente utilizados como conceitos permutáveis, implicam noções fundamentalmente diferentes que residem sobretudo na forma como ocorrem:

1. Violação de Dados – é um ataque intencional perpetuado por um cibercriminoso com o objetivo de obter acesso não autorizado e a divulgação de dados sensíveis, confidenciais ou protegidos. Por outras palavras, é um ataque deliberado contra um sistema ou uma organização com a intenção de roubar.
2. Fuga de Dados – é um evento que pode causar a divulgação não intencional de dados sensíveis, confidenciais ou protegidos devido, por exemplo, a configurações incorretas, vulnerabilidades ou erros humanos. Não inclui ataques intencionais.

A crescente adoção de modelos de Inteligência Artificial no centro de novos sistemas distribuídos e da tomada de decisões coloca a manipulação de dados no centro das atenções. O envenenamento de dados e os ataques generalizam-se com o objetivo de minar a confiança nos sistemas informáticos e de produção, na sociedade em geral. Por um lado, os ataques de manipulação de dados visam sistemas modernos que afetam a precisão dos seus resultados, por outro, visam pessoas que divulgam desinformação.

Relembramos que a Quantinfor dispõe de especialistas em cibersegurança que podem fazer uma análise criteriosa à sua empresa de forma a perceber se está ou não vulnerável a um ciberataque e se está a fazer uma utilização correta e segura da inteligência artificial. Se pretender, fale connosco. Envie-nos um email para info@quantinfor.com

Se preferir pode marcar uma reunião com o João Mota, CTO da Quantinfor e tirar todas as suas dúvidas: https://calendly.com/joaomotaquantinfor/30min

Fonte: ENISA – European Union Agency for Cibersecurity (Agência da União Europeia para a Cibersegurança)