O CEO da Mercurius Cybersecurity analisa o duplo desafio gerado pela adoção da IA nas organizações, com incidentes decorrentes do uso sem supervisão e de ataques cada vez mais sofisticados, como phishing personalizado e clonagem de voz, em um cenário em que a Gartner estima que 34% das empresas que utilizam IA generativa já tenham sofrido exposição não intencional de dados.
A rápida Sombra IA—e o uso da mesma tecnologia por cibercriminosos para desenhar ataques cada vez mais sofisticados.
Neste contexto, Marcos Reis, CEO da Mercurius Cybersecurity, defende que as organizações enfrentam uma encruzilhada operacional: controlar como a IA é utilizada dentro da empresa enquanto, simultaneamente, se preparam para ameaças impulsionadas pela IA. A questão se estende além do uso de chatbots públicos e inclui assistentes virtuais, extensões de navegador e outras ferramentas não autorizadas que podem se tornar parte do fluxo de trabalho diário sem o envolvimento dos departamentos de TI.
A exposição acidental de informações tornou-se uma das principais preocupações. De acordo com a Gartner, 34% das organizações que utilizam ferramentas de IA generativa já sofreram incidentes de segurança ou violações de dados associados ao seu uso. Enquanto isso, uma pesquisa do Ponemon Institute indica que mais de 40% das informações comprometidas nesses incidentes consistem em propriedade intelectual e segredos comerciais — uma categoria particularmente sensível devido ao seu impacto potencial sobre a vantagem competitiva e a continuidade dos negócios.
Ao mesmo tempo, a IA se tornou um recurso poderoso para os atacantes. Ela está sendo usada para criar e-mails de phishing que são virtualmente indistinguíveis dos legítimos, clonar a voz de executivos e gerar mensagens altamente personalizadas. Ela também pode facilitar fraudes através de canais de comunicação corporativa como WhatsApp e Telegram, aumentando tanto a velocidade de propagação quanto a complexidade da detecção.
Segundo Reis, essa mudança enfraquece uma barreira de segurança tradicional baseada na capacidade das pessoas de reconhecer sinais de alerta óbvios. “Por anos, ensinamos as pessoas a desconfiar de e-mails com erros de ortografia”, disse Marcos Reis, CEO da Mercurius Cybersecurity. Em sua opinião, o nível de sofisticação atual exige que as organizações repensem suas abordagens: não basta mais identificar quais aplicativos os funcionários usam ou depender apenas de treinamento de conscientização tradicional.
Neste cenário, a resposta deve evoluir de um modelo estático para um focado em visibilidade de dados e resposta contínua. Isso inclui automatizar o monitoramento de dados sensíveis antes que eles saiam da rede corporativa e operar com capacidades de detecção em tempo real. “A diferença estará em quem consegue detectar e responder primeiro”, disse Marcos Reis, CEO da Mercurius Cybersecurity.
