Inteligência artificial
e confiança digital

Manipulação de identidade

A IA generativa pode criar imagens e vídeos ultrarrealistas em segundos, e até mesmo alterar vídeo ao vivo conforme ele é gerado. Isso pode reduzir a segurança de diversos sistemas vitais — desde software de reconhecimento facial até provas em vídeo no sistema jurídico e desinformação política — e comprometer a confiança em praticamente todas as formas de identidade visual. 

Phishing usando dinamite

Os invasores podem usar ferramentas de IA generativa para simular rostos, vozes e estilo de escrita de forma realista, além de emular identidade corporativa ou de marca, o que pode vir a ser usado em ataques de phishing extremamente eficazes e difíceis de detectar. 

Injeção de prompts

Como muitas organizações estão usando modelos de IA generativa disponíveis no mercado, elas potencialmente expõem as informações usadas para treinar ou instruir a sua instância a ataques de injeção refinados por invasores que visam os modelos mais usados. Sem proteções rígidas e atualizações frequentes, uma exploração do modelo de base pode expor qualquer organização que use esse modelo.  

Alucinações de máquina

Embora a IA possa produzir texto ou voz convincentes com rapidez, nem sempre eles são precisos. Isso é especialmente problemático para organizações que dependem da IA para gerar conteúdo informativo ou de suporte para os usuários, além de organizações que usam o aprendizado de máquina para a detecção de ameaças, para a qual um resultado anômalo pode ser especialmente custoso. 

Sofisticação dos ataques

Como a IA pode escrever código funcional com velocidade superhumana, ela poderia ser usada para expandir o alcance dos ataques com velocidade e complexidade inéditas. Além disso, a IA pode ser usada para detectar vulnerabilidades em uma base de código comprometida e expandir o escopo dos invasores ao reduzir a barreira de entrada.  

Malware personalizado

Embora os LLMs mais conhecidos tenham alguma proteção contra a criação de código mal-intencionado, invasores sofisticados podem descobrir explorações e brechas. Essas proteções podem estar ausentes de modelos roubados ou copiados, permitindo que pessoas mal-intencionadas gerem rapidamente explorações altamente personalizáveis e quase impossíveis de detectar. 

Dados envenenados

Os ataques não precisam necessariamente explorar a própria IA. Em vez disso, podem visar os dados usados para treinar um modelo de aprendizado de máquina para criar uma saída falsa. Depois, ela pode ser usada para criar explorações no próprio modelo, como a falsificação de uma sequência de DNA em um banco de dados de criminosos, ou simplesmente para produzir resultados prejudiciais à organização visada.  

Vazamentos de privacidade

A IA que é treinada com dados confidenciais ou que os utiliza pode vir a expor esses dados, seja por meio de um bug, como aconteceu com vários dos principais modelos comerciais, ou por um ataque direcionado.