O que é shadow AI?

• Sua organização enfrenta riscos imediatos de vazamento de dados quando os usuários colam propriedade intelectual (PI) confidencial ou informações de identificação pessoal (PII) em modelos públicos de IA.
• As proibições de ferramentas de IA raramente funcionam. Líderes de segurança conseguem resultados melhores quando atuam como "corretores" que permitem o uso seguro da IA.
• Sua organização deve estabelecer a visibilidade como o primeiro passo para a governança, adotando a segurança padrão para IA usando ferramentas como o Tenable AI Exposure.

A shadow IT surge quando seus funcionários usam ferramentas de inteligência artificial não autorizadas para fazer seu trabalho, como quando os membros da equipe usam aplicações de IA generativa, como grandes modelos de linguagem (LLMs) para redigir conteúdo, gerar imagens, escrever código ou analisar dados sem a aprovação da equipe de TI.

Embora o conceito de shadow AI espelhe a shadow IT tradicional (o uso de software ou hardware não aprovado), a shadow AI potencializa o risco cibernético. Pense na shadow AI como a shadow IT mais complexa. 

A shadow IT tradicional geralmente requer instalação ou aquisição, o que cria atrito. Por outro lado, seus usuários podem acessar instantaneamente ferramentas de IA gratuitas pelo navegador. O acesso rápido e fácil permite que a adoção da IA se espalhe de forma viral pela sua força de trabalho antes mesmo que as equipes de segurança possam detectá-la.

O fluxo de dados é um diferenciador crítico entre a shadow AI e a shadow IT. Enquanto os riscos tradicionais geralmente se concentram no software não aprovado como a vulnerabilidade, a shadow IT introduz riscos por meio dos dados que você alimenta.

Quando os funcionários colam códigos proprietários, informações confidenciais de clientes ou documentos estratégicos internos em modelos públicos de IA, eles abrem mão do controle dos seus dados. O envio desses dados treina o modelo para criar melhores resultados, mas também expõe sua organização ao vazamento de dados. A IA pode aprender e, posteriormente, revelar sua propriedade intelectual exata em resposta a consultas externas.

Como prática recomendada, categorize suas ferramentas de IA por funcionalidade e risco:

• A IA sancionada é geralmente de baixo risco. Pense em instâncias gerenciadas pela empresa do ChatGPT Enterprise, onde você controla a retenção de dados e as configurações de privacidade.
• A shadow AI apresenta risco variável a alto. Essas ferramentas de IA não gerenciadas permitem que os dados saiam de seu perímetro. Algumas são confiáveis, como a versão gratuita do ChatGPT. Outras, como o DeepSeek, são mais obscuros e podem não ter transparência ou controles de segurança sólidos.
• Os agentes de IA e as ferramentas autônomas de IA são um risco crítico. Diferentemente dos chatbots básicos, que geralmente só respondem a perguntas, os agentes e as ferramentas autônomas podem realizar tarefas sem supervisão humana.

Veja como integrar a segurança de shadow AI em sua estratégia de gerenciamento de exposição: Segurança para IA x IA para segurança.

A shadow AI apresenta riscos imediatos à sua propriedade intelectual e à conformidade. Enquanto as vulnerabilidades tradicionais de software geralmente levam tempo para serem exploradas pelos invasores, as falhas de segurança da IA generativa podem ocorrer assim que um funcionário pressiona "enter" em um teclado.

Sua principal preocupação deve ser o vazamento de dados. 

Quando suas equipes colam códigos proprietários, previsões financeiras ou detalhes confidenciais de clientes em um chatbot público de IA, elas estão basicamente entregando essas informações ao provedor do modelo. 

Infelizmente, a maioria dos termos de serviço públicos permite que esses fornecedores de IA usem entradas para o treinamento de modelos. Isso significa que seus segredos comerciais podem acabar na resposta de um concorrente no futuro.

Se sua organização depende de modelos não gerenciados, a shadow AI também introduz o risco de resultados de IA prejudiciais ou antiéticos, que podem levar a danos à reputação ou a falhas operacionais.

Além da perda de dados, a dependência de ferramentas de consumo não monitoradas coloca em risco a qualidade e a confiabilidade dos resultados de IA, o que pode afetar as principais operações de negócios.

Você também enfrenta um novo tipo de risco oculto: agentes autônomos de IA. 

Conforme observado pelo CIO.com, os "agentes ocultos" são mais do que simples chatbots. Eles podem executar tarefas complexas sem supervisão. Essas ferramentas de IA geralmente ignoram totalmente a governança tradicional de segurança cibernética. 

Quando os funcionários ignoram a IA sancionada, eles operam fora de sua visibilidade. O relatório "Access-Trust Gap" da 1Password constatou que 33% dos funcionários admitem que nem sempre seguem as políticas de IA. 

Esses fluxos de dados não monitorados também paralisam a resposta a incidentes. Sua equipe não pode mitigar um vazamento de dados ou atender à conformidade regulamentar de uma violação que não pode ver. 

Para governar efetivamente a shadow IT, você deve reconhecer onde ela se esconde. Sem seu conhecimento, ela pode aparecer em todas as funções de sua empresa. O desejo dos funcionários de trabalhar mais rápido é um fator comum.

• Os engenheiros de desenvolvimento de software geralmente colam blocos de código proprietários em LLMs para depurar erros ou gerar documentação. Em um incidente amplamente divulgado, funcionários da Samsung acidentalmente vazaram códigos proprietários confidenciais ao carregá-los em um assistente de IA público. Os desenvolvedores também costumam criar instâncias de nuvem não autorizadas para hospedar seus próprios modelos de IA de código aberto, o que cria vulnerabilidades de infraestrutura não gerenciadas.
• As equipes de marketing e vendas geralmente usam IA para redigir e-mails ou analisar clientes potenciais. Elas podem carregar planilhas contendo listas de clientes ou números de receita de vendas em ferramentas públicas para gerar resumos e, inadvertidamente, expor PII e dados financeiros ao provedor do modelo de IA.

Até mesmo departamentos conscientes dos riscos, como o jurídico e o de RH, podem cometer esses erros. Um advogado pode fazer upload de um contrato confidencial para resumir termos complexos, ou um gerente de recursos humanos pode colar avaliações de desempenho para redigir um feedback. Em ambos os casos, os dados internos altamente confidenciais passam a ser de domínio público.

A liderança de sua organização pode considerar a proibição total da IA generativa. Essa parece ser a opção mais fácil, mas não faça isso. 

Proibições rígidas de IA raramente funcionam, pois as pessoas passam a usá-la de forma clandestina. Os funcionários que acreditam que a IA os torna mais produtivos encontrarão soluções alternativas. Eles usarão seus dispositivos pessoais ou VPNs fora da rede, impedindo a visibilidade.

Em vez de proibir a IA, seja um "corretor" de IA, o que significa que você permite o acesso às ferramentas de IA de que sua empresa precisa e, ao mesmo tempo, estabelece as proteções necessárias para manter a segurança dos dados. Você valida quais ferramentas atendem aos padrões de segurança e fornece um caminho sancionado para o uso.

Comece com uma política clara de uso aceitável de IA. Sua AUP de IA deve esclarecer quais classificações de dados são seguras para a IA e quais são proibidas. 

Ao esclarecer as regras em vez de bloquear o recurso, você cria confiança e incentiva os usuários a permanecerem em um ambiente visível e monitorado.

Precisa de ajuda para começar a usar a governança de IA? Leia nosso guia em O que é uma política de uso aceitável de IA?

Para permitir a inovação da IA e, ao mesmo tempo, proteger seus dados, você precisa de uma estrutura de governança de IA contínua e em cinco etapas. A Tenable acredita que a visibilidade é a camada fundamental para essa governança. Somente com a unificação da visibilidade da TI, da nuvem, da identidade, da OT, da IA e do restante da superfície de ataque é possível reduzir efetivamente os riscos.

1. Descubra sua exposição à IA

A visibilidade é sua proteção fundamental contra os riscos de shadow AI. Você deve identificar todas as ferramentas de IA em uso em seu ambiente, desde instâncias empresariais autorizadas até aplicações públicas não autorizados executados em navegadores de funcionários. 

Embora muitas organizações confiem em ferramentas tradicionais, como DLP (prevenção de perda de dados), CASB (corretor de segurança de acesso à nuvem), EDR (detecção e resposta de endpoints) ou controles de segurança nativos da nuvem, elas geralmente são insuficientes. Elas não têm um contexto específico para entender os modelos de IA e seus fluxos de dados de IA exclusivos. 

Para encontrar o uso invisível, você precisa de uma descoberta automatizada criada especificamente para IA.

O AI Aware ajuda a inventariar o uso da IA revelando aplicações em endpoints e redes.

As funcionalidades de AI-SPM permitem inventariar a IA em ambientes de compilação para descobrir desenvolvimento de shadow AI antes que entre em produção. Para garantir a segurança desse fluxo de trabalho, use o Tenable AI Exposure para validar o risco antes da implementação e monitorar continuamente as exposições no tempo de execução.

2. Avalie o risco de IA

Depois de ver as ferramentas de IA, avalie-as. Analise os termos de serviço de cada aplicação. 

• O fornecedor de IA reivindica a propriedade de suas entradas?
• Eles usam seus dados para treinar modelos públicos de IA?
• Em que região o sistema armazena seus dados (por exemplo, na UE ou na China)?
• O fornecedor de IA adere a quais tipos de conformidade do setor?

Em seguida, classifique cada ferramenta como "segura", "restrita" ou "proibida" com base nessas descobertas.

O Tenable AI Exposure monitora continuamente esses agentes de shadow AI para mostrar exatamente como eles operam e quais riscos de IA eles introduzem.

3. Governança com políticas

Formalize suas decisões em uma política clara de governança de IA. Você deve definir exatamente quem pode usar a IA, quais ferramentas de IA podem ser usadas e quais dados podem ser inseridos. 

Sua política também deve estabelecer métricas claras de responsabilidade para que a diretoria e o CEO validem que a IA é segura e oferece o valor comercial esperado. Como ponto de partida, alinhe sua estratégia de governança de IA com a Estrutura de Gestão de Riscos de IA do NIST.

Além disso, para comprovar o ROI, expanda suas métricas para além da redução de riscos e inclua o impacto nos negócios, como o rastreamento das taxas de adoção de ferramentas de IA sancionadas em comparação com as não sancionadas e a estimativa da eficiência operacional que sua organização ganha ao transferir os usuários para modelos de IA seguros e de nível empresarial.

4. Treine sua força de trabalho

A política não significa nada sem treinamento. Ensine aos seus funcionários por que existem essas barreiras de proteção para o uso da IA. Explique os riscos específicos de vazamento de dados que as ferramentas de IA representam, para que eles entendam que você está protegendo os segredos da empresa, e não apenas aplicando regras arbitrárias.

5. Monitore e audite continuamente o uso da IA

O cenário da IA muda diariamente. Surgem novas ferramentas e ferramentas seguras mudam seus termos de serviço. Você deve manter um loop de auditoria contínuo para detectar ferramentas não autorizadas. Como destaca a ISACA, a auditoria dessas ferramentas de IA não autorizadas é fundamental para manter uma empresa em conformidade diante da rápida adoção da IA.

Em última análise, a IA generativa oferece um valor imenso, mas sua organização deve adotá-la de forma segura e cuidadosa. Não deixe que o uso de shadow AI cause exposições ocultas. Ao estabelecer visibilidade e governança claras, você pode capacitar sua força de trabalho para inovar sem entregar seus dados ao domínio público da IA.

Veja, proteja e gerencie seu ecossistema de IA com o Tenable AI Exposure.

• Entre em contato com a Tenable para uma consultoria de segurança para IA ou uma demonstração.
• Assista ou participe de webinars da Tenable sobre tópicos de IA.
• Consulte a página de plug-ins da Tenable para obter informações sobre a detecção de IA.

Com o surgimento da IA e o aumento da adoção, a quantidade de perguntas também cresce no mesmo ritmo. Compilamos abaixo algumas das perguntas mais frequentes, com o objetivo de responder àquelas que são mais urgentes.

Qual é a diferença entre shadow AI e shadow IT? 

Shadow IT refere-se a qualquer software ou hardware de IA não autorizado. A shadow AI é um subconjunto específico que envolve ferramentas de inteligência artificial. A principal diferença está no perfil de risco. A shadow IT põe em risco sua infraestrutura, enquanto a shadow AI põe em risco principalmente os dados que você alimenta.

O ChatGPT é considerado uma shadow AI? 

Se o ChatGPT estiver em sua lista de IAs aprovadas, ele será sancionado; caso contrário, será uma shadow AI.

Como posso detectar o uso de shadow AI? 

Não se pode confiar em pesquisas manuais para detectar o uso de shadow AI. O Tenable One Exposure Management unifica os dados do AI Aware, do AI-SPM e do Tenable AI Exposure para revelar exposições de IA de endpoints, rede, nuvem e identidade.

Obtenha visibilidade completa das aplicações de IA e feche sua lacuna de exposição à IA com a Plataforma de gerenciamento de exposição Tenable One.