Gerenciamento da postura de segurança de IA (AI-SPM)?

• O AI-SPM identifica continuamente modelos, serviços, pipelines e dados de treinamento de IA em ambientes multinuvem, incluindo shadow AI. 
• Ele mostra quais identidades humanas e não humanas têm acesso aos seus modelos de IA e dados de treinamento, sinaliza acessos com permissões excessivas e identifica configurações incorretas que podem se transformar em vias de ataque. 
• O AI-SPM relaciona a exposição à sensibilidade dos recursos de IA, à explorabilidade e ao impacto nos negócios, para que suas equipes possam concentrar as medidas de correção nos riscos reais. 
• Quando utilizados em conjunto, o AI-SPM e o DSPM associam uma exposição de dados ao recurso de IA ao qual ela alimenta e à identidade que poderia realizar a exploração de ambos.

O gerenciamento da postura de segurança de IA (AI-SPM) identifica e reduz os riscos aos recursos e dados de IA em execução em seus ambientes de nuvem.

Uma solução de AI-SPM: 

• Identifica modelos, serviços, pipelines e dados de treinamento de IA
• Classifica o que encontra
• Mapeia como os recursos de IA se conectam às identidades e à infraestrutura
• Identifica as configurações incorretas, as permissões excessivas e os dados expostos que colocam esses recursos em risco

O AI-SPM concentra-se nos riscos específicos da IA em ambientes nativos da nuvem. Isso leva em conta a complexidade dos ambientes modernos: multinuvem, múltiplas identidades, identidades não humanas em grande escala e a adoção cada vez mais ampla da IA.

As plataformas de AI-SPM ajudam suas equipes de segurança a responder a quatro perguntas essenciais:

1. Onde estão nossos modelos, serviços e dados de treinamento de IA?
2. Quais identidades humanas e não humanas podem acessá-la?
3. Esse acesso é necessário ou é uma permissão excessiva?
4. As configurações incorretas ou os dados de treinamento expostos criam uma via de ataque que pode ser explorada?

Quando bem implementado, o AI-SPM oferece uma visão contínua do risco de IA no contexto, e não apenas snapshots pontuais. Ele compartilha a mesma base que o gerenciamento da postura de segurança de dados (DSPM), ampliando a identificação de dados confidenciais para os recursos de IA que, cada vez mais, consomem e geram esses dados.

A adoção da IA tornou-se a norma e é um elemento essencial no ambiente de trabalho em muitos setores. A rápida adoção da IA agiliza as operações, mas amplia sua superfície de ataque e aumenta o risco cibernético. As equipes podem criar um endpoint de modelo, conectar um pipeline de treinamento ou integrar um serviço de IA de terceiros em minutos. Essa flexibilidade facilita perder o controle de onde os recursos de IA estão, quais dados eles acessam e quem pode acessá-los.

O AI-SPM preenche essa lacuna ao oferecer visibilidade sobre os recursos de IA, suas configurações, seus caminhos de acesso e as identidades por trás deles. 

O Tenable One Cloud Exposure, por exemplo, detecta recursos e softwares de IA em diversos provedores, incluindo AWS Bedrock, Amazon SageMaker, Foundry Tools (anteriormente conhecido como serviços de IA do Azure) e Gemini Enterprise Agent Platform (anteriormente conhecido como Vertex AI), para que a shadow AI e os modelos não gerenciados não passem despercebidos.

O AI-SPM também fortalece a governança e a conformidade ao mapear controles de configuração de IA e direitos de acesso para dados de treinamento confidenciais. E, à medida que a maturidade da segurança da nuvem evolui, o AI-SPM integra os riscos específicos da IA em programas mais amplos de gerenciamento de exposição, ao mesmo tempo em que incorpora controles específicos da IA diretamente nas plataformas de proteção de aplicações nativas da nuvem (CNAPP).

1. Detectar e classificar automaticamente recursos de IA

O AI-SPM detecta continuamente modelos, serviços, workloads e componentes de software de IA na AWS, no Azure e no GCP. A detecção e a rotulagem automáticas identificam todos os recursos de IA, para que nada seja executado sem gerenciamento.

2. Identificar e proteger dados confidenciais de treinamento

O AI-SPM classifica dados confidenciais de treinamento, como segredos empresariais e informações de identificação pessoal (PII), e aplica políticas de configuração de IA integradas para protegê-los. Isso funciona em conjunto com o DSPM, que detecta e classifica dados confidenciais onde quer que estejam.

3. Aplicar direitos de IA com privilégios mínimos

Ao estender o gerenciamento de direitos da infraestrutura da nuvem e de direitos de acesso (CIEM) à IA, o AI-SPM garante que apenas as identidades com as políticas de acesso corretas possam acessar modelos de IA proprietários. Visualizações intuitivas de acesso identificam usuários com permissões excessivas e identidades não humanas, para que você possa aplicar os privilégios mínimos.

4. Priorizar os riscos da IA no contexto

Em vez de sobrecarregá-lo com alertas, o AI-SPM relaciona a exposição à sensibilidade dos recursos de IA, à sua explorabilidade e ao impacto nos negócios, para que as equipes se concentrem nos riscos que realmente importam.

5. Realizar a correção com confiança

O AI-SPM fornece orientações de correção com base no contexto: revogação de acessos excessivos, reforço da configuração de modelos ou proteção de dados de treinamento expostos. A integração com o gerenciamento da postura de segurança na nuvem (CSPM) e o CIEM agiliza a aplicação de políticas em toda a pilha de nuvem.

O AI-SPM segue um ciclo contínuo de seis fases:

1. Descoberta

Verifica ambientes em nuvem em busca de modelos de IA, serviços gerenciados de IA, pipelines de treinamento e workloads que os sustentam, incluindo shadow AI executada fora da governança de IA aprovada.

2. Classificação

Classifica automaticamente os recursos de IA e os dados confidenciais de treinamento que eles utilizam, com base em marcos regulatórios e na lógica de negócios, oferecendo suporte à classificação personalizada de modelos proprietários e propriedade intelectual.

3. Análise de acesso

Avalia quem e o que pode acessar recursos de IA, incluindo usuários humanos, identidades de máquinas, contas de serviço e integrações de terceiros, e se alinha aos recursos do CIEM para identificar direitos de acesso à IA com permissões excessivas.

4. Avaliação da postura

Verifica se as configurações de IA e machine learning estão em conformidade com as políticas de práticas recomendadas; sinaliza configurações padrão inseguras, logs desativados, exposição pública e dados de treinamento não criptografados; e associa os riscos diretamente aos recursos de IA afetados.

5. Modelagem de riscos

Utiliza gráficos de exposição para mapear combinações tóxicas entre recursos com configuração incorreta, identidades não humanas com permissões excessivas e dados confidenciais de IA, ajudando as equipes a visualizar vias de ataque e priorizar riscos de alto impacto.

6. Correção e resposta

Prioriza e corrige as exposições mais importantes por meio de correções orientadas e automação de políticas em todo o CNAPP.

O AI-SPM agrega valor por meio de casos de uso práticos e de alto impacto que abordam os maiores riscos emergentes relacionados à IA. Veja seis maneiras pelas quais sua organização pode utilizá-lo para reduzir riscos:

1. Descobrir todos os modelos e serviços de IA, incluindo a shadow AI fora da governança de IA.
2. Proteger os dados confidenciais de treinamento contra exposição, uso indevido ou adulteração.
3. Aplicar o princípio do acesso com privilégios mínimos a modelos proprietários de IA para identidades humanas e não humanas.
4. Cortar as vias de ataque onde recursos mal configurados e identidades com privilégios excessivos expõem workloads de IA.
5. Demonstrar as melhores práticas de configuração de IA para estruturas de governança e conformidade de IA.
6. Detectar pacotes e componentes de IA que apresentam risco ainda nas fases iniciais do pipeline.

O AI-SPM traz insights sobre recursos de IA para o ciclo de vida de DevSecOps, para que suas equipes possam fazer o teste antecipado (shift left) e identificar o tratamento arriscado de IA antes da produção. Integrado a pipelines de CI/CD, o AI-SPM sinaliza problemas como endpoints de modelo desprotegidos, dados de treinamento expostos em ambientes de teste ou acesso excessivo de contas de serviço a recursos de IA.

Com essa visibilidade, os desenvolvedores podem reforçar configurações, restringir permissões de IA e proteger dados de treinamento antes que os problemas se espalhem pelos ambientes. O AI-SPM identifica combinações perigosas, como o acesso público a um modelo com credenciais com privilégios excessivos, e fornece etapas claras de correção para manter a segurança, a conformidade e a velocidade de desenvolvimento em sincronia.

A shadow AI é qualquer modelo, serviço ou ferramenta com tecnologia de IA criada fora da estrutura de governança de IA, de aplicativos SaaS de IA não autorizados a tarefas de treinamento esquecidas. É uma superfície não monitorada que os invasores buscam explorar. Para uma análise mais aprofundada desses riscos, consulte os desafios relacionados à segurança da IA.

O AI-SPM combate a shadow AI ao ampliar a cobertura da verificação para além dos ambientes aprovados. Ele realiza uma verificação das contas e dos serviços conectados para localizar recursos de IA onde quer que estejam, os mapeia de acordo com aos dados de treinamento e às identidades com as quais interagem e destaca exposições sensíveis.

A correção guiada ajuda a retomar o controle da shadow AI: protegendo configurações, revogando acessos de risco ou desativando modelos não gerenciados. Ao recuperar a visibilidade sobre essas incógnitas, o AI-SPM reduz sua superfície de ataque e elimina uma fonte de risco não monitorado que vem crescendo rapidamente.

As novas regulamentações sobre IA e a governança interna exigem um controle rigoroso sobre como sua organização configura os recursos de IA e quem pode acessá-los, com evidências que comprovem isso. O AI-SPM automatiza os fluxos de trabalho que tornam isso viável. 

O gerenciamento da postura de segurança de IA identifica e classifica continuamente os recursos de IA e seus dados de treinamento, verifica se as configurações e os direitos estão em conformidade com as políticas e sinaliza desvios em painéis com pontuação de risco. Quando auditorias ou revisões de governança chegarem, você terá evidências que mapeiam os recursos de IA para controles e etapas de correção, para que sua postura de IA esteja pronta para auditoria mesmo com a evolução dos ambientes.

Em essência, o AI-SPM reduz os riscos da nuvem de maneira direcionada e mensurável: 

• Adiciona contexto de IA à visibilidade da sua infraestrutura e das identidades.
• Cria gráficos de exposição que mostram como identidades, configurações, caminhos de rede e recursos de IA interagem.
• Revela as vias reais de ataque.

A pontuação de risco prioriza o risco real: um modelo em ambiente de teste com dados sintéticos apresenta pontuação mais baixa do que um modelo de produção que expõe dados de treinamento proprietários. Como o monitoramento é contínuo, a redução de riscos não é um esforço pontual. Para ter uma visão mais ampla de como a IA se encaixa em um programa de segurança, consulte os princípios de segurança cibernética com IA.

O AI-SPM e o DSPM são profundamente complementares:

• O DSPM identifica, classifica e protege dados confidenciais em ambientes de nuvem e SaaS. Ele responde às seguintes perguntas: “Onde estão nossos dados confidenciais e quem tem acesso a eles?”
• O AI-SPM estende essa perspectiva aos recursos de IA que consomem e produzem dados: modelos, pipelines e serviços de IA. Ele responde: 
  • “Quais recursos de IA têm acesso a esses dados?” 
  • “Os recursos estão configurados de forma segura?” 
  • “Quem ou o que pode acessar o modelo em si?” 

 Quando utilizados em conjunto no Tenable One Cloud Exposure, o DSPM e o AI-SPM oferecem visibilidade em camadas, relacionando uma exposição de dados ao recurso de IA que ela alimenta e à identidade capaz de explorar ambos.

Você reforça sua postura de segurança ao integrar o AI-SPM à sua estratégia de gerenciamento de exposição. A combinação do AI-SPM com o DSPM, o CSPM e o CIEM em uma plataforma unificada de gerenciamento de exposição oferece uma visão única dos riscos relacionados a dados, infraestrutura, identidade e IA.

• O CSPM identifica o recurso com a configuração incorreta.
• O CIEM destaca a identidade excessivamente privilegiada.
• O DSPM relaciona as descobertas aos dados confidenciais em risco.
• O AI-SPM relaciona tudo isso ao modelo ou serviço de IA que poderia estar comprometido.

Em conjunto, eles revelam combinações tóxicas, como uma identidade não humana com privilégios excessivos que alcança um modelo publicamente exposto, treinado com dados sensíveis. Individualmente, esses problemas podem parecer insignificantes; combinados, eles formam uma via de ataque explorável. Para equipes responsáveis pela governança de um uso mais abrangente da IA, isso se integra ao Tenable AI Exposure no Tenable One.

Para reduzir o risco de IA, procure uma solução que vá além da descoberta básica e ofereça intel prática orientada pelo contexto. Dê prioridade a uma plataforma de AI-SPM que:

• Oferece suporte a ambientes multinuvem com visibilidade uniforme nos serviços de IA da AWS, do Azure e do GCP.
• Utiliza verificação sem agente, baseada em API para evitar pontos cegos e reduzir a sobrecarga operacional.
• Detecta e classifica automaticamente recursos de IA, incluindo a shadow AI.
• Classifica e protege dados confidenciais de treinamento por meio de políticas de configuração de IA integradas.
• Amplia o CIEM para garantir que os direitos de IA sigam os princípios de privilégios mínimos em todas as identidades, sejam elas humanas ou não humanas.
• Mapeia configurações incorretas, identidades e dados em vias de ataque reais, e não em alertas isolados.
• Integra-se ao DSPM, CSPM, CIEM e CNAPP para oferecer uma visão unificada dos riscos.
• Oferece pontuação de risco e correção orientada para resolver, em primeiro lugar, as exposições de maior impacto.

Os recursos de AI-SPM da Tenable fazem parte do Tenable One Cloud Exposure, uma plataforma unificada de segurança da nuvem que integra AI-SPM, DSPM, CSPM, CIEM e gerenciamento de vulnerabilidades. Com a Tenable, você obtém visibilidade detalhada sobre:

• Todos os modelos, serviços e pipelines de IA em seu ambiente multinuvem
• Os dados confidenciais de treinamento que esses recursos utilizam
• Quais identidades humanas e não humanas podem acessá-las
• Quais vias de exposição representam um risco real e com potencial de exploração?

Ao mapear os recursos de IA para configurações incorretas na nuvem, direitos com permissões excessivas e dados expostos, a Tenable ajuda a encontrar e corrigir as lacunas mais importantes. Também é possível pesquisar, explicar e tomar medidas sobre o risco de IA de maneira conversacional com o Tenable Hexa AI no Tenable One.

Saiba como o Tenable One Cloud Exposure auxilia no gerenciamento da postura de segurança de IA.