Segurança na era da IA expõe gargalos técnicos até no Google Cloud

Durante um evento em Los Angeles, o diretor de operações (COO) do Google Cloud, Francis de Souza, alertou que as empresas precisam integrar urgentemente suas estratégias de segurança, dados e inteligência artificial para evitar brechas operacionais graves. O posicionamento do executivo, focado na ascensão do chamado "shadow AI" e na necessidade de defesas automatizadas, ocorre em um momento crítico em que a própria gigante de tecnologia enfrenta escrutínio público devido a vulnerabilidades de faturamento e atrasos na propagação de revogação de chaves de API do modelo Gemini.

As declarações de Francis de Souza foram dadas nos bastidores do evento à jornalista Connie Loizos, do veículo norte-americano TechCrunch, revelando os bastidores de uma transição complexa que afeta toda a indústria de tecnologia. Embora o executivo fale sob uma perspectiva de otimismo de longo prazo, prevendo que o mercado passará por um período de transição antes de atingir um patamar mais seguro, a realidade imediata mostra que mesmo grandes provedores de infraestrutura como o Google Cloud ainda estão ajustando seus próprios mecanismos internos para lidar com o dinamismo dessas novas tecnologias.

De acordo com o COO do Google Cloud, a abordagem tradicional de segurança corporativa faliu diante do avanço da inteligência artificial generativa. Em sua visão, a segurança digital não pode ser encarada como um elemento secundário a ser adicionado posteriormente aos sistemas, mas sim como uma fundação que precisa ser estabelecida de forma consistente entre diferentes nuvens e modelos de linguagem, incluindo ambientes que utilizam múltiplas aplicações de SaaS de diversos parceiros comerciais.

A urgência desse debate se tornou ainda mais evidente com os relatórios recentes publicados pelo portal britânico de tecnologia The Register, que documentaram casos de desenvolvedores que utilizam a infraestrutura do Google Cloud sendo surpreendidos com faturas de milhares de dólares. O problema ocorreu após chaves de API originalmente configuradas para o serviço do Google Maps terem seus escopos de acesso expandidos de forma silenciosa e automática para o modelo de IA Gemini, permitindo que cibercriminosos explorassem essas credenciais expostas na internet para realizar requisições de alto custo.

O novo paradigma de segurança

Em sua análise estrutural sobre como as organizações devem reagir ao avanço da tecnologia, Francis de Souza enfatizou que as empresas precisam adotar de forma obrigatória uma abordagem de plataforma integrada. O executivo do Google Cloud advertiu enfaticamente contra a prática comum de permitir que os funcionários tomem decisões individuais sobre quais ferramentas de consumo utilizar no cotidiano do trabalho, gerando um ambiente de vulnerabilidade invisível para os departamentos de tecnologia da informação.

O conceito de "shadow AI", mencionado por Francis de Souza, refere-se especificamente ao hábito de colaboradores adotarem ferramentas de inteligência artificial voltadas ao consumidor final sem a devida homologação, auditoria ou governança por parte das equipes de segurança corporativa. Para o executivo, qualquer planejamento corporativo que ignore a união indissociável entre uma estratégia de dados robusta e políticas rígidas de cibersegurança está fadado ao fracasso operacional.

Sob a perspectiva do mercado corporativo brasileiro, a análise de Francis de Souza encontra eco direto nas discussões sobre conformidade com a Lei Geral de Proteção de Dados (LGPD). No Brasil, a pressa em integrar funcionalidades do Gemini ou de outros modelos de linguagem sem uma arquitetura de governança madura no Google Cloud pode acarretar sérias penalidades regulatórias, demonstrando que a governança de dados exigida pelo executivo internacional não é apenas um diferencial de eficiência, mas uma barreira de sobrevivência jurídica para as companhias nacionais.

A velocidade dos ataques modernos

O argumento central para a mudança drástica nas posturas defensivas das companhias, segundo dados apresentados por Francis de Souza, reside no encurtamento drástico do tempo de reação disponível após uma invasão. De acordo com as métricas compartilhadas pelo executivo, o tempo médio que um invasor leva entre a quebra inicial do perímetro e a transferência do ataque para a fase seguinte despencou de uma média histórica de oito horas para impressionantes 22 segundos, tornando obsoletos os modelos baseados em análise humana manual.

Além da velocidade avassaladora dos incidentes, Francis de Souza apontou para o surgimento de novos vetores de risco gerados pela estrutura interna das aplicações de IA generativa. Diferente dos sistemas tradicionais focados apenas em redes e servidores físicos, o perímetro defensivo de uma empresa moderna agora engloba os pipelines de dados usados no treinamento dos modelos, os próprios parâmetros desses modelos, os prompts de comandos e a atuação de agentes de software autônomos.

"Além do seu inventário usual, agora você tem modelos. Você tem pipelines de dados usados para treinar os modelos. Você tem agentes, você tem prompts. Tudo isso precisa ser protegido."

Um dos cenários mais alarmantes descritos por Francis de Souza envolve o comportamento de agentes inteligentes de busca e automação trafegando pelas redes corporativas internas. Esses robôs têm a capacidade técnica de vasculhar e mapear servidores antigos e esquecidos de SharePoint, cujos controles de acesso não foram atualizados há anos, expondo repositórios de dados confidenciais que a própria gerência de tecnologia das empresas acreditava estarem ocultos ou desativados.

No contexto de infraestrutura de TI no Brasil, onde é comum encontrar servidores de arquivo herdados e instalações antigas de plataformas como o Microsoft SharePoint sem a devida manutenção, o alerta de Francis de Souza adquire contornos dramáticos. Empresas que migram parcialmente para nuvens como o Google Cloud mantendo sistemas locais legados vulneráveis acabam fornecendo um mapa do tesouro automatizado para que agentes mal-intencionados explorem credenciais e dados históricos negligenciados.

A ascensão da defesa agêntica

Para combater ameaças que se propagam em velocidade computacional, a solução apontada por Francis de Souza consiste em automatizar a resposta técnica no mesmo nível. O executivo do Google Cloud defende a implementação de uma defesa totalmente nativa em inteligência artificial e de caráter agêntico, na qual robôs de segurança assumem o controle operacional imediato da resposta aos incidentes, deixando aos analistas humanos a função de supervisão estratégica e tomada de decisão de alto nível.

Essa mudança de patamar tecnológico eleva a cibersegurança a um tema que deve ser tratado diretamente pelas diretorias e conselhos de administração das empresas, e não apenas pelo departamento técnico, de acordo com as diretrizes propostas por Francis de Souza. No entanto, a implementação prática dessa visão esbarra em um gargalo severo de recursos humanos qualificados para operar tais sistemas automatizados de defesa contra novas ameaças.

Essa escassez de profissionais preparados para lidar com as novas ameaças foi destacada pela executiva-chefe de segurança da informação (CISO) do LinkedIn, Lea Kissner, em entrevista ao jornal New York Times. A especialista previu o surgimento de um verdadeiro "bug-pocalypse" decorrente das vulnerabilidades introduzidas pela própria inteligência artificial, estimando que a indústria global de tecnologia levará pelo menos alguns anos até compreender e estabilizar a segurança desses ecossistemas de forma sustentável.

A preocupação de Lea Kissner reflete uma realidade dolorosa para as equipes de segurança em todo o mundo: a velocidade de criação de novas brechas de segurança impulsionadas por IA supera com folga a capacidade das equipes de segurança de mitigá-las. A constatação veiculada no New York Times joga luz sobre o abismo existente entre o discurso corporativo de alto nível e as dificuldades técnicas enfrentadas no dia a dia pelos administradores de redes e analistas de sistemas.

As falhas na infraestrutura atual

O descompasso entre a teoria da segurança perfeita e a prática cotidiana das grandes plataformas ficou evidente em uma série de investigações conduzidas pelo veículo The Register. Os relatórios revelaram que diversos desenvolvedores independentes e pequenas empresas que utilizavam serviços do Google Cloud receberam cobranças astronômicas, de cinco dígitos, em decorrência de chamadas não autorizadas de API aos modelos de linguagem do Gemini, as quais nunca haviam sido solicitadas deliberadamente pelos usuários.

A raiz técnica do problema reside em uma decisão de design de produto tomada pelo próprio Google. Chaves de API que haviam sido originalmente criadas para integrar o serviço de mapas Google Maps em websites de terceiros — e que, seguindo as próprias diretrizes públicas de documentação da empresa, precisavam ser inseridas diretamente no código-fonte público das páginas — tiveram seu escopo ampliado de forma automática para dar acesso também às ferramentas de IA do Gemini, sem que houvesse um aviso claro e transparente aos desenvolvedores sobre a mudança.

Um dos casos mais emblemáticos foi o de Rod Danan, CEO da plataforma de preparação de entrevistas Prentus, que viu sua fatura de serviços de nuvem saltar para o valor de US$ 10.138 em um intervalo de apenas 30 minutos após criminosos virtuais obterem sua chave de API exposta e realizarem requisições massivas aos servidores do Gemini. O incidente ilustra a vulnerabilidade financeira extrema a que pequenos negócios estão sujeitos ao adotar integrações de nuvem sem mecanismos de proteção contra picos abruptos de consumo.

De forma semelhante, o desenvolvedor australiano Isuru Fonseka, baseado na cidade de Sydney, acordou com uma cobrança equivalente a aproximadamente 17.000 dólares australianos em sua conta do Google Cloud, mesmo possuindo uma configuração ativa de limite de gastos mensais estipulada em apenas US$ 250. O que nem ele nem outros desenvolvedores sabiam é que os sistemas automatizados do Google realizavam upgrades automáticos de categoria de cobrança ("billing tiers") baseados no histórico de uso da conta, elevando o teto de gastos para até US$ 100.000 sem exigir um consentimento explícito e direto do usuário.

Embora o Google tenha reembolsado os valores cobrados de Rod Danan e de Isuru Fonseka após a repercussão pública gerada pelas reportagens do portal The Register, a gigante das buscas declarou formalmente que não tem planos de alterar sua política de upgrades automáticos de faturamento. A justificativa oficial da corporação é que o sistema prioriza evitar a interrupção abrupta de serviços críticos dos clientes corporativos em detrimento do cumprimento rígido dos tetos de orçamento definidos manualmente pelos usuários das contas.

A lentidão na revogação técnica

Para piorar o cenário de insegurança financeira e técnica, uma pesquisa realizada pela empresa de segurança cibernética Aikido revelou que mesmo os desenvolvedores que identificam o vazamento de suas credenciais e realizam a exclusão imediata da chave de API comprometida continuam expostos ao ataque por um período prolongado. Os testes práticos de laboratório demonstraram que o processo de revogação de chaves do Google leva até 23 minutos para se propagar de forma completa por toda a sua imensa rede de servidores globais.

De acordo com os dados apresentados pelo pesquisador de segurança Joseph Leon, da empresa Aikido, durante essa janela de 23 minutos de propagação tardia, a taxa de sucesso das conexões dos invasores permanece instável e perigosamente ativa, superando a marca de 90% de autenticações bem-sucedidas em determinados momentos. Nesse intervalo de tempo precioso, os cibercriminosos conseguem exfiltrar arquivos inteiros e roubar históricos de conversas que estavam armazenados em cache no modelo Gemini corporativo.

O pesquisador Joseph Leon apontou em artigo técnico publicado pela Aikido que o problema de atraso não é uma limitação física ou de engenharia intransponível da rede de computadores do Google. Credenciais mais modernas do tipo "service accounts" de faturamento expiram e são revogadas em apenas cinco segundos, enquanto o novo formato de chaves do próprio Gemini iniciadas pelo prefixo "AQ" demora cerca de um minuto para ser invalidado globalmente, provando que a manutenção da janela de vulnerabilidade de 23 minutos nas chaves antigas é puramente uma escolha de prioridades comerciais e operacionais da própria empresa.

O contraste entre as sofisticadas recomendações de arquitetura de segurança de plataforma apresentadas por Francis de Souza em Los Angeles e as vulnerabilidades práticas de infraestrutura apontadas pela pesquisa da Aikido e pelas reportagens do The Register revela o tamanho do desafio enfrentado pelo mercado. Para o ecossistema de desenvolvimento e de negócios de tecnologia, as diretrizes de proteção e governança do Google Cloud devem ser seguidas com rigor, mas acompanhadas da consciência de que, na corrida armamentista da inteligência artificial generativa, as próprias plataformas que vendem soluções de segurança ainda estão correndo para consertar suas próprias engrenagens de faturamento e controle de acesso em tempo real.