Crédito:Fabrice COFFRINI / AFP / Getty Images
O Google lançou sua Carta de Segurança na Índia para fortalecer ferramentas baseadas em IA para detectar fraudes e combater golpes em seu maior mercado fora dos EUA.
As fraudes digitais na Índia têm aumentado acentuadamente. Golpes via UPI cresceram 85% no último ano, somando ₹11 bilhões (US\$127 mi), segundo o governo. Também aumentaram os golpes de prisão digital, com criminosos se passando por autoridades em videochamadas e usando apps de empréstimo abusivos.
Para enfrentar esses desafios, o Google inaugurou um centro de engenharia de segurança na Índia — o quarto no mundo. O espaço vai colaborar com governo, academia e PMEs para criar soluções em cibersegurança, privacidade e IA, segundo a VP Heather Adkins.
Fortalecendo a Conscientização sobre Crimes Cibernéticos: Google firma parceria com a I4C da Índia
O Google firmou parceria com o I4C do Ministério do Interior da Índia para ampliar a conscientização sobre crimes cibernéticos. A ação reforça iniciativas como o DigiKavach, lançado em 2023 para detectar fraudes e conter apps financeiros maliciosos.
Em entrevista ao TechCrunch, Adkins, do Google, descreveu as áreas de foco da empresa na Índia por meio do GSec (Centro de Engenharia de Segurança do Google): combater golpes online e aprimorar a segurança digital para indivíduos, aprimorar a segurança cibernética para empresas, órgãos governamentais e infraestrutura crítica e promover o desenvolvimento responsável de IA.
“Essas três prioridades moldarão nossa carta de segurança para a Índia”, disse Adkins. “Planejamos alavancar nossos talentos de engenharia localmente para abordar problemas que afetam diretamente os usuários indianos.”Em escala global, o Google continua a usar IA para combater fraudes online, removendo milhões de anúncios e contas de anúncios fraudulentas. A empresa agora planeja intensificar o uso de IA na Índia para lidar melhor com o crescente problema de fraude digital no país.
O Google Mensagens usa IA para bloquear mais de 500 milhões de mensagens suspeitas por mês. Na Índia, o piloto do Play Protect barrou quase 60 milhões de tentativas de instalar apps arriscados, bloqueando 220 mil apps únicos em 13 milhões de dispositivos. Já o Google Pay emitiu 41 milhões de alertas de possíveis fraudes.
Adkins, membro fundador da equipe de segurança do Google com mais de 23 anos na empresa, abordou uma série de tópicos em uma entrevista ao TechCrunch:
Sobre o Uso Indevido de Ferramentas de IA
Adkins destacou as crescentes preocupações sobre o uso e o uso indevido de IA por pessoas mal-intencionadas.
“Estamos monitorando de perto os desenvolvimentos em IA. Até agora, ferramentas como modelos de linguagem de grande porte — como o Gemini — têm sido usadas principalmente para aumentar a produtividade. No entanto, também as observamos potencializar ataques de phishing. Por exemplo, os invasores podem usar recursos de tradução para criar golpes mais convincentes, especialmente quando direcionados a pessoas que falam um idioma diferente, e estão usando cada vez mais deepfakes, imagens e vídeos”, explicou.
Para resolver isso, Adkins disse que o Google está testando rigorosamente seus modelos de IA para garantir que eles reconheçam e evitem ações prejudiciais.
“Isso se aplica não apenas a conteúdo potencialmente perigoso que os modelos possam gerar, mas também a qualquer comportamento prejudicial que possam realizar”, disse ele.
O Google está desenvolvendo proteções como o Secure AI Framework para evitar o uso indevido de seus modelos Gemini. Olhando para o futuro, a empresa acredita ser crucial criar novos padrões de segurança que governem a forma como múltiplos agentes de IA interagem, a fim de reduzir o risco de abusos futuros por hackers.
“O setor está avançando em ritmo acelerado, lançando protocolos quase em tempo real”, observou Adkins. “Isso lembra os primórdios da internet, quando as considerações de segurança muitas vezes surgiam depois que a tecnologia já estava disponível.”
Em vez de depender apenas de suas próprias estruturas para impedir o uso indevido de IA generativa por agentes mal-intencionados, o Google está colaborando com pesquisadores e desenvolvedores de toda a comunidade.
Sobre Fornecedores de Vigilância
Além dos riscos representados por hackers que utilizam indevidamente a IA generativa, Adkins identifica os fornecedores comerciais de vigilância como uma grande ameaça. Entre eles, estão produtores de spyware como o NSO Group — conhecido por seu spyware Pegasus — e empresas menores que vendem tecnologias de vigilância.
“Essas empresas estão surgindo em todo o mundo, criando e distribuindo plataformas de hacking”, explicou Adkins. “Você pode gastar US$ 20 ou US$ 200.000, dependendo do quão avançada a ferramenta é, e ela permite lançar ataques em escala sem a necessidade de nenhum conhecimento especializado.”
Alguns desses fornecedores chegam a vender suas ferramentas para monitorar indivíduos em países como a Índia. Além de ser um alvo para tecnologias de vigilância, a Índia enfrenta desafios únicos devido ao seu vasto tamanho e população. De acordo com Adkins, o país está lidando com problemas como deepfakes com IA, golpes de clonagem de voz e fraudes de prisão digital — essencialmente golpes tradicionais reinventados para a era digital.
“O ritmo em que os agentes de ameaças estão evoluindo é impressionante”, disse Adkins. “Acho a segurança cibernética nesta região especialmente fascinante porque ela frequentemente prenuncia tendências que veremos globalmente.”
Sobre a Autenticação Multifator (MFA)
O Google há muito defende que os usuários adotem métodos de autenticação mais fortes, além das senhas tradicionais, para proteger suas contas online. A empresa já havia habilitado a autenticação multifator (MFA) por padrão para todas as contas e continua a promover o uso de chaves de segurança de hardware — algo que Adkins ilustrou ao se referir aos funcionários do Google que as utilizam em seus laptops. O setor também está cada vez mais adotando a ideia de autenticação “sem senha“, embora o termo possa variar em significado.
No entanto, fazer com que os usuários em um mercado tão grande e diverso como a Índia deixem de usar senhas continua sendo um desafio devido à ampla demografia e às condições econômicas do país.
“Sabemos há muito tempo que senhas por si só não são seguras. A autenticação multifator representou uma melhoria significativa”, disse Adkins, observando que a verificação por SMS é provavelmente o método de MFA preferido entre os usuários indianos. 
