Google Planeja Expandir Detecção de Fraudes e Segurança por IA na Índia
Créditos da imagem: Fabrice COFFRINI / AFP / Getty Images
O Google lançou sua Carta de Segurança na Índia para fortalecer ferramentas baseadas em IA para detectar fraudes e combater golpes em seu maior mercado fora dos EUA.
As fraudes digitais na Índia têm aumentado acentuadamente. De acordo com dados do governo, os golpes envolvendo o sistema de pagamento instantâneo UPI aumentaram 85% no ano passado, totalizando quase ₹ 11 bilhões (US$ 127 milhões). O país também registrou um aumento nos golpes de prisão digital, nos quais impostores se passam por autoridades para extorquir dinheiro por meio de videochamadas e aplicativos de empréstimo predatórios.
Para ajudar a combater esses problemas, o Google também abriu um novo centro de engenharia de segurança na Índia — o quarto no mundo, depois de Dublin, Munique e Málaga. Anunciado pela primeira vez na cúpula Google for India do ano passado, o centro trabalhará com parceiros locais — incluindo governo, academia, estudantes e PMEs — para desenvolver soluções que abordem os desafios de segurança cibernética, privacidade, segurança e IA, disse Heather Adkins, vice-presidente de engenharia de segurança do Google, em entrevista ao TechCrunch.
Fortalecendo a Conscientização Sobre Crimes Cibernéticos: Google Faz Parceria Com a I4C da Índia
O Google anunciou uma parceria com o Centro de Coordenação de Crimes Cibernéticos da Índia (I4C) do Ministério do Interior para aumentar a conscientização pública sobre crimes cibernéticos, de acordo com uma publicação em seu blog. Esta iniciativa amplia seus esforços anteriores, incluindo o lançamento do DigiKavach em 2023 — um programa de detecção de fraudes online projetado para conter o impacto de aplicativos financeiros maliciosos e empréstimos predatórios.
Em entrevista ao TechCrunch, Adkins, do Google, descreveu as áreas de foco da empresa na Índia por meio de seu GSec (Centro de Engenharia de Segurança do Google): combater golpes online e aprimorar a segurança digital para indivíduos, aprimorar a segurança cibernética para empresas, órgãos governamentais e infraestrutura crítica e promover o desenvolvimento responsável de IA.
“Essas três prioridades moldarão nossa política de segurança para a Índia”, disse Adkins. “Planejamos alavancar nossos talentos de engenharia localmente para abordar problemas que afetam diretamente os usuários indianos.”
Google Intensifica uso de IA na Índia para Enfrentar Aumento das Fraudes Digitais
Em escala global, o Google continua a usar IA para combater fraudes online, removendo milhões de anúncios e contas de anúncios fraudulentas. A empresa agora planeja aumentar o uso de IA na Índia para lidar melhor com o crescente problema de fraude digital no país.
O Google Mensagens, um aplicativo padrão em muitos celulares Android, conta com Detecção de Golpes por IA, que ajuda a proteger os usuários de mais de 500 milhões de mensagens suspeitas todos os meses. Em um esforço semelhante, o Google lançou um piloto do Play Protect na Índia no ano passado, que, segundo a empresa, impediu quase 60 milhões de tentativas de instalação de aplicativos de alto risco, bloqueando mais de 220.000 aplicativos exclusivos em 13 milhões de dispositivos. Além disso, o Google Pay — uma das principais plataformas de pagamento baseadas em UPI na Índia — emitiu 41 milhões de alertas para transações sinalizadas como potencialmente fraudulentas.
Adkins, membro fundador da equipe de segurança do Google com mais de 23 anos na empresa, abordou diversos tópicos em uma entrevista ao TechCrunch:
Sobre o Uso Indevido de Ferramentas de IA
Adkins destacou as crescentes preocupações sobre o uso e o uso indevido da IA por pessoas mal-intencionadas.
Estamos monitorando de perto os desenvolvimentos em IA. Até agora, ferramentas como modelos de linguagem de grande porte — como o Gemini — têm sido usadas principalmente para aumentar a produtividade. No entanto, também as observamos potencializar ataques de phishing. “Invasores usam tradução para tornar golpes mais críveis, especialmente em outros idiomas, além de recorrerem a deepfakes, imagens e vídeos”, explicou.
Para resolver isso, Adkins disse que o Google está testando rigorosamente seus modelos de IA para garantir que reconheçam e evitem ações prejudiciais.
“Isso se aplica não apenas a conteúdo potencialmente perigoso que os modelos possam gerar, mas também a qualquer comportamento prejudicial que eles possam realizar”, disse ele.
O Google está desenvolvendo proteções como o Secure AI Framework para impedir o uso indevido de seus modelos Gemini. A empresa vê como essencial definir novos padrões de segurança para regular a interação entre IAs e prevenir abusos.
“O setor está avançando em ritmo acelerado, lançando protocolos quase em tempo real”, observou Adkins. “Isso lembra os primórdios da internet, onde as considerações de segurança muitas vezes surgiam depois que a tecnologia já estava disponível.”
Em vez de depender apenas de suas próprias estruturas para impedir o uso indevido de IA generativa por agentes mal-intencionados, o Google está colaborando com pesquisadores e desenvolvedores de toda a comunidade.
Sobre Fornecedores de Vigilância
Além dos riscos representados por hackers que utilizam indevidamente a IA generativa, Adkins identifica os fornecedores comerciais de vigilância como uma grande ameaça. Entre eles, estão produtores de spyware como o NSO Group — conhecido por seu spyware Pegasus — e empresas menores que vendem tecnologias de vigilância.
“Essas empresas estão surgindo em todo o mundo, criando e distribuindo plataformas de hacking”, explicou Adkins. “Com US\$ 20 ou US\$ 200.000, é possível lançar ataques em escala sem precisar de conhecimento técnico.”
Alguns desses fornecedores chegam a vender suas ferramentas para monitorar indivíduos em países como a Índia. Além de ser um alvo para tecnologias de vigilância, a Índia enfrenta desafios únicos devido ao seu vasto tamanho e população. Segundo Adkins, o país enfrenta deepfakes, clonagem de voz e fraudes de prisão digital — golpes clássicos adaptados à era digital.
“O ritmo em que os agentes de ameaças estão evoluindo é impressionante”, disse Adkins. “Acho a segurança cibernética nesta região especialmente fascinante porque ela frequentemente prenuncia tendências que veremos globalmente.”
Sobre a Autenticação Multifator (MFA)
O Google há muito defende que os usuários adotem métodos de autenticação mais fortes, além das senhas tradicionais, para proteger suas contas online. A empresa já ativou MFA por padrão e segue promovendo chaves de segurança, usadas até por funcionários do Google em seus laptops. O setor também está adotando cada vez mais a ideia de autenticação “sem senha”, embora o significado do termo possa variar.
Convencer os usuários na Índia a abandonarem senhas ainda é um desafio, devido à diversidade demográfica e econômica.
“Sabemos há muito tempo que senhas por si só não são seguras. “A autenticação multifator foi uma grande melhoria”, disse Adkins, destacando o SMS como o método preferido na Índia.
Leia o Artigo Original TechCrunch
Leia mais A OpenAI está Supostamente Planejando Utilizar os Serviços de Nuvem do Google
