Google Impulsa la Detección de Fraude con IA y Seguridad en India

Google se pone serio contra el fraude online en India: Un plan con IA y sabor español

¿Te imaginas ser víctima de una estafa digital? En India, la cosa se está poniendo fea. El fraude online, especialmente a través del sistema de pagos UPI, ha crecido un 85% el año pasado, ¡casi nada! Y no solo eso, también hay casos de suplantación de identidad, donde los estafadores se hacen pasar por funcionarios para sacarte el dinero. Un panorama bastante chungo, ¿verdad?

Pero, ¡ojo!, que Google no se queda de brazos cruzados. Han lanzado en India su «Safety Charter», un planazo para combatir el fraude con la ayuda de la inteligencia artificial (IA). Y no solo eso, también han inaugurado un centro de ingeniería de seguridad en el país, ¡el cuarto a nivel mundial! Después de Dublín, Múnich y Málaga, ahora le toca el turno a India. ¿Qué significa esto? Pues que Google se toma muy en serio la seguridad online en su mercado más grande fuera de Estados Unidos.

El centro de seguridad, anunciado el año pasado durante el Google for India summit, tiene como objetivo colaborar con la comunidad local, incluyendo al gobierno, universidades, pymes y estudiantes, para crear soluciones que hagan frente a los problemas de ciberseguridad, privacidad, seguridad y la propia IA.

Google se ha aliado con el Ministerio del Interior de India para concienciar sobre los ciberdelitos. Esto complementa iniciativas ya existentes, como DigiKavach, un programa lanzado en 2023 para frenar el impacto de las apps financieras fraudulentas y las de préstamos abusivos.

Según Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, el nuevo centro se enfocará en tres pilares clave:

• El problema de las estafas y el fraude online: Cómo proteger a la gente cuando navega por internet.
• La ciberseguridad de empresas, gobierno e infraestructuras críticas: Defender a las organizaciones de ataques cibernéticos.
• El desarrollo de una IA responsable: Asegurar que la inteligencia artificial se utiliza de forma ética y segura.

«Estos tres pilares formarán parte de nuestro Safety Charter para India, y en los próximos años… queremos aprovechar nuestra capacidad de ingeniería aquí para solucionar los problemas que están surgiendo en India, cerca de donde están los usuarios», afirma Adkins.

A nivel global, Google ya está utilizando la IA para luchar contra las estafas online y eliminar millones de anuncios y cuentas publicitarias fraudulentas. La idea es implementar esta tecnología de forma más extensa en India para combatir el fraude digital.

Google Messages, que viene preinstalado en muchos dispositivos Android, utiliza una función de detección de estafas impulsada por la IA que ha ayudado a proteger a los usuarios de más de 500 millones de mensajes sospechosos al mes. De manera similar, Google probó su Play Protect en India el año pasado, y afirman que ha bloqueado casi 60 millones de intentos de instalar apps de alto riesgo, deteniendo más de 220.000 apps únicas en más de 13 millones de dispositivos. Google Pay, una de las principales apps de pago UPI en el país, también mostró 41 millones de advertencias contra transacciones sospechosas de ser estafas.

Adkins, una de las fundadoras del equipo de seguridad de Google y con más de 23 años en la empresa, también habló sobre otros temas durante la entrevista con TechCrunch.

El lado oscuro de la IA: El mal uso de las herramientas de inteligencia artificial

Adkins destaca que una de sus mayores preocupaciones es el uso y abuso de la IA por parte de los ciberdelincuentes.

«Estamos siguiendo la IA muy de cerca, y hasta ahora, hemos visto que los modelos de lenguaje grandes como Gemini se utilizan principalmente para mejorar la productividad. Por ejemplo, para que las estafas de phishing sean un poco más efectivas, especialmente si el actor y el objetivo hablan diferentes idiomas, pueden usar la traducción para que las estafas sean más creíbles, utilizando deepfakes, imágenes, vídeo, etc.», explica Adkins.

Google está probando exhaustivamente sus modelos de IA para asegurarse de que entienden lo que no deben hacer.

«Esto es importante para el contenido generado que podría ser dañino, pero también para las acciones que podría tomar», dice Adkins.

Google está trabajando en marcos, incluyendo el Secure AI Framework, para restringir el abuso de sus modelos Gemini. Sin embargo, para proteger la IA generativa del mal uso y abuso por parte de los hackers en el futuro, la empresa ve la necesidad de un marco para construir la seguridad de cómo se comunican múltiples agentes.

«La industria se está moviendo muy, muy rápido [al] publicar protocolos. Es casi como los primeros días de Internet, donde todo el mundo está lanzando código en tiempo real, y estamos pensando en la seguridad a posteriori», afirma Adkins.

Google no quiere simplemente introducir sus propios marcos para limitar el alcance del abuso de la IA generativa por parte de los hackers. En cambio, Adkins dice que la empresa está trabajando con la comunidad de investigación y los desarrolladores.

«Una de las cosas que no quieres hacer es limitarte demasiado en los primeros días de la investigación», afirma Adkins.

El negocio de la vigilancia: Los proveedores de herramientas de espionaje

Además del potencial de abuso de la IA generativa por parte de los hackers, Adkins considera que los proveedores comerciales de vigilancia son una amenaza importante. Estos pueden incluir a los fabricantes de spyware, incluyendo a NSO Group, famoso por su spyware Pegasus, u otras pequeñas empresas que venden herramientas de vigilancia.

«Estas son empresas que se crean en todo el mundo, y desarrollan, fabrican y venden una plataforma para hackear», dice Adkins. «Puedes pagar 20 dólares, puedes pagar 200.000 dólares, dependiendo de la sofisticación de la plataforma, y te permite escalar el ataque a la gente sin tener ninguna experiencia por tu cuenta.»

Algunos de estos proveedores también venden sus herramientas para espiar a la gente en mercados como India. Sin embargo, además de ser blanco de herramientas de vigilancia, el país tiene sus propios desafíos únicos, en parte debido a su tamaño. El país no solo ve deepfakes y fraudes de clonación de voz impulsados por la IA, sino también casos de arrestos digitales, que Adkins subraya que son solo estafas regulares adaptadas al mundo digital.

«Puedes ver lo rápido que están avanzando los propios actores de la amenaza… Me encanta estudiar el cibercrimen en esta región por eso. A menudo es un indicio de lo que vamos a ver en todo el mundo en algún momento», dice Adkins.

Más allá de las contraseñas: La autenticación multifactor

Google lleva mucho tiempo animando a sus usuarios a utilizar métodos de autenticación más seguros que las contraseñas para proteger su presencia online. La empresa activó la autenticación multifactor (MFA) para todas las cuentas de usuario en el pasado, y también promueve las llaves de seguridad basadas en hardware, que Adkins mencionó señalando que sus empleados utilizan activamente sus ordenadores portátiles. El concepto de «sin contraseña» también se está volviendo popular en el mundo tecnológico, con varios significados.

Sin embargo, esperar que la gente abandone las contraseñas en un mercado como India es difícil debido a su vasta demografía y su diversa situación económica.

«Sabíamos desde hace mucho tiempo que las contraseñas no eran seguras. Este concepto de autenticación multifactor fue un paso adelante», dijo Adkins, añadiendo que es probable que los indios prefieran la autenticación basada en SMS a otras opciones de MFA.

Desgranando el Google Safety Charter en India: Un análisis a fondo

El lanzamiento del Google Safety Charter en India no es solo una noticia más en el mundo tecnológico; es una declaración de intenciones de Google para proteger a sus usuarios en un mercado clave donde las amenazas digitales están en constante evolución. Vamos a analizar en detalle los puntos clave de este ambicioso plan y cómo podría impactar en la seguridad online de los usuarios indios.

1. La IA como escudo contra el fraude:

El corazón del Safety Charter reside en el uso de la inteligencia artificial para detectar y prevenir el fraude online. Google ya ha demostrado su capacidad en este campo con herramientas como la detección de estafas en Google Messages y el bloqueo de aplicaciones maliciosas a través de Play Protect. La expansión de estas tecnologías en India, junto con el desarrollo de nuevas soluciones específicas para el mercado local, podría suponer un antes y un después en la lucha contra el fraude digital.

• Aprendizaje automático para anticipar amenazas: La IA no solo sirve para detectar patrones de fraude ya conocidos, sino que también puede aprender de forma continua y anticiparse a nuevas amenazas emergentes.
• Personalización de la seguridad: La IA permite adaptar las medidas de seguridad a las necesidades y comportamientos de cada usuario, ofreciendo una protección más eficaz y personalizada.
• Automatización de la respuesta: La IA puede automatizar la respuesta a incidentes de seguridad, detectando y bloqueando amenazas de forma rápida y eficiente.

2. El centro de ingeniería de seguridad: Un faro de innovación en India:

La inauguración del centro de ingeniería de seguridad en India es un hito importante. Este centro no solo servirá como base de operaciones para el desarrollo de soluciones de seguridad específicas para el mercado indio, sino que también fomentará la colaboración con la comunidad local, incluyendo al gobierno, universidades, pymes y estudiantes.

• Soluciones a medida para el mercado indio: El centro permitirá a Google comprender mejor los desafíos específicos de seguridad en India y desarrollar soluciones adaptadas a las necesidades locales.
• Fomento del talento local: El centro creará oportunidades para que los ingenieros y expertos en seguridad indios trabajen en proyectos innovadores y contribuyan a la protección de sus conciudadanos.
• Colaboración con el ecosistema local: El centro facilitará la colaboración entre Google y otras organizaciones en India, creando un ecosistema de seguridad más fuerte y resiliente.

3. Los tres pilares del Safety Charter: Un enfoque holístico de la seguridad:

El Safety Charter se basa en tres pilares fundamentales: la lucha contra las estafas y el fraude online, la ciberseguridad de empresas, gobierno e infraestructuras críticas, y el desarrollo de una IA responsable. Este enfoque holístico reconoce que la seguridad online es un problema complejo que requiere soluciones integrales.

• Protección del usuario individual: El primer pilar se centra en proteger a los usuarios individuales de estafas, fraudes y otras amenazas online.
• Fortalecimiento de la seguridad empresarial y gubernamental: El segundo pilar se enfoca en fortalecer la seguridad de las empresas, el gobierno y las infraestructuras críticas, protegiéndolos de ataques cibernéticos que podrían tener graves consecuencias.
• Promoción de una IA ética y segura: El tercer pilar se centra en el desarrollo de una IA responsable, asegurando que se utiliza de forma ética y segura y que no se convierte en una herramienta para el fraude o la manipulación.

4. Desafíos y oportunidades: El camino por delante:

El Safety Charter es un paso importante en la dirección correcta, pero también enfrenta desafíos importantes. La rápida evolución de las amenazas digitales, la falta de concienciación sobre seguridad online entre los usuarios y la necesidad de colaboración entre diferentes actores son algunos de los obstáculos que Google deberá superar.

• Mantenerse al día con las nuevas amenazas: Los ciberdelincuentes están en constante evolución, desarrollando nuevas técnicas y herramientas para eludir las medidas de seguridad. Google deberá invertir continuamente en investigación y desarrollo para mantenerse un paso por delante.
• Concienciar a los usuarios: Muchos usuarios no son conscientes de los riesgos que existen online y no toman las medidas necesarias para protegerse. Google deberá invertir en campañas de concienciación para educar a los usuarios sobre seguridad online.
• Fomentar la colaboración: La seguridad online es un problema que requiere la colaboración entre diferentes actores, incluyendo al gobierno, las empresas, las organizaciones de la sociedad civil y los usuarios individuales. Google deberá trabajar con estos actores para crear un ecosistema de seguridad más fuerte y resiliente.

A pesar de estos desafíos, el Safety Charter también ofrece oportunidades importantes. La creciente adopción de la tecnología en India, el aumento de la concienciación sobre seguridad online y el compromiso de Google con la innovación son factores que podrían contribuir al éxito del plan.

5. El toque español en la estrategia de Google:

Es importante recordar que este centro de seguridad en India es el cuarto a nivel mundial, siguiendo los pasos de Dublín, Múnich y Málaga. La inclusión de Málaga en esta lista resalta la importancia que Google le da a España como centro de innovación y talento en el ámbito de la ciberseguridad. Esto podría significar que parte del conocimiento y la experiencia adquirida en Málaga se aplicará también en la estrategia de Google en India.

¿Qué podemos esperar del futuro?

El Google Safety Charter en India es un proyecto ambicioso con el potencial de transformar la seguridad online en el país. Si Google logra superar los desafíos que enfrenta y aprovechar las oportunidades que se le presentan, podría crear un entorno digital más seguro y confiable para millones de usuarios indios. Estaremos atentos a su desarrollo y a su impacto en el mundo de la ciberseguridad.

Además de la protección contra el fraude y la ciberseguridad, este movimiento de Google también tiene implicaciones en otros aspectos como:

• La privacidad de los datos: Con la creciente preocupación por la privacidad de los datos, el Safety Charter también podría abordar cómo Google está protegiendo la información personal de los usuarios en India.
• El impacto en las pequeñas empresas: Las pequeñas empresas son a menudo las más vulnerables a los ciberataques. El Safety Charter podría ofrecer herramientas y recursos para ayudar a estas empresas a protegerse.
• La lucha contra la desinformación: La IA también se puede utilizar para combatir la desinformación y las noticias falsas, un problema creciente en todo el mundo. El Safety Charter podría incluir iniciativas para abordar este desafío.

En resumen, el Google Safety Charter en India es mucho más que un simple plan para combatir el fraude online. Es una estrategia integral para proteger a los usuarios, las empresas y el gobierno de las amenazas digitales y para construir un futuro digital más seguro y confiable. Y con un poco de sabor español en la mezcla, ¡seguro que dará buenos resultados!