Fuente de la imagen: Getty
Introducción
Los videojuegos se han transformado en vastas redes digitales que conectan a miles de millones de personas en todo el mundo. Sin embargo, esta rápida expansión trae consigo una realidad preocupante. Las organizaciones terroristas y los grupos extremistas están aprovechando gradualmente las plataformas de juegos para atrapar a personas crédulas abusando de las plataformas de juegos en línea y sorteando barreras geográficas para involucrar a los jóvenes de todo el mundo.
A nivel mundial, los juegos en línea aumentaron sustancialmente después de la pandemia de COVID-19. Esta distribución global destaca el atractivo y el crecimiento generalizados en todos los continentes, lo que subraya una sólida cultura de juego global. India también ha sido testigo de un crecimiento explosivo en el sector, impulsado por teléfonos inteligentes baratos, bajos costos de datos y cambios sociales durante la pandemia de COVID-19.
Las organizaciones terroristas y los grupos extremistas están aprovechando gradualmente las plataformas de juegos para atrapar a personas crédulas abusando de las plataformas de juegos en línea y sorteando barreras geográficas para involucrar a los jóvenes de todo el mundo.
Este artículo profundiza en el lado oscuro del floreciente panorama digital, explorando cómo los grupos extremistas están explotando las plataformas de juegos para difundir su influencia y radicalizar a los jugadores. Examina los métodos que utilizan estos grupos, como alterar el contenido del juego, aprovecharse de jugadores inexpertos y manipular características sociales para crear círculos radicales cerrados dentro de los juegos. También analiza cómo estas estrategias generalmente reflejan las técnicas en línea dirigidas a los jóvenes para difundir ideologías radicales. Finalmente, el artículo ofrece estrategias para que los desarrolladores de juegos aborden estos problemas, contribuyendo a la seguridad y privacidad del usuario.
Número creciente de jugadores en línea
Figura 1: Distribución global de jugadores por región (en millones)
Fuente: Datos previos
Se proyecta que el sector del juego indio crecerá un 20 por ciento para el año fiscal 25, alcanzando un estimado de INR 253 mil millones, lo que destaca el panorama de juego en rápida expansión del país. Solo en 2023, India empleó aproximadamente a 100.000 personas, y se prevé que llegue a 250.000 en 2025. Un informe de Thornton Bharat y la E-Gaming Federation, Guardianes del juego seguro: juego ético para un Bharat vibrantedestaca que India tiene la segunda base de usuarios más grande, solo superada por China, lo que posiciona al país como una potencia de juegos. Las descargas de juegos móviles en India aumentaron a 9,66 mil millones en 2023, frente a 5,2 mil millones en 2022, con juegos populares como Rey Ludo y fuego libre máximo contribuyendo a este crecimiento sin precedentes.
Figura 2: Comparación de jugadores en línea e ingresos de mercado (USD) en China, India y Estados Unidos
Fuente: Estadista
Actividad extremista en plataformas de juegos.
Las organizaciones terroristas y los extremistas aprovechan cada vez más las plataformas de juegos para reclutar y radicalizarse. Una táctica común implica modificar los recursos del juego, como aspectos de personajes, entornos o historias, para reflejar valores extremistas. Según el Proyecto Global Contra el Odio y el Extremismo, los juegos modificados por extremistas como Counter-Strike: Ofensiva Global (CS: GO) introduce insignias nacionalistas blancas o narrativas de extrema derecha, creando un entorno en el que los jugadores pueden encontrar o incluso adoptar estas creencias de forma pasiva. Juegos como Obligaciones También he visto mods (modificaciones) personalizados con connotaciones políticas o nacionalistas por parte de grupos terroristas como el Estado Islámico, haciendo que las ideologías radicales parezcan normales a través de su exposición frecuente.
Juegos como Obligaciones También he visto mods (modificaciones) personalizados con connotaciones políticas o nacionalistas por parte de grupos terroristas como el Estado Islámico, haciendo que las ideologías radicales parezcan normales a través de su exposición frecuente.
Estos juegos inmersivos son efectivos porque absorben a los jugadores durante períodos prolongados, creando perspectivas para que los extremistas fomenten comunidades que lavan el cerebro encubiertamente a los jugadores con el tiempo. Además, los juegos de realidad virtual (VR) como VRChatque permiten interacciones personalizadas y en tiempo real, brindan a los extremistas una ventana para reclutar jugadores jóvenes y vulnerables al involucrarlos en entornos modificados que promueven ideologías particulares.
Movilización y formación
Algunos juegos sirven como campos de entrenamiento donde los extremistas simulan tácticas de combate o coordinación, utilizando entornos dentro del juego para practicar ataques o refinar estrategias. Por ejemplo, juegos como Arma 3 y Escapar de Tarkov se han convertido en campos de entrenamiento virtuales donde los usuarios pueden simular enfrentamientos tácticos en entornos realistas. Estos juegos, elogiados por su alto grado de realismo, son particularmente favorecidos por grupos que buscan inculcar mentalidades militantes. Los extremistas utilizan estos juegos para practicar tácticas y escenarios de rol de situaciones del mundo real.
Fraude financiero y ciberbullying
Los extremistas también han explotado los sistemas monetarios del juego y los mercados de artículos para el lavado de dinero y transacciones fraudulentas. En Counter-Strike: Ofensiva GlobalPor ejemplo, el mercado de diseños de armas se ha utilizado esporádicamente para el comercio ilegal y, en algunos casos, estos artículos han servido como fachada para actividades de lavado de dinero. Además, organizaciones terroristas como las Brigadas Al Qassam, Hamás, Al Qaeda, ISIS y Hezbollah atacan a los jugadores para realizar fraude cibernético, propaganda y entrenamiento, como prácticas de tiro y guerra. Este entorno se utiliza luego para alienar a las personas vulnerables y atraerlas hacia grupos extremistas donde pueden sentir una sensación de protección y pertenencia.
Los extremistas también han explotado los sistemas monetarios del juego y los mercados de artículos para el lavado de dinero y transacciones fraudulentas.
Desafíos para contrarrestar las amenazas en las plataformas de juegos
Un desafío clave en la lucha contra el extremismo en las plataformas de juegos radica en el volumen de contenido creado y compartido en estos entornos digitales. Juegos como Roblox y GTA-V Proporcionan amplios entornos sandbox donde los usuarios pueden modificar libremente el contenido, lo que dificulta a los desarrolladores monitorear todas las actividades en tiempo real. Constantemente se desarrollan sistemas de detección basados en Inteligencia Artificial para reconocer contenidos extremistas. Aún así, estas tecnologías están limitadas por la rápida evolución de tácticas extremistas y limitaciones de privacidad y acceso a datos.
Además, las empresas de juegos a menudo necesitan recursos más dedicados para combatir el extremismo, y algunas se centran más en la monetización del juego que en la seguridad de la comunidad. Los grupos extremistas explotan esta brecha, sabiendo que la moderación en tiempo real a menudo carece de recursos suficientes o es ineficaz para detectar tácticas encubiertas de radicalización.
Soluciones para desarrolladores de juegos
Los gobiernos y las empresas de juegos están trabajando para abordar la creciente amenaza del extremismo en los juegos a través de diversas medidas regulatorias y estrategias proactivas. En 2021, el Departamento de Seguridad Nacional de los Estados Unidos lanzó un grupo de trabajo dedicado a colaborar con empresas de tecnología para identificar y denunciar actividades extremistas en plataformas de juegos. Las Reglas de Tecnología de la Información de 2021 de la India exigen que las plataformas rastreen y denuncien contenido ilegal, incluido el extremismo. Dicho esto, la gran escala de los juegos móviles presenta desafíos de aplicación de la ley únicos. para la india. En Europa, la Ley de Servicios Digitales de la Unión Europea (UE), aprobada en 2022, exige que las plataformas en línea realicen evaluaciones de riesgos e implementen moderación de contenido. Sin embargo, la aplicación de estas normas puede variar entre los estados miembros. Mientras tanto, naciones del sudeste asiático como Singapur e Indonesia han comenzado a implementar regulaciones de contenido digital. Aún así, estos a menudo se centran en la ciberseguridad en lugar del contraextremismo directo, lo que deja algunas lagunas regulatorias que los extremistas aprovechan.
En 2021, el Departamento de Seguridad Nacional de los Estados Unidos lanzó un grupo de trabajo dedicado a colaborar con empresas de tecnología para identificar y denunciar actividades extremistas en plataformas de juegos.
Aprovechando estos esfuerzos gubernamentales, las empresas de juegos pueden adoptar medidas adicionales para crear comunidades de juegos más seguras y resilientes.
- La moderación eficaz del contenido sigue siendo una prioridad fundamental, y los desarrolladores utilizan algoritmos avanzados de Inteligencia Artificial (IA) combinados con supervisión humana para detectar y eliminar material extremista. Es esencial actualizar periódicamente estos algoritmos, ya que los extremistas suelen adaptar sus métodos.
- Establecer y comunicar normas comunitarias que prohíban explícitamente el extremismo y el discurso de odio mejora aún más la seguridad; Los desarrolladores también deben capacitar continuamente a los moderadores para que reconozcan y aborden los comportamientos extremistas en evolución.
- La colaboración con expertos en lucha contra el extremismo puede ayudar a los desarrolladores a mantenerse informados sobre las amenazas emergentes, permitiéndoles perfeccionar sus prácticas de moderación para abordar nuevos riesgos de manera efectiva.
- Educar a los jugadores sobre los signos de radicalización, en colaboración con educadores y organizaciones contra el extremismo, les proporciona el conocimiento para resistir la influencia extremista y contribuye a una comunidad vigilante.
- Por último, proporcionar herramientas de denuncia accesibles garantiza que los jugadores puedan denunciar fácilmente contenido extremista, fomentando un entorno de juego proactivo y empoderado.
Estas medidas regulatorias combinadas y estrategias impulsadas por la industria pueden crear un ecosistema de juegos que proteja a los jugadores, mitigue las influencias extremistas y capacite a la comunidad de juegos para resistir activamente la propagación de contenido dañino.
Proporcionar herramientas de denuncia accesibles garantiza que los jugadores puedan denunciar fácilmente contenido extremista, fomentando un entorno de juego proactivo y empoderado.
Conclusión
Los videojuegos han evolucionado hasta convertirse en plataformas socialmente conectadas, que ahora los extremistas explotan para reclutar y radicalizar jugadores. Al aprovechar los entornos inmersivos y el anonimato de los juegos, los grupos extremistas adoctrinan sutilmente a personas vulnerables en todo el mundo. Esta amenaza exige medidas urgentes en todo el ecosistema de los juegos. Los desarrolladores deben fortalecer los sistemas de moderación, emplear herramientas de detección de inteligencia artificial y trabajar con expertos en lucha contra el extremismo. Los formuladores de políticas deberían establecer regulaciones para responsabilizar a las plataformas mientras la comunidad de jugadores permanece alerta e informa sobre actividades sospechosas.
Preservar los juegos como un espacio positivo requiere vigilancia colectiva, moderación innovadora y fuertes medidas contra la explotación. A través de una estrecha cooperación entre empresas, gobiernos y expertos en seguridad, los juegos pueden seguir siendo un entorno seguro y atractivo, libre de influencias extremistas.
Soumya Awasthi es miembro del Centro de Seguridad, Estrategia y Tecnología de la Observer Research Foundation
Las opiniones expresadas anteriormente pertenecen al autor (es). ¡Investigaciones y análisis de ORF ahora disponibles en Telegram! Haga clic aquí para acceder a nuestro contenido seleccionado: blogs, informes extensos y entrevistas.
