Источник изображения: Гетти
Введение
Видеоигры превратились в огромные цифровые сети, объединяющие миллиарды людей по всему миру. Однако такое быстрое расширение несет с собой тревожную реальность. Террористические организации и экстремистские группировки постепенно используют игровые платформы для ловли доверчивых людей, злоупотребляя игровыми онлайн-платформами и обходя географические барьеры для привлечения молодежи во всем мире.
Во всем мире онлайн-игры существенно выросли после пандемии COVID-19. Такое глобальное распространение подчеркивает широкую привлекательность и рост на всех континентах, подчеркивая устойчивую глобальную игровую культуру. В Индии также наблюдается взрывной рост этого сектора, обусловленный дешевыми смартфонами, низкой стоимостью передачи данных и социальными сдвигами во время пандемии COVID-19.
Террористические организации и экстремистские группировки постепенно используют игровые платформы для ловли доверчивых людей, злоупотребляя игровыми онлайн-платформами и обходя географические барьеры для привлечения молодежи во всем мире.
Эта статья погружается в темную сторону бурно развивающегося цифрового ландшафта, исследуя, как экстремистские группы используют игровые платформы для распространения своего влияния и радикализации игроков. В нем рассматриваются методы, которые используют эти группы, такие как изменение внутриигрового контента, охота на неопытных игроков и манипулирование социальными функциями для создания закрытых радикальных кругов внутри игр. В нем также обсуждается, как эти стратегии в целом отражают методы онлайн-ориентации на молодежь для распространения радикальных идеологий. Наконец, в статье предлагаются стратегии для разработчиков игр по решению этих проблем, способствующие обеспечению безопасности и конфиденциальности пользователей.
Рост числа онлайн-геймеров
Рисунок 1. Глобальное распределение геймеров по регионам (в миллионах)
Источник: Предыдущие данные
По прогнозам, к 25 финансовому году индийский игровой сектор вырастет на 20 процентов и достигнет примерно 253 миллиардов индийских рупий, что подчеркивает быстро расширяющийся игровой ландшафт страны. Только в 2023 году в Индии работало около 100 000 человек, а к 2025 году, по прогнозам, их число достигнет 250 000. В докладе Торнтона Бхарата и Федерации электронных игр, Стражи безопасной игры: этические игры для динамичной Бхаратыподчеркивает, что Индия имеет вторую по величине базу пользователей, уступая только Китаю, что позиционирует страну как игровую державу. В 2023 году количество загрузок мобильных игр в Индии выросло до 9,66 миллиарда по сравнению с 5,2 миллиарда в 2022 году, причем такие популярные игры, как Людо Кинг и Свободный огонь Макс способствуя этому беспрецедентному росту.
Рисунок 2. Сравнение онлайн-игроков и рыночных доходов (долларов США) в Китае, Индии и США.
Источник: Государственный деятель
Экстремистская деятельность на игровых платформах
Террористические организации и экстремисты все чаще используют игровые платформы для вербовки и радикализации. Распространенная тактика предполагает изменение внутриигровых активов, таких как скины персонажей, окружение или сюжетные линии, чтобы отразить экстремистские ценности. Согласно Глобальному проекту против ненависти и экстремизма, экстремистски модифицированные игры, такие как Counter-Strike: Глобальное наступление (CS:GO) вводит белые националистические символы или крайне правые экстремистские повествования, создавая среду, в которой игроки могут пассивно столкнуться с этими убеждениями или даже принять их. Такие игры, как Чувство долга также видели пользовательские моды (модификации) с политическим или националистическим подтекстом от террористических группировок, таких как Исламское государство, из-за которых радикальные идеологии кажутся нормальными благодаря частому разоблачению.
Такие игры, как Чувство долга также видели пользовательские моды (модификации) с политическим или националистическим подтекстом от террористических группировок, таких как Исламское государство, из-за которых радикальные идеологии кажутся нормальными благодаря частому разоблачению.
Эти захватывающие игры эффективны, потому что они захватывают игроков на продолжительные периоды времени, создавая для экстремистов перспективы для создания сообществ, которые с течением времени тайно промывают мозги игрокам. Кроме того, игры виртуальной реальности (VR), такие как VRChatкоторые позволяют осуществлять персонализированное взаимодействие в режиме реального времени, предоставляют экстремистам возможность вербовать молодых, уязвимых игроков, вовлекая их в измененные условия, которые продвигают определенные идеологии.
Мобилизация и обучение
Некоторые игры служат тренировочными площадками, где экстремисты моделируют тактику боя или координации, используя игровую среду для отработки атак или отработки стратегии. Например, такие игры, как Арма 3 и Побег от Tarkov стали виртуальными тренировочными площадками, где пользователи могут моделировать тактические бои в реалистичных условиях. Эти игры, получившие высокую оценку за высокую степень реализма, особенно нравятся группам, стремящимся привить воинственное мышление. Экстремисты используют эти игры для отработки тактики и ролевых сценариев из реальных ситуаций.
Финансовое мошенничество и киберзапугивание
Экстремисты также использовали внутриигровые валютные системы и рынки предметов для отмывания денег и мошеннических транзакций. В Counter-Strike: Глобальное наступлениеНапример, рынок шкур для оружия время от времени использовался для незаконной торговли, а в некоторых случаях эти предметы служили прикрытием для деятельности по отмыванию денег. Кроме того, террористические организации, такие как «Бригады Аль-Кассам», ХАМАС, «Аль-Каида», ИГИЛ и «Хезболла», нацелены на игроков для кибермошенничества, пропаганды и обучения, таких как стрельба и война. Эта среда затем используется для отчуждения уязвимых людей и вовлечения их в экстремистские группы, где они могут чувствовать себя защищенными и принадлежащими.
Экстремисты также использовали внутриигровые валютные системы и рынки предметов для отмывания денег и мошеннических транзакций.
Проблемы противодействия угрозам на игровых платформах
Ключевая проблема в борьбе с экстремизмом на игровых платформах заключается в объеме контента, создаваемого и распространяемого в этой цифровой среде. Такие игры, как Роблокс и ГТА V предоставляют обширные изолированные среды, в которых пользователи могут свободно изменять контент, что затрудняет разработчикам мониторинг всех действий в режиме реального времени. Системы обнаружения на основе искусственного интеллекта постоянно разрабатываются для распознавания экстремистского контента. Тем не менее, эти технологии ограничены быстрым развитием экстремистской тактики, а также ограничениями конфиденциальности и доступа к данным.
Более того, игровым компаниям часто требуется больше выделенных ресурсов для борьбы с экстремизмом, причем некоторые из них больше внимания уделяют внутриигровой монетизации, чем безопасности сообщества. Экстремистские группы пользуются этим пробелом, зная, что модерация в реальном времени часто не имеет достаточных ресурсов или неэффективна для выявления скрытых тактик радикализации.
Решения для разработчиков игр
Правительства и игровые компании работают над устранением растущей угрозы экстремизма в играх с помощью различных мер регулирования и превентивных стратегий. В 2021 году Министерство внутренней безопасности США создало рабочую группу, призванную сотрудничать с технологическими компаниями в целях выявления и сообщения об экстремистской деятельности на игровых платформах. Правила информационных технологий Индии 2021 года требуют, чтобы платформы отслеживали и сообщали о незаконном контенте, включая экстремистский. Тем не менее, огромные масштабы мобильных игр создают уникальные проблемы правоприменения. для Индии. В Европе Закон Европейского Союза (ЕС) о цифровых услугах, принятый в 2022 году, требует, чтобы онлайн-платформы проводили оценку рисков и осуществляли модерацию контента. Тем не менее, соблюдение этих стандартов может различаться в разных государствах-членах. Тем временем страны Юго-Восточной Азии, такие как Сингапур и Индонезия, начали внедрять правила цифрового контента. Тем не менее, они часто фокусируются на кибербезопасности, а не на прямой борьбе с экстремизмом, оставляя некоторые нормативные пробелы, которыми пользуются экстремисты.
В 2021 году Министерство внутренней безопасности США создало рабочую группу, призванную сотрудничать с технологическими компаниями в целях выявления и сообщения об экстремистской деятельности на игровых платформах.
Опираясь на эти усилия правительства, игровые компании могут принять дополнительные меры для создания более безопасных и устойчивых игровых сообществ.
- Эффективная модерация контента остается важнейшим приоритетом: разработчики используют передовые алгоритмы искусственного интеллекта (ИИ) в сочетании с человеческим контролем для обнаружения и удаления экстремистских материалов. Регулярное обновление этих алгоритмов крайне важно, поскольку экстремисты часто адаптируют свои методы.
- Установление и распространение общественных стандартов, прямо запрещающих экстремизм и разжигание ненависти, еще больше повышает безопасность; разработчики также должны постоянно обучать модераторов распознавать и противодействовать развивающемуся экстремистскому поведению.
- Сотрудничество с экспертами по борьбе с экстремизмом может помочь разработчикам оставаться в курсе возникающих угроз, что позволит им усовершенствовать методы модерации для эффективного устранения новых рисков.
- Обучение игроков признакам радикализации в сотрудничестве с педагогами и организациями по борьбе с экстремизмом дает им знания, необходимые для противостояния экстремистскому влиянию, и способствует формированию бдительного сообщества.
- Наконец, предоставление доступных инструментов отчетности гарантирует, что игроки смогут легко сообщать об экстремистском контенте, создавая активную и расширенную игровую среду.
Эти комбинированные меры регулирования и отраслевые стратегии могут создать игровую экосистему, которая защищает игроков, смягчает экстремистское влияние и дает игровому сообществу возможность активно противостоять распространению вредоносного контента.
предоставление доступных инструментов отчетности гарантирует, что игроки смогут легко сообщать об экстремистском контенте, создавая активную и расширенную игровую среду.
Заключение
Видеоигры превратились в социально связанные платформы, которые экстремисты теперь используют для вербовки и радикализации игроков. Используя иммерсивную игровую среду и анонимность, экстремистские группы тонко внушают уязвимым людям во всем мире. Эта угроза требует срочных действий во всей игровой экосистеме. Разработчики должны усилить системы модерации, использовать инструменты обнаружения искусственного интеллекта и работать с экспертами по борьбе с экстремизмом. Политики должны установить правила, обеспечивающие подотчетность платформ, в то время как игровое сообщество сохраняет бдительность и сообщает о подозрительной деятельности.
Сохранение игр как позитивного пространства требует коллективной бдительности, инновационной модерации и решительных мер по борьбе с эксплуатацией. Благодаря тесному сотрудничеству компаний, правительств и экспертов по безопасности игры могут оставаться безопасной и привлекательной средой, свободной от экстремистского влияния.
Сумья Авасти является научным сотрудником Центра безопасности, стратегии и технологий исследовательского фонда Observer.
Мнения, высказанные выше, принадлежат автору(ам). Исследования и анализ ORF теперь доступны в Telegram! Нажмите здесь, чтобы получить доступ к нашему тщательно подобранному контенту — блогам, длинным формам и интервью.
