Решение уникальных задач модерации социального VR в масштабе.

Играть в социальную VR действительно круто, но это также выявило некоторые сложные проблемы модерации, с которыми обычные игры обычно не сталкиваются. Возможность фактически говорить с людьми, ощущение, что ты действительно здесь, и весь социальный аспект просто делают всё более интенсивным. Кроме того, мониторинг всего этого стоит дорого, поэтому охват не всегда хороший. Но честно говоря, данные показывают, что есть способы решить эти проблемы и сделать VR-пространства более безопасными, что замечательно.

Статья от доктора Джорджа Нга

Джордж является соучредителем и техническим директором GGWP, компании, специализирующейся на помощи онлайн-сообществам в лучшем понимании своих участников, минимизации негатива и улучшении удержания пользователей. Он также поддерживает команды, проводящие онлайн-мероприятия в прямом эфире. До GGWP он был соучредителем Cyence, платформы для оценки киберрисков, которая позже была приобретена Guidewire Software. В Guidewire он занимал должность главного директора по данным. Ранее в своей карьере Джордж занимал должности главного специалиста по данным в Cray Supercomputer и научного сотрудника в DARPA. Он также является преданным преподавателем, преподавал машинное обучение в UC Berkeley, теорию игр в American University и экономику в UC Irvine.

Модерация социальных VR-пространств представляет собой уникальные трудности по сравнению с традиционными онлайн-играми. Способ взаимодействия людей и сама среда создают различные вызовы для поддержания безопасности и уважения.

Когда люди играют в видеоигры на телевизорах, они обычно воспринимают действие либо от своего лица (от первого лица), либо сзади своего персонажа (от третьего лица). Поскольку они используют контроллеры или клавиатуры и мыши, им сложно много взаимодействовать с другими игроками. Голосовой чат часто прерывается, потому что у некоторых игроков нет микрофонов, или они разговаривают только в небольшой группе в игре или в приложениях, таких как Discord.

VR-гарнитуры полностью погружают игроков в игру, позволяя им испытать её от лица персонажа. Модули управления движением также обеспечивают более разнообразные и потенциально личные взаимодействия между игроками. Кроме того, поскольку все VR-гарнитуры включают микрофоны, игроки обычно ожидают открыто общаться друг с другом с помощью голосового чата, что означает, что разговор слышен всем поблизости.

Обеспечение безопасности в социальных VR-пространствах особенно сложно. Существует больше потенциальных проблем, на которые нужно обратить внимание, и пользователи ожидают высокого уровня безопасности, но у компаний часто ограничены ресурсы для этого.

Данные из различных социальных VR-игр показывают, что хорошая модерация не требует постоянного надзора. Вместо этого, она наиболее эффективна, когда модераторы сосредотачиваются на ситуациях, помеченных как потенциально рискованные.

Почему VR является аномалией в плане модерации.

В отличие от многих других онлайн-сообществ, социальные VR-игры в значительной степени полагаются на голосовую связь, с ограниченными возможностями для текстового взаимодействия. Этот подход, ориентированный на голос, создает более захватывающий опыт, но также усложняет модерацию. Мониторинг голосовых чатов обходится дороже, чем текстовых чатов, из-за возросшей вычислительной мощности, объема хранилища и необходимого ручного анализа. Кроме того, голосовые взаимодействия могут быть более эмоциональными, что означает, что негативный опыт может ощущаться более сильно.

Кто находится в виртуальном пространстве, также имеет значение. Социальный VR часто объединяет людей разного возраста и с разным уровнем опыта, что потенциально может приводить к более спонтанным действиям и попыткам расширить границы. Люди склонны следовать примеру других, и в такие моменты может быть сложнее контролировать импульсы или думать, прежде чем действовать.

Дизайн этих пространств отдает приоритет социальному взаимодействию. В отличие от командных шутеров, где голосовой чат улучшает игровой процесс, в социальной VR взаимодействие с другими является главной достопримечательностью. Общение поблизости, открытые лобби и спонтанные взаимодействия, которые они создают, — это не просто дополнительные функции, а суть того, что делает опыт стоящим.

Как большой поклонник социальной VR, я заметил кое-что сложное. По сравнению с большинством игр и приложений, она зарабатывает гораздо меньше денег на одного пользователя. Но, поскольку она настолько интерактивна, и люди действительно обеспокоены безопасностью, обеспечение безопасности — огромная задача. Это означает большой объем мониторинга, но, к сожалению, недостаточно средств для оплаты всех людей, необходимых для этого. Это сложная ситуация, которая затрудняет создание и поддержание этих пространств.

Почему важна приоритизация на основе рисков?

Естественно думать, что нам нужно следить за всем, чтобы обеспечить безопасность игроков, и постоянный мониторинг может работать хорошо. Однако это требует больших усилий и ресурсов. Часто разработчикам оказывается более эффективным использовать комбинацию общего мониторинга и сосредоточения внимания на областях с наибольшими рисками.

Наш анализ нескольких VR-игр показывает, что очень небольшая группа игроков – менее 1% – ответственна примерно за 28% всех зарегистрированных проблем. Это не просто возможность; мы наблюдаем это в популярных социальных VR-играх, таких как Gorilla Tag и Animal Company, где игроки взаимодействуют друг с другом, используя голосовой чат и другие социальные функции.

Мы имеем дело с небольшой группой игроков, которые систематически вызывают проблемы. Подавляющее большинство игроков не доставляют никаких проблем, и даже среди тех, кто сообщает о проблемах, большинство не являются последовательно деструктивными.

Единый мониторинг предполагает единый риск. На практике риск сильно сконцентрирован.

Эффективная модерация, при работе с большими объемами контента, заключается в разумном использовании ограниченных ресурсов, несмотря на то, что вы не знаете точно, какой вредоносный контент существует. Цель не в том, чтобы просто просматривать все, а в том, чтобы уменьшить максимально возможный вред на каждую единицу усилий, затраченных на мониторинг.

Вместо того, чтобы пытаться решить все вредные ситуации сразу, вы можете значительно уменьшить общий ущерб, сосредоточившись на небольшом количестве людей и обстоятельств, которые вызывают большинство проблем.

Интеллектуальная выборка

VR-данные последовательно показывают, что почти никто не является всегда плохим игроком. Большинство людей плохо себя ведут только в зависимости от ситуации. Они склонны реагировать на других и становятся более агрессивными, если кто-то начинает первым. По сути, они участвуют в негативном поведении, потому что в данный момент им кажется, что это нормально, под влиянием социальной среды.

Сосредоточение внимания на конкретной, потенциально рискованной активности значительно улучшает нашу способность выявлять проблемы. Вместо простого мониторинга случайной части всей активности, умные системы приоритизируют то, что они отслеживают, основываясь на факторах, указывающих на более высокий риск. Это включает в себя анализ прошлых действий, того, что происходит во время текущей сессии – например, кто присутствует, окружающая среда и продолжительность сессии – и другие данные, такие как повторные сообщения или подключения к известным проблемным пользователям. Этот целенаправленный подход помогает нам получить более четкое представление о потенциальных проблемах.

Сосредоточение внимания на небольшом проценте пользовательских сессий, помеченных как рискованные, может выявить удивительно большое количество инцидентов безопасности. На нескольких платформах виртуальной реальности проверка около 10% сессий на основе сигналов риска выявила около 52% всех инцидентов в среднем. Хотя этот процент варьируется в зависимости от конкретного VR-опыта и времени месяца, общая тенденция ясна: большинство проблем с безопасностью происходят в небольшой группе сессий. Увеличение количества отслеживаемых сессий приводит к еще более эффективному обнаружению и предотвращению инцидентов.

Почему это особенно хорошо подходит для VR

Приоритизация усилий по обеспечению безопасности на основе оценки рисков помогает разработчикам сосредоточиться на областях, где вред наиболее вероятен. Это приводит к более эффективным мерам и облегчает управление системами и проверками безопасности. Для быстрорастущих команд этот подход значительно улучшает охват безопасности, не требуя неконтролируемого увеличения объёма работы. Он также снижает затраты и уменьшает ощущение постоянного наблюдения, что может подорвать доверие игроков, если с этим не обращаться с помощью чёткой коммуникации.

Послушайте, как VR-геймер, я понимаю, что эти системы не идеальны для остановки всего сразу, когда это происходит. Вы пропустите кое-что, это просто реальность работы этой технологии. Но честно говоря, это не самая большая проблема во многих социальных VR-пространствах. Гораздо важнее то, что это сдерживает плохое поведение с течением времени и постепенно формирует поведение людей. Речь идет о долгосрочном улучшении сообщества, а не обязательно о поимке каждой отдельной проблемы по мере ее возникновения.

Сдерживание превосходит полное покрытие.

Влияние модерации усиливается, когда сообщения подтверждаются и результаты очевидны, или, по крайней мере, хорошо известны в сообществе. Игроки с большей вероятностью изменят своё поведение, если верят, что правила действительно соблюдаются. Даже ограниченное применение правил может значительно уменьшить будущие проблемы.

Мы наблюдали эту закономерность в популярных социальных VR-играх. Когда нарушение правил последовательно пресекается с ужесточением наказаний за повторные нарушения, количество инцидентов уменьшается, даже если за всеми не наблюдают постоянно.

В виртуальной реальности, где новости и мнения распространяются быстро, пресечение плохого поведения может быть более эффективным, чем просто попытки его поймать.

Что разработчикам следует измерять и к чему стремиться.

Ключ для разработчиков заключается не в том, чтобы осуществлять как можно меньше модерации, а в том, чтобы сосредоточить свои усилия по модерации там, где они наиболее необходимы.

Не всегда возможно для команд отслеживать всё. Сосредоточение на разумной приоритизации, понимание того, что происходит в каждой сессии, и наличие чёткого процесса для решения повторяющихся проблем обычно приводит к лучшим результатам. При измерении успеха важнее снизить количество инцидентов, происходящих с одними и теми же игроками, снизить частоту повторных нарушений и решить вопросы безопасности игроков, чем просто подсчитывать количество обнаруженных проблем.

Эти измерения показывают, что действительно важно для игроков, и помогают создать сильные, гостеприимные онлайн-сообщества, где каждый чувствует себя комфортно, участвуя и оставаясь в них.

– – – – –

Разработчики могут эффективно минимизировать вредоносный контент, тщательно собирая информацию, сосредотачиваясь на самом важном и понимая контекст, и всё это без необходимости широко мониторить всё подряд.

Если вы создаете онлайн-социальные пространства в VR, эффективная модерация должна быть основной частью вашей платформы, как и любая другая важная услуга. Это означает создание систем, которые могут быстро и надежно анализировать происходящее – включая голос и поведение пользователей – в режиме реального времени. Эти системы должны немедленно помечать потенциально проблемные взаимодействия и иметь четкий процесс для вмешательства модераторов и решения проблем.

GGWP разрабатывает инструменты для обеспечения безопасности взаимодействия в виртуальной реальности, охватывающие голосовой чат, текстовые сообщения, сообщения игроков и потенциальные риски, основанные на ситуации. Эти инструменты позволяют разработчикам повысить безопасность, не постоянно контролируя всё, и вы можете найти больше информации на GGWP.