Как команда онлайн-игры League of Legends борется с расизмом и делает интернет лучше

Издание The Verge опубликовало материал о том, как создатели популярной МОВА-игры League of Legends борются с нецензурной лексикой и оскорбительными высказываниями во внутриигровых чатах при помощи сразу нескольких систем поощрений и наказаний — и как опыт Riot Games может в целом изменить интернет к лучшему.

#самизнаетекакиекнопки

Любой, кто когда-либо играл в онлайн-игру с незнакомыми людьми, знает, насколько «ядовитыми» они могут быть. Кажется, людям нравится оскорблять других больше, чем играть в саму игру. Расистские, сексистские и гомофобные высказывания — норма во внутриигровых чатах.

Однако, как утверждает ведущий дизайнер социальных систем Riot Games Джеффри Лин, подобная слабость к оскорблениям наблюдается лишь у небольшого процента игроков. По его словам, более 90% таких высказываний делают игроки, которые приходят в League of Legends, чтобы поиграть, а не поругаться, — и одной из своих основных задач Лин считает искоренение подобной практики.

Как сделать так, чтобы человек, у которого был плохой день, не разбушевался посередине игры и не послал всех к черту? Это большая проблема для нас.

Свою Карьеру Джеффри Лин начал в качестве аспиранта в Вашингтонском университете. Лин разрабатывал систему модерации для онлайн-форумов и сообществ, которая была основана на принципах машинного обучения и нейробиологии, и должна была отслеживать и предотвращать появление неподобающих комментариев.

По мнению Лина, онлайн-игры, такие, как League of Legends, — это идеальные системы для изучения моделей поведения игроков и того, что ими движет. Дизайнер считает, что собрать такое количество информации, чтобы научиться определять поведение того или иного пользователя, и предотвращать появление оскорблений — вполне реально. Конечно, когда команда в 2012 году только начинала работу в этом направлении, объем данных казался неподъемным, но некоторые успехи есть уже сейчас.

На самом деле, подавляющее число игроков настроено позитивно по отношению к другим пользователям.

Первой идеей, которая пришла в голову разработчикам League of Legends, стало забанить наиболее «ядовитых» игроков, которые приходят в игру только чтобы поругаться с другими. Однако после проведения компанией ряда внутренних исследований выяснилось, что это не поможет.

По словам Лина, открывают игру для того, чтобы сыпать оскорблениями во все стороны, лишь не более 1% игроков. Если запретить им доступ в игру, из чатов, по подсчетам команды, исчезнет не более 5% неприемлемых высказываний. Проблема, как отмечает Джеффри Лин, чаще всего заключается в том, что у игрока был плохой день — в школе или на работе, и в конкретной игре он начинает оскорблять всех подряд. В остальные же дни он настроен крайне позитивно. Банить таких пользователей не за что.

Команда League of Legends нашла решение — разработчики ввели специальную систему «Очков чести». После каждой игры пользователь может выбрать из всех принимавших в ней участие одного или нескольких игроков, и «одобрить» его. Всего существует четыре параметра, по которым можно оценить того или иного игрока: его дружелюбие, качество командной игры, способен ли он к взаимопомощи и можно ли его назвать честным противником.

Когда игрок набирает необходимое количество очков, ему выдаются «Ленточка чести». Ленточки также бывают разных цветов — в зависимости от того, по какому из перечисленных параметров она выдается. Никаких призов за получение ленточек, правда, не полагается, но система успешно стимулирует игроков воздерживаться от оскорбительных высказываний и зарабатывать «Очки чести».

Репутация много значит.

Кроме того, игроки могут отправлять отчеты о других, если им не понравилась, как себя вел тот или иной пользователь. Riot Games также использует систему, которая определяет и фильтрует нецензурные или оскорбительные комментарии на нескольких языках — она умеет отличать в том числе и жаргонные оскорбления.

Однако, как отмечает Джеффри Лин, обнаружение игрока, который ведет себя неприемлемо — это не главное. Гораздо важнее показать ему, что Riot Games не приветствует такое поведение и предотвратить проявления агрессии в дальнейшем. «Для этого нам нужно быть открытыми и честными со всеми игроками».

Пользователи получают отчеты и предупреждения о том, сколько раз на них пожаловались. С теми, кто продолжает оскорблять других, лично связываются модераторы League of Legends.

Исследования, проводимые внутри компании, показывают, что 50% из тех, с кем побеседовали члены команды Riot Games, меняют линию поведения. Этот показатель увеличивается до 70%, если модератор в качестве доказательства своей правоты приводит скриншоты сообщений в чатах. Остальные 30% отказываются от оскорблений в среднем после третьего наказания.

Кроме того, разработчики Riot Games представили систему «Трибунала». В «Трибунал» выбираются случайные члены сообщества League of Legends. Вместе они решают, стоит ли подвергать наказанию и банить игрока, которые постоянно получает предупреждения, — основываясь на данных о его активности — причем не только отрицательных показателях, но и положительных.

Джеффри Лин считает, что подобные системы можно разработать и для других онлайн-игр, интернет сообществ и мест, где модераторы часто сталкиваются с оскорбительными или нецензурными высказываниями или комментариями. Только выйдя за пределы League of Legends, можно искоренить неприемлемое поведение в самой игре — а заодно и в остальных сегментах интернета.

Riot Games проводит множество встреч с другими разработчиками, игровыми студиями и даже руководителями школ, делясь своим опытом в борьбе с оскорблениями в сети. Лин верит, что уже через пять лет в любой многопользовательской игре будет действовать схожая с League of Legends система — и расовые оскорбления в онлайн-играх станут скорее исключением, чем правилом.