Цифра на страже детства. Как в России выявляют опасные для подростков группы в соцсетях — АУЕ и «Колумбайн»

После нападения 18-летнего поклонника «Колумбайна» на колледж в Керчи тема соцсетей и опасных сообществ вновь стала актуальной. «Звезда» решила пообщаться с Евгением Рабчевским  — генеральным директором компании «Сеуслаб», которая занимается мониторингом соцсетей для выявления групп, посвященных скулшутингу и подобным явлениям, и выяснить, как работает эта система и какие имеет подводные камни.

17 октября на всю Россию прогремела страшная трагедия — 18-летний юноша взорвал в колледже в Керчи самодельную бомбу и расстрелял из ружья учащихся и работников. В результате погиб 21 человек, пострадали около 50.

Сценарий нападения на техникум один в один похож на «Колумбайн»: в 1999 году двое подростков взорвали бомбу в столовой школы, а затем начали расстреливать выбежавших учеников. После чего они покончили с собой.

Позже выяснилось, что юноша действительно является поклонником «Колумбайна», также как и один из подростков, который устроил нападение на пермскую школу № 127 в январе этого года.

После этого трагического инцидента заговорили об усилении мер защиты школ и профилактической работы с подростками. В частности, и о мониторинге соцсетей: выявлении групп, тематика которых связана с убийствами, суицидом, наркотиками, сексуальными домогательствами, и проверке на наличие контактов с каждым конкретным ребенком.

Систему мониторинга придумали в Перми — компания «Сеуслаб». С помощью поисковой системы она ищет противоправный контент и пользователей, вовлеченных в группы, посвященные «Колумбайну», скулшутингу, АУЕ и другому. О том, как это работает, есть ли риски, что ваш ребенок случайно попадет под внимание органов и защите персональных данных — в интервью с Евгением Рабчевским.

— Как с технической точки зрения работает система? По каким признакам и кого именно она выявляет? 

— У нас есть несколько продуктов: в первую очередь это поисковая система «СЕУС», которая работает как типичный поисковик по данным из социальных сетей. Есть продукт «АРМ аналитика СЕУС» для визуального представления результатов анализа распространения информации в соцсетях. В сентябре наш учебно-аналитический центр с помощью «АРМ аналитика СЕУС» провел исследования взаимосвязи потока беженцев из Сирии с распространением материалов экстремистского и террористического характера в информационном пространстве стран СНГ. Результаты данного исследования мы представили на расширенном заседании научно-консультативного совета антитеррористического центра стран СНГ.

 Еще есть продукт, который сейчас находится в стадии разработки, выход альфа-релиза запланирован на конец 2018 года, а финальный релиз выйдет 1 марта 2019 года. Система называется «Георгий Победоносец», это система поиска и аналитики по исключительно открытым данным из соцсетей «ВКонтакте», Facebook, Одноклассники, Instagram и Telegram. Она позволяет автоматически выявлять факты вовлечения молодежи в социально-опасный контент с помощью искусственного интеллекта.

— Какой именно контент учитывается при анализе? Если только текстовый, то как быть с видео- и аудиофайлами?

— Сейчас такой контент можно найти семантически. У нас есть отдельная опция — поиск по медиа, куда включены данные разделы. Её достаточно, чтобы определить автора контента (человека, загрузившего аудио или видео), область распространения и влияния. Анализируется текстовое описание медиа-контента.

 — Как работает система при анализе текста, если сталкивается с каким-то шифром или жаргоном, например, олбанским языком?

— Система определяет любой язык и соотносит его с тем, что публикуется в открытых профилях и группах в «ВКонтакте». У нас есть специальная функция по формированию собственных словарей. Это, кстати, критически важно, когда нужно найти большой массив информации по какой-либо деструктивной субкультуре и ее участников.

— Если мы говорим о безопасности детей, то какое количество этих самых признаков должно быть, чтобы ребенок попал в так называемую группу риска и информация о нем была передана дальше?

— Мы используем в своей авторской методике около 20 факторов, обращаю внимание, мы не ставим никаких оценок степени вовлеченности пользователя в социально-опасные субкультуры, мы формируем рейтинг, то есть просто сортируем по степени присутствия и активности пользователя факторов риска.

— Куда дальше передается полученная информация?

— Эти факты передаются психологу для дальнейшего принятия решения о степени вовлеченности подростка в деструктивные течения, он определяет способ помощи конкретному пользователю или предпринимает экстренные меры если выявлена информация, требующая быстрого реагирования.

Также система формирует свой рейтинг вовлеченности на основе большого количества факторов, подчеркну это всего лишь рейтинг, а не автоматическая отправка данных пользователя в какую-то базу МВД.

Система настраивается нашими специалистами под каждую отдельную предметную область, например, «Колумбайн», скулшутинг, АУЕ, шок-контент и так далее.

— Какие у системы могут быть огрехи? Не получится ли так, что благополучный ребенок окажется в «группе риска» по случайности. Например, обсуждая тот же случай в Керчи и делая репосты новостной статьи?

— Нет, так как у системы мониторинга будут свои фильтры, кроме того, мониторинг соцсетей лишь часть профилактической системы. Мы отвечаем только за мониторинг соцсетей. Что касается «группы риска», оценку ее состояния будет давать специалист. И, конечно, если потребуется реагировать. Когда мы говорим о реакции — это не вмешательство органов ПДН и скандал в школе, это весьма деликатный процесс, которым будут заниматься квалифицированные специалисты из других ведомств рабочей группы.

— Может ли система мониторить закрытые группы, закрытые профили?

— Все наши продукты обрабатывают только открытые данные, мы уважаем личные данные пользователей и осуществляем свою деятельность только в рамках законодательства о персональных данных, Например, мы собираем и храним информацию на протяжении только того периода времени, пока у нас есть на это обязательства, предусмотренные контрактами с нашими пользователями. При расторжении контракта мы удаляем собранную информацию. Задачи, для которых используют нашу систему носят социальный характер и имеют общественную значимость, а наши пользователи имеют соответствующие полномочия на работу с персональными данными.

— Как вообще пришла идея о создании такой системы? После инцидента в школе № 127 или ранее и у нее было другое предназначение?

— Система работает и эксплуатируется различными министерствами и ведомствами почти в 20 регионах России уже с 2015 года. Первоначально основным направлением анализа были материалы террористического характера. В 2016 году мы направляли свои предложения в администрацию Президента РФ, после чего наши пользователи начали использовать «СЕУС» для противодействия пропаганде детского суицида в социальных сетях.

Сейчас мы работаем по многим направлениям: детская порнография, педофилы, «группы смерти», наркотики, СВУ, «Колумбайн», АУЕ, сатанизм, пропаганда и финансирование терроризма.