Защиту от кибербуллинга предложили студенты НИТУ «МИСиС»

Исследование социальной сети ВКонтакте в 2019 году показало, что 58% россиян сталкивались с кибертравлей в интернете.  Опрос онлайн-школы «Фоксфорд» фиксирует, что каждый второй ребенок подвергался кибербуллингу – намеренным оскорблениям, угрозам и иным формам агрессивного поведения в социальных сетях, мессенджерах, на форумах и игровых платформах. Распространенности явления способствуют анонимность, возможность быстро и безнаказанно запугивать жертву и др. Это может иметь пагубные и долгосрочные последствия для жертв, основными социальными угрозами кибербуллинга являются террористические и суицидальные явления.

Важную роль в предотвращении негативных последствий интернет-травли занимает её обнаружение на начальном этапе. Оперативный способ выявления – встроенные аналитические фильтры сообщений и комментариев в социальных сетях и мессенджерах.  Одной из сложностей при разработке таких программ является выбор адекватного критерия, по которому ПО будет оценивать сообщение и «метить» его в случае угрозы.

Логическим критерием для анализа могут стать когнитивные искажения – систематические ошибки мышления, которые сопутствуют кибербуллингу. Они нарушают правильное видение ситуации человеком и могут служат катализатором для обидчика. Аналитика свидетельствует, что в буллинг-системе чаще всего фигурируют следующие когнитивные искажения: дихотомическое или черно-белое мышление, и навешивание ярлыков.

Студентка 4 курса кафедры инженерной кибернетики Института информационных технологий и компьютерных наук НИТУ «МИСиС» Алена Минаева разработала математическое обеспечение и программу для распознавания определенных когнитивных искажений посредством анализа текстов сообщений пользователей социальных сетей.

«Для решения поставленной задачи использовался целый комплекс методов машинного обучения (классификаторы): метод К-ближайших соседей, метод опорных векторов, «наивный Байес», деревья решений, логическая регрессия. Кроме того, для обучения и тестирования методов был создан датасет или база данных, состоящая из комментариев пользователей популярных интернет-форумов.  Для оценки работы созданных алгоритмов были выбраны следующие метрики: ROC-AUC и F1-метрика»,рассказала автор разработки Алена Минаева.  

В итоге была создана комбинация, которая умеет анализировать текст на русском языке и находить сообщения, содержащие когнитивные искажения, характерные для буллинга. Система может стать основой нейросети, встроенной в любой мессенджер, например, Телеграмм и в фоновом режиме мониторить беседу пользователей, и принимать меры для нейтрализации агрессии или запугивания при их появлении.

Проект вошел в число победителей студенческой конференции «Дни науки НИТУ «МИСиС».

PRSupport

Related Posts

Открытие торгов на валютном рынке 20.04 УК «Альфа-Капитал»

Комментарии к записи Открытие торгов на валютном рынке 20.04 УК «Альфа-Капитал» отключены

Состоялась рабочая встреча главы Минстроя РФ и губернатора Магадана

Комментарии к записи Состоялась рабочая встреча главы Минстроя РФ и губернатора Магадана отключены

Банк ЗЕНИТ принял участие в выставке EXPO-RUSSIA KAZAKHSTAN 2021

Комментарии к записи Банк ЗЕНИТ принял участие в выставке EXPO-RUSSIA KAZAKHSTAN 2021 отключены

«Четкий взгляд в любых ситуациях»: Essilor предлагает покупателям две пары очковых линз по цене одной

Комментарии к записи «Четкий взгляд в любых ситуациях»: Essilor предлагает покупателям две пары очковых линз по цене одной отключены

Ставки по ипотеке растут: где выгодно взять кредит для покупки квартиры

Комментарии к записи Ставки по ипотеке растут: где выгодно взять кредит для покупки квартиры отключены

Рынок труда в Германии под давлением COVID-19

Комментарии к записи Рынок труда в Германии под давлением COVID-19 отключены

Новые возможности для автомобилистов Ставрополья: Fresh Auto открывает автосалон в самом большом городе региона

Комментарии к записи Новые возможности для автомобилистов Ставрополья: Fresh Auto открывает автосалон в самом большом городе региона отключены

DailyMoscow: Песков: в Кремле разбираются с сообщениями США о возможных терактах в России

Комментарии к записи DailyMoscow: Песков: в Кремле разбираются с сообщениями США о возможных терактах в России отключены

Юрист или адвокат? Какая разница между юристом и адвокатом

Комментарии к записи Юрист или адвокат? Какая разница между юристом и адвокатом отключены

DailyMoscow: Германия примет решение о высылке российских дипломатов на этой неделе

Комментарии к записи DailyMoscow: Германия примет решение о высылке российских дипломатов на этой неделе отключены

Новостройки или преимущества первичного рынка жилья

Комментарии к записи Новостройки или преимущества первичного рынка жилья отключены

Fresh Auto: 16 лет побед и успешного движения вперед

Комментарии к записи Fresh Auto: 16 лет побед и успешного движения вперед отключены

Create Account



Log In Your Account



Яндекс.Метрика