ИИ применяют для выявления кибербуллинга у подростков — психологи

Вы когда-нибудь чувствовали, что экран смартфона — это щит от жестокости? Увы, он не всегда срабатывает. Цифровая травля или кибербуллинг — реальность, с которой сталкиваются не только дети, но и взрослые. Каждый третий подросток в России признавался, что подвергался онлайн-агрессии. Но есть ли шанс, что именно искусственный интеллект сможет вовремя заметить беду и прийти на помощь?

Когда слова ранят не хуже кулаков

В соцсетях, мессенджерах и даже в комментариях к учебным заданиям может скрываться травля. Оскорбления, издевательства, насмешки — всё это часто проходит мимо глаз родителей, учителей и даже модераторов. Более 50% российских подростков говорят, что им было страшно рассказать взрослым о кибербуллинге. А вот алгоритм ИИ может не судить, не упрекать, не игнорировать.

Технологии уже умеют многое: выявлять агрессивную лексику, распознавать сарказм, отслеживать повторяющиеся атаки. В "ВКонтакте" и Телеграм тестируются алгоритмы, которые автоматически скрывают оскорбительные комментарии. В школах внедряются программы мониторинга переписок в обучающих платформах. Звучит обнадёживающе.

Как именно ИИ может защитить?

Вот несколько способов, как алгоритмы могут вмешиваться в ситуацию:

• мгновенное выявление агрессии. ИИ сканирует текстовые сообщения, комментарии и посты, фиксируя потенциально травмирующий контент.
• автоматическое оповещение. При повторных признаках травли алгоритм может уведомить модератора, психолога или родителей.
• блокировка и фильтрация. Некоторые платформы уже используют ИИ для блокировки нежелательных слов или фраз в комментариях.
• поддержка жертвы. Алгоритм может предложить ресурсы психологической помощи или даже направить сообщение с поддержкой.

Почему пока не всё идеально?

ИИ — не волшебная палочка.

У него есть ограничения:

• контекст имеет значение. Алгоритм может не уловить иронию или личные нюансы общения.
• язык — сложный инструмент. На русском много синонимов и завуалированных оскорблений. Например, слово "умник" может быть похвалой, а может — насмешкой.
• не все платформы готовы. Некоторые компании опасаются, что чрезмерный контроль может отпугнуть пользователей.

Кроме того, сами пользователи часто не доверяют алгоритмам: по данным опросов, 60% подростков в России сомневаются, что ИИ способен по-настоящему понять их эмоции или ситуацию.

Чего не хватает?

Для эффективной борьбы с буллингом через ИИ нужны:

1. совместная работа. Алгоритмы, педагоги, родители и сами дети должны действовать сообща.
2. прозрачные правила. Пользователи должны понимать, как работает система и что делать, если она выявила буллинг.
3. эмпатия. Даже самый точный ИИ не заменит живого участия — важно, чтобы на тревожный сигнал реагировал человек.

ИИ не спасёт от травли полностью, но может стать первым, кто заметит беду. Он — не надзиратель, а помощник. Главное — не полагаться на него вслепую, а использовать как инструмент в руках общества, готового защищать своих. Потому что даже самый мощный алгоритм бессилен, если мы проходим мимо чужой боли.