Эксперты призвали ввести этические стандарты для ИИ-сервисов

Вы бы доверили свои душевные переживания алгоритму? В России уже появляются стартапы, которые предлагают ИИ в роли психотерапевта. Виртуальный помощник выслушает, даст совет, поможет справиться с тревогой. Удобно, анонимно, всегда доступно. Но вот вопрос: где заканчивается помощь и начинается скрытый контроль?

В 2023 году около 18% россиян использовали цифровые инструменты для психологической поддержки — от приложений до чат-ботов. Прогнозы обещают рост, особенно в регионах, где доступ к психотерапевтам ограничен. И это неудивительно: ИИ не осуждает, не устает, не требует записи за месяц. Но стоит ли забывать, что за "беспристрастным" интеллектом всегда стоит кто-то — разработчики, корпорации, государства?

Где ИИ действительно помогает

ИИ-терапия может быть полезной, особенно в следующих случаях:

• первичная поддержка: когда человек не готов идти к живому психологу, но хочет разобраться в себе;
• отслеживание состояния: алгоритмы способны замечать эмоциональные сдвиги и "подсвечивать" тревожные тенденции;
• доступность: в малых городах, где нет специалистов, ИИ может быть единственной альтернативой.

Для многих это шанс получить хотя бы минимальную поддержку. Исследования показывают, что такие инструменты действительно могут снижать уровень тревожности и депрессии на ранних этапах.

А где начинается манипуляция?

Но за удобством кроются риски.

И вот почему стоит быть настороже:

• отслеживание чувств: алгоритмы не просто "слушают", они анализируют. Ваши эмоции, слова, паузы — всё может быть использовано в целях, не связанных с вашей психотерапией.
• навязывание решений: ИИ может мягко подталкивать к выбору, выгодному не вам, а разработчику. Например, предлагать продукты или услуги.
• формирование зависимостей: регулярное обращение к ИИ может заменить реальные социальные контакты и усугубить изоляцию.

Важно понимать: ИИ — это не друг и не врач. Это инструмент. А любой инструмент можно использовать и во благо, и во вред.

Где проходит граница?

Этичная ИИ-терапия возможна, если соблюдены простые, но чёткие условия:

1. прозрачность алгоритмов: человек должен знать, как обрабатываются его данные;
2. контроль над информацией: пользователь вправе удалять или ограничивать использование своих записей;
3. наличие выбора: ИИ не должен заменять человека, а лишь дополнять его.

В России пока нет чётких этических стандартов в этой области. Но дискуссия уже началась. Эксперты обсуждают необходимость этических кодексов и механизмы аудита ИИ-приложений, работающих в сфере ментального здоровья.

Ваш выбор имеет значение

Вопрос не только в технологиях, а в том, как мы ими пользуемся. Вы имеете право на поддержку, но вы также имеете право на осознанный выбор. Не доверяйте свои эмоции машине слепо. Даже самый "умный" алгоритм не заменит человеческого тепла и эмпатии.

ИИ может стать опорой. Но только в том случае, если он остаётся на своей стороне границы — стороне помощи, а не контроля.