Слова помнят больше, чем люди: язык хранит культурные коды, способные влиять на ИИ

Новое международное исследование показало: наши слова отражают культурные предубеждения, накопленные веками. Учёные выяснили, что мировоззрение людей напрямую связано с языком — и эти ассоциации проникают даже в современные модели искусственного интеллекта, включая ChatGPT.

Язык как зеркало мышления

В работе, опубликованной в журнале Social Psychological and Personality Science, исследователи проанализировали тексты на 53 языках, включая английский, и сравнили их с данными о неявных установках более чем 100 000 американцев.

Учёные изучали, как язык отражает отношение к 55 темам — от "богатства и бедности" до "любви и денег". Анализ охватывал как современные тексты, так и книги, изданные 200 лет назад.

"Мы обнаружили, что большие языковые модели, включая ChatGPT, отражают скрытые — неявные — установки, а не только очевидные взгляды", — объяснила доктор Тесса Чарльзуорт, ведущий автор исследования из Школы менеджмента Келлога при Северо-Западном университете.

Искусственный интеллект и человеческая предвзятость

Результаты показали: ассоциации, выявленные в языковых моделях ИИ, ближе к неосознанным установкам, чем к тем, что люди выражают напрямую. Это значит, что ИИ унаследовал не только знания, но и культурные шаблоны мышления, встроенные в язык.

"С развитием искусственного интеллекта нам важно понимать, какие социальные представления он воспроизводит", — подчеркнула Чарльзуорт.

Если раньше исследователи ИИ искали явные предубеждения (например, стереотипные высказывания), то теперь внимание смещается к тонким и исторически закреплённым ассоциациям, скрытым в языковых данных.

Язык как инструмент культурной передачи

По мнению учёных, предвзятость — это не просто продукт личных взглядов, а результат культурной памяти, передаваемой через слова и выражения. Язык служит каналом, по которому общественные установки распространяются и закрепляются.

"Неявные установки проявляются и усиливаются в языке, который является главным носителем культуры", — отметила Чарльзуорт.

Поэтому борьба с предвзятостью в ИИ и обществе требует изменений на уровне культурных практик — того, как мы используем и передаём язык из поколения в поколение.

Ошибка → Последствие → Альтернатива

• Ошибка: сосредоточиться только на явных примерах дискриминации в тексте.

• Последствие: скрытые предубеждения продолжают влиять на восприятие.

• Альтернатива: анализировать исторические и культурные контексты, формирующие язык, и включать в обучение ИИ разнообразные ассоциативные примеры.

Как учёные изучали культурные различия

Исследователи отметили, что в некоторых странах корреляция между языком и скрытыми установками была сильнее, чем в других. Это говорит о том, что уровень предвзятости зависит не только от языка, но и от социальных и исторических факторов — норм поведения, уровня равенства, структуры общества.

Команда планирует продолжить работу, чтобы выяснить, как именно культура формирует неявные предубеждения и как эти паттерны можно изменить через образование, язык и технологии.

Что это значит для будущего

Это исследование помогает понять, что борьба с предвзятостью в ИИ невозможна без осознания культурных корней языка. Если человеческая речь веками отражала и усиливала неосознанные установки, то их присутствие в алгоритмах — закономерный результат.

"Чтобы уменьшить предвзятость, нужно работать не только с данными, но и с обществом, которое их создаёт", — подчёркивает Чарльзуорт.

Плюсы и минусы культурного влияния языка

FAQ

Что такое неявные установки?
Это скрытые, неосознанные предубеждения, которые влияют на наши решения и восприятие, даже если мы их не осознаём.

Почему ИИ воспроизводит эти установки?
Потому что он обучается на текстах, созданных людьми, а значит, перенимает наши языковые и культурные шаблоны.

Можно ли избавиться от скрытых предубеждений в ИИ?
Полностью — вряд ли, но можно уменьшить их влияние, делая обучение моделей культурно разнообразным и проверяя ассоциации на разных языках и контекстах.

Мифы и правда

• Миф: ИИ может быть полностью нейтральным.
  Правда: язык, на котором он обучен, уже содержит культурные предвзятости.

• Миф: предубеждения существуют только в определённых культурах.
  Правда: исследования показывают, что они проявляются повсеместно, но по-разному.

• Миф: язык меняется сам по себе.
  Правда: его форма и смысл зависят от общества, которое им пользуется.

Исторический контекст

Учёные отмечают: связь между языком и мышлением обсуждалась ещё в XX веке — от гипотезы Сэпира-Уорфа до современных нейролингвистических теорий. Новые технологии анализа больших данных теперь позволяют измерить эту связь количественно и проследить, как культурные установки переходят из века в век — от книг XVIII века до нейросетей XXI.

3 интересных факта

1. Языковые модели ИИ чаще отражают скрытые эмоции и стереотипы, чем открытые мнения.

2. Предвзятость проявляется даже в простых словосочетаниях — например, "богатый" ассоциируется с "успехом", а "бедный" — с "неудачей".

3. Анализ показал, что предубеждения сохраняются в текстах независимо от эпохи или страны.

Язык — не просто средство общения, а зеркало коллективного мышления, в котором отражаются привычки, страхи и ценности общества. Чтобы создать по-настоящему справедливые технологии, нужно научиться видеть в этом зеркале не только отражение, но и искажения.