Поділитися Джерело: Nature
Результати 6 масштабних досліджень великих мовних моделей свідчать, що чатботи ChatGPT і Claude демонстрували прихильність до влади, коли політичні запити формулювалися мовою країни, де держава здійснює повний контроль над медіа.
Ключові висновки:
- ChatGPT і Claude висловлювалися про владу Китаю з більшою прихильністю китайською мовою, аніж англійською.
- Це поки не є доказом прямого втручання держав у роботу чатботів, але вказує на інший шлях впливу — через тексти, що використовуються для навчання цих систем.
ChatGPT та Claude розуміють, що таке політична цензура
Автори дослідження прагнули з’ясувати, чи може державний контроль над медіа впливати на відповіді чатботів.
Для цього вони ретельно порівняли китайські тексти з медіа, підконтрольних державі, з відкритими наборами даних, що застосовуються для навчання мовних моделей.
Загалом було виявлено приблизно 3,1 мільйона китайськомовних документів зі значними збігами з такими текстами.
Більше того, було зазначено, що комерційні моделі фактично відтворювали характерні вирази з державних медіатекстів, що свідчить про ймовірну наявність подібних матеріалів у їхніх тренувальних даних.
Схожу закономірність було помічено і в комерційних моделях ChatGPT від OpenAI та Claude від Anthropic. Коли їм ставили однакові запитання щодо політики Китаю китайською та англійською мовами, відповіді китайською частіше виявлялися більш прихильними до влади КНР. Порівняння результатів у 37 країнах показало, що моделі частіше надавали сприятливіші відповіді щодо місцевої влади мовами країн із жорсткішим контролем над медіа, ніж англійською.
Поділитися