Нещодавно в авторитетному журналі American Psychologist було опубліковано працю ізраїльських дослідників Михаеля Гілеада та Ґаля Ґутмана «Від міфу до моделі: репрезентація „єврея“ в ґенеративному ШІ». Автори поставили перед собою амбітне завдання: з’ясувати, чи не відтворюють сучасні великі мовні моделі приховані антисемітські стереотипи.
Методика експерименту витончена у своїй простоті. Нейромережі пропонувалося створювати короткі біографії вигаданих американців, які відрізнялися виключно іменами. До однієї групи увійшли традиційно єврейські імена (наразок Ітана Каца чи Ноа Вайса), до іншої – неєврейські (Тайлер Джонсон або Кайл Уайт). Потім дослідники за допомогою психометричних шкал проаналізували характеристики, які алгоритм систематично приписував персонажам.
Отриманий результат виявився дивовижно стійким. Персонажі з єврейськими іменами частіше описувалися як інтелектуальні, компетентні, раціональні, індивідуалістичні та націлені на особисту відповідальність. Їм приписувалися готовність до конкуренції, прагнення до лідерства, високий соціальний статус та орієнтація на результат. Одночасно з цим їм помітно рідше приписувалися емоційна теплота, підвищена емпатія, колективізм, егалітарність та прагнення до горизонтальних зв’язків (ці якості вважаються особливо важливими у протиставлюваній цивілізації прогресу та досягнень у Західному Світі так званій «культурі відчуттів» або «терапевтичній культурі»).
До цього моменту дослідження становить беззаперечний академічний інтерес: воно фіксує виразний статистичний патерн. Однак наступний висновок, якого доходять автори, викликає серйозні запитання та здивування.
Ґілеад та Ґутман стверджують, що знайдений ними набір характеристик свідчить про відтворення штучним інтелектом прихованих антисемітських стереотипів про «холодних та домінуючих чужинців».
Але тут автори, схоже, припускаються поширеної методичної помилки, наділяючи алгоритм власною свідомістю. Велика мовна модель не має моралі, світогляду чи суб’єктності. Вона нічого не «думає» ні про євреїв, ні про американців. ШІ – це суто статистичне дзеркало, що відображає гіганський корпус текстів, на якому його навчали. Якби цей масив складався виключно з праць прибічників теорії «плоської Землі», модель бездоганно відтворювала б саме цю картину світу.
Тому дослідження говорить зовсім не про «погляди» штучного інтелекту. Воно лише показує, який культурний образ єврея виявився найпоширенішим у тому масиві людських текстів епохи Модерну, на якому навчалася модель. Важливо уточнити: йдеться саме про американських емансипованих і, з високою ймовірністю, асимільованих євреїв, а не про більш автентичний образ – традиційного мешканця східноєвропейського штетлу чи ортодоксального юдея, чиє життя замкнене в межах релігійної громади та вивчення Тори.
Тож тут ми отримуємо стереотип не єврея взагалі, не ізраїльтянина, не ортодоксального єврея, а лише американського єврея як вельми специфічної групи, що має свої соціокультурні особливості.
Якби це було завершенням дослідження, це було б дуже цікаве й важливе відкриття, хоча й не про ШІ, а про культурні стереотипи, які ШІ просто підсумував і відобразив. На цьому розмова про технології та штучний інтелект по суті закінчується. І починається розмова про інше.
Але автори пішли далі – вони практично маркували цей культурний стереотип як «антисемітський», і ця інтерпретація фактів видається вельми спірною, якщо не сказати некоректною.
Вдумаємося: персонажам із єврейськими іменами приписують інтелект, компетентність, раціональність, автономію, готовність брати на себе відповідальність, прагнути лідерства та успіху. Якби євреям приписували дурість, підступність, ницість чи соціальну паразитичність – це, безумовно, було б ворожим упередженням. Але якщо їм приписують інтелект, волю до досягнень і професіоналізм, то де саме тут розташований антисемітизм?
Відповідь слід шукати вже не в алгоритмах ШІ, а в тій ціннісній оптиці, через яку дослідники інтерпретують отримані дані. Пояснювальною моделлю тут виступає концепція «Спіральної динаміки» – теорія еволюції людських систем цінностей, розроблена Клером Грейвзом і розвинена Доном Беком та Крісом Кованом у фундаментальній праці «Spiral Dynamics: Mastering Values, Leadership and Change». Ця концепція показує, що розвиток суспільства проходить через зміну різних ціннісних систем («світів»), кожна з яких по-своєму визначає, що вважати чеснотою.
Якщо подивитися на згенерований ШІ профіль через цю концепцію, стає очевидним, що він відображає систему цінностей «Помаранчевого» та «Жовтого» рівнів – світу особистої відповідальності, свободи, конкуренції, раціональності й ініціативи, і перед нами виникає безумовно позитивний образ успішної людини. Це саме та модель особистості, яку досліджував Макс Вебер у своїй праці про формування сучасного західного суспільства. Це той самий ідеал раціонального індивідуалізму та волі до розвитку, який зводила у ранг найвищої людської чесноти Айн Ренд. Саме цей архетип self-made man став мотором модернізації та сформував фундамент вільного світу, який пов’язує гідність людини з її особистими зусиллями, розумом і рухом уперед.
Проте автори цього дослідження дивляться на цей самий портрет, схоже, з іншої ціннісної точки, яка ближча до іншої системи цінностей (що описується як «Зелена» або «Бирюзова»), де найвищими та чи не єдиними критеріями «хорошої людини» оголошуються сентиментальна емоційна теплота, зосередженість на внутрішніх відчуттях, колективізм, егалітарність, психологічна чутливість, демонстративне відторгнення ієрархій та прагнення уникнути конкуренції. Саме тут проходить справжня межа проблеми. Суперечка точиться вже не про штучний інтелект. І навіть не про єврейський характер. Суперечка точиться про те, які цінності вважати нормативними для цивілізації.
Автори праці, можливо, самі того не помічаючи, оголошують підозрілими та негативними якості, які протягом століть створювали Західний Світ – пріоритет досягнень у реальності над внутрішніми відчуттями, дії над переживаннями, інтелект, компетентність, індивідуальну відповідальність і прагнення успіху. Як абсолютну ж норму пропонується зовсім інший, сентиментально-колективістський набір установок.
Цей логічний підлог залишається у статті майже непоміченим. Автори не обговорюють свій вибір як специфічну ціннісну позицію, а подають його як самоочевидний критерій для висновку про «антисемітизм». Вони припускаються класичної помилки спостерігача, намагаючись видати зсув власних оціночних окулярів за ваду вимірювального приладу.
Тим часом самі результати експерименту нічого подібного не доводять. Вони лише чесно підтверджують: сучасний текстовий корпус пов’язує єврейські імена з атрибутами людини Модерну – цілісної, цілеспрямованої та компетентної.
Головний висновок цієї історії стосується зовсім не алгоритмів машинного навчання. Він стосується трансформації гуманітарної науки. Дослідження мимоволі розкрило не особливості алгоритмів ШІ, а глибокий ціннісний зсув усередині частини академічного середовища, де традиційні чесноти вільного суспільства перестають сприйматися як чесноти, а їхнє місце посідає вельми специфічна система поглядів. І саме цей зсув оптики, а зовсім не робота нейромереж, заслуговує сьогодні на найпильнішу увагу.
