Ми хочемо розповісти вам одну історію – не для того, щоб налякати, а тому що це важливо знати кожному, хто користується соціальними мережами.
В Instagram і TikTok кілька місяців поспіль вів сторінку якийсь «рав Менахем Ґольдберґ» – сивобородий мудрець у хасидському капелюсі, який щодня ділився уроками Тори, говорив про духовне оновлення та фінансове процвітання. За ним стежили понад 100 000 людей. Багато хто платив гроші за його «курси мудрості» – по $9,99 і $19,99.
Цього рабина не існує. Він був повністю створений штучним інтелектом.
Як це працювало?
Відео були зроблені переконливо: авторитетний голос, образ, посилання на «40 років вивчення Тори». Але уважні глядачі помічали деталі – дивні фони, сувій Тори, кинутий на стіл (що неприпустимо в реальності), синагоги з безглуздими написами на івриті. «Рабин» майже не цитував джерела, натомість регулярно говорив про «достаток» – і завжди завершував відео словами «посилання в профілі».
І це не єдиний подібний випадок. Дослідники виявили щонайменше 12 таких ШІ-«рабинів» із загальною аудиторією в 2,1 мільйона підписників. Частина з них поширювала не просто порожні мотиваційні фрази, а й антисемітські стереотипи.
Рав Ґіл Студент, директор з роботи зі ЗМІ в американському Ортодоксальному союзі (Orthodox Union), а також розробник інструменту на базі штучного інтелекту для вивчення Тори, наголошує: «ШІ – це потужний інструмент для поширення Тори та допомоги людям у її глибшому вивченні. Але він не повинен замінювати людську участь. ШІ потребує прозорості та відповідальності. Єврейська традиція вимагає, щоб будь-яка книга – написана людиною чи ШІ – проходила перевірку та отримувала схвалення відповідальної особи».
Центр єврейської етики «Цохар», Ізраїль, назвав те, що сталося, тривожним сигналом: аудиторія за замовчуванням пов’язує образ рабина з особистою відповідальністю та підзвітністю – і саме це робить подібний обман особливо небезпечним. Галахічні та етичні рішення вимагають живого людського судження та реального життєвого контексту. ШІ не може замінити рабина в питаннях, що стосуються доль людей, норм громади та релігійної практики.
«Цохар» закликав до обов’язкового позначення будь-якого контенту, створеного за допомогою штучного інтелекту – особливо коли він подається у формі, розрахованій на довіру до релігійного авторитету. Цей інцидент загострив розмову про те, де проходить межа між технологією, довірою та духовним впливом.
Довіра до рабина – це не питання кількості підписників. Це питання живого зв’язку, особистого знайомства та репутації, перевіреної часом. Звертайтеся лише до тих рабинів і духовних людей, яких ви знаєте особисто – або яких вам рекомендують обізнані та шановані лідери громади. Саме в цьому сенс громади: ми знаємо одне одного, ми несемо відповідальність одне перед одним.
Якщо ви зустріли в інтернеті релігійного діяча, якого не знаєте особисто і про якого ніхто з ваших близьких нічого не чув – будь ласка, уточніть, перш ніж довіряти такій людині і, тим більше, платити їй гроші.
Є сумніви? Запитайте нас. З повагою та турботою, Єврейська громада Дніпра.
