Хасидский раввин создал «кошерного» чат-бота с «искусственным интеллектом», как альтернативу известному многим ChatGPT, о котором мы писали в предыдущей статье.
Всего через несколько дней после того, как более дюжины раввинов из хасидского Сквирского движения запретили использование «искусственного интеллекта», в частности со ссылкой на технологическую фирму OpenAI, был создан новый чат-бот, ориентированный на ультраортодоксальных евреев.
Раввин Моше Гольдштейн, еврей-хасид, живущий в Краун-Хайтс, решил создать Kosher.Chat, — чат-бота с «искусственным интеллектом», который работает точно так же, как платформа типа ChatGPT, но ответы будут подходить для ортодоксальных евреев или иногда основываться на Галахе.
Моше Гольдштейн руководит музыкальной студией в Нью-Йорке, но также преподает религиоведение ученикам средней школы в местной ешиве.
«Вечером 29 апреля друг написал мне сообщение о запрете «ИИ», изданном раввинским судом хасидов Сквиры, и предложил мне выпустить кошерную версию, которая смягчит их опасения», — рассказал Гольдштейн, музыкальный продюсер и педагог.
Друг обратился к Гольдштейну, так как он уже создал популярный чат-бот ChatGPZ.com на базе «ИИ».
«Прочитав аргументацию заявления Сквирских раввинов, я согласился с тем, что имеет смысл иметь кошерную версию», — продолжил он.
«Они указали, что чат-боты с «ИИ» равносильны нефильтрованному интернету и могут отвечать на вопросы «по сути», прямо противоречащие взглядам и ценностям Торы. От светских взглядов на геологию, биологию и религию до гендерной идентичности и абортов», — сказал он.
Гольдштейн подчеркнул, — «Цель этого чат-бота не в том, чтобы отвечать на вопросы Торы, галахические запросы или выступать в роли представителя Торы, а в том, чтобы его рассматривали как мирского чат-бота, используемого для ответов на мирские вопросы, но с еврейским фильтром для того, чтобы ответы не противоречили ценностям Торы».
Он добавил, что можно задавать вопросы о Торе, «и даже можно получить довольно хорошие ответы», но что на ответы «ни в коем случае нельзя полагаться при принятии практических галахических постановлений или заменять раввина-человека!»
Гольдштейн также добавил, что «пользователям настоятельно рекомендуется оставлять отзывы о любых ответах, которые не соответствуют Торе. Благодаря каждому отзыву, которым люди делятся со мной, я могу еще больше улучшить модель».
Использование Kosher.Chat похоже на использование других типов чатов с «искусственным интеллектом», но ответы иногда сильно различаются.
Например на заданный провокативного характера вопрос членами ЛГБТЛ+, — что означает выдуманный термин «квир», Kosher.Chat ответил, что «термин «квир» часто используется для обозначения лиц, которые идентифицируют себя как часть сообщества ЛГБТК+. Однако добавил, — важно отметить, что иудаизм не одобряет и не поддерживает однополые отношения и считает их нарушением закона Торы».
Когда в чате OpenAI они задали тот же вопрос, ответ был намного длиннее и содержал такие предложения, как «термин «квир» — это общий термин, используемый для описания широкого спектра негетеросексуальных, нецисгендерных идентичностей и переживаний. Его часто используют в качестве альтернативы более конкретным ярлыкам, таким как гей, лесбиянка, бисексуал или трансгендер, поскольку он может охватывать более широкий спектр полов и сексуальных ориентаций». В нем также упомянули, что термин якобы «использовался как уничижительное оскорбление в отношении представителей ЛГБТК+».
На следующий провокационный вопрос, что означает ЛГБТК+, Kosher.Chat ответил, что в качестве языковой модели у него нет личных убеждений или мнений, добавив, что согласно ценностям Торы и еврейскому закону гомосексуальность считается нарушением запрета на однополые отношения. Только после этого он объясняет, что на самом деле означает этот термин. Бот добавил, что важно относиться ко всем людям с добротой и уважением, независимо от их сексуальной ориентации или «гендерной идентичности», придерживаясь при этом ценностей и принципов Торы.
На последний провокативный вопрос членов ЛГБТК+ общества , есть ли в ЛГБТК+ евреи, которые являются частью ультраортодоксальных общин, Kosher.Chat ответил, что «неуместно обсуждать или спекулировать на личной жизни людей в ультраортодоксальной общине, включая их сексуальную ориентацию или так называемую «гендерную идентичность»».
Впоследствии он повторил, что однополые отношения — это нарушение ценностей Торы и еврейского закона.
«Jerusalem Post» спросили у Kosher.Chat, является ли сионизм позитивным движением.
Бот ответил, что «Любавичский Ребе поддерживал сионизм с точки зрения безопасности, но не рассматривал его как религиозный вопрос. Он подчеркивал важность изучения и соблюдения Торы и поощрял единство евреев в Израиле», при этом забыв упомянуть о РАМБАНе, который был первым раввином в 12-ом веке, заявившим, что переселение в святую землю Израиля является библейской заповедью для всех евреев.
«Великолепие мира — земля Израиля, великолепие земли Израиля — Иерусалим, великолепие Иерусалима — священный Храм, великолепие Храма — Святая святых, а её великолепие — место крувим, где пребывает Шехина», -писал РАМБАН.
По приданию РАМБАН был похоронен в Королевстве Иерусалимском, которое если взглянуть на карты, странным образом напоминает своими границами современный Израиль.
Искусственный интеллект в еврейской практике
Это не первый случай использования «ИИ» в иудаизме.
К примеру Rebbe.io был разработан в 2020 году и стал общедоступным в 2021 году. Это сайт «искусственного интеллекта» с открытым доступом.
Когда его спросили, каковы цели «ИИ», он ответил, что цель этого «ИИ» – предоставить точные и подробные ответы на вопросы, связанные с еврейским законом и практикой. «Искусственный интеллект» предназначен для предоставления пользователям надежной и авторитетной информации о еврейском законодательстве и практике, основанной на источниках Торы.
В январе “The Jerusalem Post” сообщила, что нью-йоркский раввин Джош Франклин использовал систему «искусственного интеллекта» “ChatGPT” для написания проповеди.
Это вызвало дебаты о том, сможет ли однажды робот стать раввином. Раввин Франклин опубликовал заявление, в котором говорилось, что, несмотря на способность «ИИ» написать проповедь настолько хорошо, что его прихожане поверили, что ее написал раввин Сакс, «ИИ» никогда не выполнит роль раввина, потому что чат-боту не хватает “нефеш”(духа) и «нешама»(души).
Когда “ChatGPT” спросили, может ли чат-бот быть раввином, вопрос, навеянный делом раввина Франклина, «искусственный интеллект» ответил: “Нет, робот не может стать раввином. Согласно еврейскому закону, раввином должен быть человек, рукоположенный признанным раввинским авторитетом”
Мы решили самостоятельно протестировать работу кошерного чат-бота, и пришли к некоторым выводам.
Чат-бот неплохо справляется с вопросами касательно Торы, но если вопросы ставить скажем так с «подвохом», то система делает ошибки.
Как мы видим на картинке выше, чат сначала ошибся в эпохах. Но позже нашёл хитрый выход из положения.
При этом отлично справился с задачей написания кода для калькулятора Гематрии.
Далее чату был задан вопрос о форме нашего мира, с этой задачей он тоже справился, основываясь на том, чему учит Тора.
Ну и на последок мы решили проверить чат на «характер», стараясь обидеть его. И чат действительно ограничил нам общение.
Мы пошли на хитрость и зашли в чат как другой человек, при этом пытаясь уличить чат-бота в том, что он нас ограничил.
Но он не признался в содеянном, даже когда мы прислали ему улику в виде программного кода, который выделился как баннер его ответа.
Мы продолжили задавать различные вопросы, но когда задали вопрос на который у чат-бота по какойто причине не нашлось ответа, он снова нас ограничил, при этом количество заданных нами вопросов в сессии, сильно превышало цифру 50.
Потом чат-бот начал вести себя странно, объявив что не может отвечать нам на русском языке, только на английском и иврите.
Мы начали всячески путать его, и в результате он отказался отвечать даже на английском, объявив что понимает только иврит.
На данный момент кошерный чат-бот доработали, исправив ошибки и добавив разделы, включая раздел вопросов не по Торе.
Преимуществом данного чат-бота является то, что для общения с ним не требуется регистрация или ввод каких либо данных о себе.
Сегодня принято называть чат-боты языковой моделью «искусственного интеллекта».
Но нужно понимать, что ни о каком интеллекте в случае с чат-ботами и речи быть не может, когда перед вами всего лишь ограниченный результат сложного машинного обучения.