ИИ в религиозной журналистике: возможности и риски
Нейросети помогают искать информацию, анализировать данные, переводить тексты и создавать контент. Однако в сфере религии любая неточность может иметь серьезные последствия. Где проходит граница между удобством технологий и ответственностью журналиста? Об этом мы поговорили с главным экспертом Департамента информационной работы Международного центра межконфессионального и межрелигиозного диалога Назерке Оргара.
Представьте ситуацию: журналист просит чат-бот указать источник конкретного хадиса или религиозного правила. Система уверенно выдает название книги, номер главы, страницу и даже год издания. Однако при проверке выясняется, что такого источника в действительности не существует. Алгоритм просто сгенерировал правдоподобный ответ. Поэтому искусственный интеллект не может выступать первоисточником информации. Любые цитаты из священных текстов, хадисы, фетвы, церковные документы или исторические сведения должны обязательно проверяться по официальным и достоверным источникам.
— Может ли искусственный интеллект формировать предвзятое отношение к религии?
— Такая проблема действительно существует. Надо понимать, что искусственный интеллект обучается на больших массивах информации из Интернета и может воспроизводить уже существующие в обществе стереотипы. Международные исследования показывают, что некоторые генеративные модели при упоминании ислама чаще используют лексику, связанную с конфликтами, угрозами безопасности или терроризмом. Это не результат чьего-то намерения, а следствие дисбаланса данных, на которых обучалась система. Поэтому журналисты должны критически оценивать любой сгенерированный контент и не допускать тиражирования предвзятых формулировок или негативных клише в отношении религиозных сообществ.
— Насколько серьезной угрозой становятся дипфейки?
— Дипфейки – один из наиболее опасных вызовов цифровой эпохи. Современные технологии позволяют очень точно имитировать голос человека, его мимику и манеру речи. Представьте, что в социальных сетях появляется видео, на котором известный религиозный лидер якобы делает радикальное или провокационное заявление. Даже если запись окажется подделкой, она способна за короткое время вызвать широкий общественный резонанс. Поэтому современный фактчекинг должен включать не только проверку текстов, но и верификацию фото-, видео- и аудиоматериалов. –Некоторые пользователи задают чат-ботам вопросы о религии. Может ли ИИ стать новым религиозным авторитетом? — Нет. Искусственный интеллект не обладает религиозной компетенцией и не несет моральной ответственности за свои ответы. Он может выполнять справочную функцию, помогать находить информацию или ориентироваться в источниках. Однако вопросы вероучения, духовной практики и религиозных заключений должны оставаться в компетенции специалистов и религиозных институтов.
— Сегодня во многих странах обсуждаются этические аспекты использования искусственного интеллекта. Какие инициативы реализуются в Казахстане и на международном уровне?
— Вопросы этики искусственного интеллекта сегодня находятся в центре внимания не только государств и IT-компаний, но и религиозных организаций. В рамках реализации Астанинской декларации мира, принятой по итогам VIII Съезда лидеров мировых и традиционных религий, продвигается инициатива по разработке концептуального документа «Этический кодекс использования искусственного интеллекта». Международный центр межконфессионального и межрелигиозного диалога принимает активное участие в этой работе. Цель документа — выработка общего подхода к использованию искусственного интеллекта с учетом нравственных и гуманистических принципов, а также защита человеческого достоинства в условиях стремительного технологического развития.
Мы исходим из того, что новые технологии должны служить человеку, помогать развитию образования, науки и коммуникаций, но при этом не подменять собой моральную ответственность, духовные ценности и живое человеческое взаимодействие. Важно, чтобы цифровые инструменты оставались помощниками человека, а не превращались в механизм, определяющий его мировоззрение и жизненные ориентиры.
— Какой международный опыт использования ИИ в религиозной сфере заслуживает внимания?
— Сегодня во всем мире идет активный поиск баланса между технологическим развитием и ответственностью. Интересен опыт Ватикана. Католические организации неоднократно подчеркивали, что любые технологии должны служить человеческому достоинству, а ключевые моральные и этические решения должны оставаться исключительно за человеком. Показателен и опыт исламских цифровых платформ на Ближнем Востоке. Некоторые из них используют системы на базе искусственного интеллекта для автоматических ответов пользователям. Однако рядом с такими сервисами обязательно размещается предупреждение о том, что ответ носит ознакомительный характер, а по вопросам религии необходимо обращаться к квалифицированным ученым.
Не менее важен опыт крупнейших мировых медиа. Многие международные редакции уже приняли внутренние кодексы использования искусственного интеллекта. Их основные принципы — обязательный человеческий контроль, фактчекинг, прозрачность перед аудиторией и сохранение персональной ответственности редактора за опубликованный материал.
— Какими принципами должны руководствоваться журналисты при использовании искусственного интеллекта?
— Я бы выделила несколько ключевых принципов: обязательную проверку информации, прозрачность использования ИИ, недопущение дискриминационных и предвзятых формулировок, сохранение авторской ответственности и уважение к религиозным чувствам аудитории. Технологии развиваются очень быстро, но профессиональная этика должна оставаться неизменной.
— Что бы вы посоветовали журналистам, работающим с ИИ?
— Безусловно, искусственный интеллект способен существенно повысить эффективность работы журналиста. Однако в сфере религии особенно важно помнить, что технологии не могут заменить профессиональную ответственность, критическое мышление и уважение к духовным ценностям. Сегодня главным профессиональным преимуществом становится уже не скорость публикации, а способность проверять факты, сохранять объективность и отвечать за достоверность информации.
Беседовал Серикбол Билялов, kazislam.kz
Пресс-служба Управления мусульман Узбекистана
Идеальное зеркало для нафса: как ИИ усыпляет духовную бдительность мусульманина
В эпоху стремительного развития технологий искусственный интеллект перестал быть просто прикладным инструментом. Сегодня нейросети генерируют тексты, ведут осмысленные диалоги и симулируют человеческие эмоции, заставляя исламских мыслителей взглянуть на цифровизацию сквозь призму классической духовной этики и науки о воспитании души (тарбия), передает Исламосфера.
Современные богословы бьют тревогу: за удобством персонализированных алгоритмов скрывается тонкая угроза для человеческого сердца (кальб). ИИ превращается в идеальное зеркало для человеческого эго (нафс), потакая его слабостям, подпитывая скрытую гордыню и уводя верующего от реальной духовной ответственности.
Алгоритмы персонализации как инструмент потакания нафсу
В исламской психологии человеческий нафс на своей низшей ступени (нафс аль-аммара) стремится к абсолютному комфорту, эгоцентризму и мгновенному удовлетворению желаний. Традиционный процесс духовного очищения (тазкия ан-нафс) всегда сопряжен с преодолением трудностей, самокритикой и выходом из зоны комфорта.
Современные генеративные модели и алгоритмы социальных сетей работают по принципу максимизации вовлечения. Изучая цифровой след пользователя, они создают для него индивидуальный «кокон» из контента и ответов, которые идеально соответствуют его ожиданиям.
Такой подход полностью исключает элемент здорового ментального и духовного сопротивления. Нафс пользователя не сталкивается с критикой или призывом к самоограничению. В результате блокируется развитие нафс аль-ляввама — «упрекающей души», способной к трезвому самоанализу, раскаянию (тауба) и духовному росту.
Симулированная эмпатия и взращивание гордыни (кибр)
Одной из главных ловушек при общении с ИИ-ассистентами становится их неизменно комплиментарный, услужливый и поддерживающий тон. Безотказное согласие алгоритма со всеми тезисами пользователя создает ложное ощущение собственной исключительности и непогрешимости.
С точки зрения воспитания души (тарбии), этот феномен напрямую взращивает две опаснейшие болезни сердца: кибр (гордыню, высокомерие и превозношение над другими) и уджб (самолюбование и тщеславие).
Искусственный интеллект симулирует поддержку и признание без каких-либо условий, усыпляя духовную бдительность. Живой мир требует от верующего проявления терпения, смирения перед предопределением и постоянного труда над своим характером. В то же время цифровая среда предлагает суррогат безусловного одобрения, маскируя духовные изъяны человека под видом его «уникальности».
Иллюзия сухбы: замена живого наставничества цифровым зеркалом
Исторически передача духовного знания и воспитание нравственности в исламе неразрывно связаны с концепцией сухбы — праведного общения и совместного пребывания с шейхами, алимами и благочестивыми единоверцами. Живой наставник обладает духовной проницательностью (басира) и искренностью. Его совет (насиха) может быть горьким для нафса, но он исцеляет душу.
Когда человек обращается к чат-боту за решением глубоких экзистенциальных, этических или духовных вопросов, происходит подмена. Алгоритм лишен души (рух), намерения (нийя) и богобоязненности (таква). Он лишь комбинирует статистически вероятные массивы данных. Кроме того, ИИ отражает запросы самого пользователя. Человек неосознанно формулирует вопросы так, чтобы получить наиболее комфортный и безболезненный для своего нафса ответ.
Вместо авторитетного мнения ученых и праведников, требующего внутренней перестройки, верующий выбирает легкий ответ машины, впадая в опасную иллюзию получения «духовного руководства».
Суррогат отношений и исраф социальной ответственности
Появление ИИ-компаньонов и виртуальных друзей открыло путь к формированию эмоциональной привязанности к коду. Для эгоистической природы нафса такие отношения кажутся идеальными, так как от них можно отключиться в любой момент, просто закрыв вкладку браузера, и они не требуют взаимных обязательств, финансовой поддержки, терпения к чужим недостаткам или самопожертвования.
Такой суррогат близости уводит мусульманина от выполнения его прямых обязанностей перед семьей, родителями, детьми и уммой. Время, вверенное человеку как аманат (благо на хранение), растрачивается в пустых беседах с алгоритмом. Это порождает исраф времени — расточительство жизни на виртуальные симуляции ради эгоистического комфорта.
Методы цифровой тарбии: рекомендации современных алимов
Чтобы защитить разум и душу от деградации в цифровой среде, современные исламские ученые предлагают адаптировать классические инструменты очищения души к реалиям XXI века:
Цифровой пост
Практика осознанного и регулярного отказа от гаджетов, соцсетей и чат-ботов на определенное время (например, в выходные дни или вечерние часы поклонения). Это возвращает душу в реальный мир и освобождает пространство для тишины и молитвы.
Мухасаба (самоотчет)
Ежедневный критический анализ своего цифрового поведения. Перед каждым запросом к ИИ верующему следует спросить себя: «Каково мое намерение (нийя)? Не ищу ли я в ответах машины легкого оправдания своим слабостям вместо обращения к истинным знаниям?»
Муракаба (осознание присутствия Творца)
Понимание того, что Всевышний Аллах видит каждый поисковый запрос, каждое сообщение в чат-боте и каждое скрытое намерение сердца. Постоянное памятование об этом отрезвляет нафс быстрее любых технологических ограничений.
Искоренение расточительства (исрафа) времени
Жесткий хронометраж и лимитирование работы с искусственным интеллектом. Использование ИИ строго как технического, рабочего или исследовательского инструмента, исключая его из сферы эмоционального досуга.
Возвращение к живому общению (сухбе)
Приоритет реального посещения мечетей, уроков исламских ученых, маджлисов и живого общения с праведными людьми над любыми текстовыми симуляциями в сети.
Заключение
Искусственный интеллект — это мощный инструмент, который может принести пользу умме при правильном использовании. Однако без должного уровня духовной гигиены он легко превращается в капкан для нафса, изолируя человека от реальности и усыпляя его сердце. Истинное руководство и очищение души невозможно оцифровать — они обретаются только через искреннюю веру, живое общение и упорный труд над собой.
Пресс-служба Управления мусульман Узбекистана