Во вторых, у людей в отношении ИИ есть замечательный способ: все, что последний научился делать они объявляют простым и неинтеллектуальным. Долгое время считали, что только универсальный ИИ сможет обыграть человека в шахматы. А как обыграл - "ну, это просто перебор, это алгоритмы...". Кто сказал, что в голове человека не алгоритмы? Говорили про творчество. Сейчас что мы наблюдаем в нейросетях? Рисование тоже скоро объявят неинтеллектуальным занятием.

...это никак не объяснить взаимодействием клеток, химическими реакциями и так далее...

То, что мы сейчас что-то не знаем и не умеем, не значит, что это невозможно.

Явно или неявно, но мы понимаем, что мы не сводимся к взаимодействию клеток, молекул и т.д., что есть что-то ещё. Что-то ещё, что религия назовёт душой.

Повышение сложности порождает новые явления. Один электрон - это просто электрон. Много - это ток, который зажигает лампочку и порождает магнитное поле. И это никого не удивляет.
Почему с человеком должно быть иначе?

И если мы в конечном итоге не можем дать научное объяснение абсолютно всему...

А мы никогда и не сможем. Наука будет развиваться бесконечно. Нельзя познать все. Мало того, все познания по сути своей ошибочны. Наука живет в состоянии исправления своих ошибок. Сначала Галилей и Лаплас, потом Ньютон, потом Эйнштейн, потом еще кто-нибудь будет. И так во всем. И это нормально.

...то религия становится вполне рациональным выбором.

Выбором чего? Религия не дает знания, она требует веры. А вера, по сути, противоположна знанию.

Вот хорошее сравнение (не мое): Я верю своей жене. Но я не знаю, изменяет ли она мне. Я могу нанять детектива. Он проследит за ней и скажет точно - не изменяет. Я буду знать. Могу ли я после этого сказать, что верю ей?

Собственно, все мои знакомые, считающие себя христианами, не читали Библию. Тоже о чем-то говорит.

Другой вопрос — это существование сознания. Под сознанием мы, вообще говоря, неявно понимаем две разные вещи. Первая — это достаточный уровень интеллекта, позволяющий обладать информацией о собственном существовании, о существовании окружающего мира и т.д. Но это не всё, что мы под этим понимаем. Для нас очевидна разница между живым человеком, который реально чувствует радость и боль, и машиной, которая может быть достаточно сложной и имитировать в той или иной степени поведение и реакции человека, но для нас понятно, что её реакции — это не чувства, это просто выполнение сложной программы. И мы сами именно чувствуем радость, боль и так далее, это никак не объяснить взаимодействием клеток, химическими реакциями и так далее, мы не биокомпьютеры, которые выдают некие реакции на входящие воздействия (пусть и очень сложные), мы что-то большее. И если представить такой мысленный эксперимент: взять человека, уничтожить его, а потом воссоздать точно такого же, с идеальной точностью, будет ли это тот же человек? Наверняка большинство не согласились бы на такой эксперимент, потому что не были бы уверены в том, что в результате получились бы именно они же, а не кто-то другой, с той же внешностью и памятью. Явно или неявно, но мы понимаем, что мы не сводимся к взаимодействию клеток, молекул и т.д., что есть что-то ещё. Что-то ещё, что религия назовёт душой. И, возможно, религии существуют именно потому, что люди чувствуют, что не являются просто некими сложными биомеханизмами, и ищут этому объяснение. «Очень сложный, но бездушный механизм» — мы ведь сразу поняли смысл фразы? А если бы мы были очень сложными, но бездушными, механизмами, мы бы не увидели разницу между этим описанием и собой.

И если мы в конечном итоге не можем дать научное объяснение абсолютно всему (не можем объяснить свойства той или иной первоосновы), если мы неявно, но понимаем, что не являемся бездушными существами, то религия становится вполне рациональным выбором.