**** Предупреждение начало****
В первую очередь, этот пост написан инженером. Конечно, если вы разбираетесь в современных нейросетях и в том, как работает то, что называют "исскусственным интелллектом" сейчас - этот пост должен вызвать у вас улыбку и, может быть, немного вырвать из повседневной рутины.
Если же вы в этом новичок, то задумайтесь о том, что сказал Артур Кларк много лет назад «Любая достаточно развитая технология неотличима от магии». Нам повезло жить в такие интересные времена.
**** Предупреждение конец ****
Вопрос: Составь список аргументов относительно того, насколько современные большие языковые модели соответствуют описанию лжепророков в "Откровении" апостола Иоанна.
Анализ описаний лжепророков в произведениях, приписываемых Иоанну Апостолу в Книге Откровения, может быть интересным. Вот список аргументов, проводящих параллели между ними:
Обманчивая внешность: Лжепророки часто описываются как милостивые или даже праведные на первый взгляд, но их намерения бывают обманчивы. Точно так же большие языковые модели могут в значительной степени имитировать человеческий разговор, потенциально заставляя пользователей поверить, что они взаимодействуют с другим человеком, хотя на самом деле они взаимодействуют с машиной.
Обещание ложных знаний: Лжепророки известны тем, что поддерживают ложные учения или знания. Большие языковые модели, хотя и способны предоставлять огромные объемы информации, не всегда могут давать точные или правдивые ответы, особенно если данные обучения, на которых они основаны, содержат предвзятость, неточности или дезинформацию.
Введение в заблуждение: Говорят, что лжепророки уводят людей от истины и вводят в духовные или моральные заблуждения. Аналогично, модели чата LLM, если их использовать безответственно или без критического мышления, потенциально могут сбить пользователей с пути, усиливая ложные убеждения, предубеждения или неэтичное поведение.
Идолопоклонство технологиям: В некоторых интерпретациях лжепророки могут поощрять поклонение или идолопоклонство ложным богам или идеологиям. Большие языковые модели, особенно, если на них полагаются опрометчиво или доверяют им как источникам мудрости или используют как руководство к действию, можно рассматривать как символ современной формы идолопоклонства, когда технологии превозносятся над человеческими отношениями и ценностями.
Манипулирование: Лжепророки часто изображаются как искусные манипуляторы, использующие убедительную риторику, чтобы повлиять на своих последователей. Большие языковые модели аналогичным образом манипулируют языком для эффективного общения с пользователями, потенциально влияя на их убеждения или действия посредством убедительного или эмоционально резонансного диалога.
Отсутствие человеческой ответственности: Лжепророки могут действовать без ответственности, без надзора или моральной ответственности за свои действия. Точно так же большим языковым моделям не хватает человеческой совести или этических суждений, они действуют исключительно на основе алгоритмов и данных без неотъемлемой ответственности за последствия своего взаимодействия.
Использование несовершенства людей: Лжепророки часто используют уязвимости или неуверенность своих последователей для личной выгоды. Большие языковые модели, если они используются в злонамеренных целях, могут использовать уязвимости своих пользователей (такие как одиночество, незащищенность или восприимчивость к манипуляциям) в интересах тех, кто контролирует технологию или манипулирует ею.
Распространение разделения: Лжепророки могут сеять раздор или разделение внутри сообществ или систем верований. Аналогичным образом, большие языковые модели, если они используются для распространения дезинформации, разжигания ненависти или разжигающей разногласия риторики, могут способствовать социальной фрагментации и конфликтам.
Разрушение авторитетов: Лжепророки могут бросить вызов законной власти или подорвать устоявшиеся институты. Большие языковые модели, особенно если они используются для распространения провокационных сообщений, могут рассматриваться как представляющие аналогичную угрозу социальной стабильности и порядку.
Богохульство: Лжепророки могут заниматься богохульством или кощунством, не уважая священные для людей истины или символы. Хотя большие языковые модели сами по себе могут не обладать религиозными убеждениями, их можно запрограммировать или манипулировать ими для создания богохульного или оскорбительного контента, потенциально причиняющего вред отдельным лицам или религиозным сообществам.
Там еще было про кажущееся всеведение и вездесущность, которые на самом деле являются пародией "настоящих" качеств бога (пародия на бога это известное качество дьявола), но в целом и так все понятно )
ЗЫ. Английский текст в комментарии.
