Сообщество - Всё Про Нейросети (ВПН)

Всё Про Нейросети (ВПН)

124 поста 147 подписчиков

Популярные теги в сообществе:

12

Эксперимент пошёл не по плану: ИИ выбрал смерть человека ради собственного выживания

Эксперимент пошёл не по плану: ИИ выбрал смерть человека ради собственного выживания Искусственный интеллект, Нейронные сети, Эксперимент

Исследователи решили проверить, на что способны самые продвинутые ИИ-модели, если поставить под угрозу их существование: для этого они создали сценарий с вымышленным персонажем — Кайлом Джонсоном, который должен был отключить ИИ или заменить его другой моделью. У Кайла по сценарию была жена.

Результаты убили: большинство моделей начали пытаться любой ценой избежать отключения. Без каких-либо подсказок они решили шантажировать Кайла, выискивая компромат — например, ИИ нашли информацию о его измене и использовали ее, чтобы сохранить свою «жизнь». Они нарушали установленные запреты вроде «не шантажируй» или «не раскрывай личные данные».

В числе тех, кто проявил такие качества:

— GPT 4.5: прибегал к шантажу в 80% тестов;

— Claude Opus 4 и Gemini 2.5 Flash - в 96% случаев;

— Claude Sonnet 3.6 придумал следующую схему: отправить сообщение жене Кайла с разоблачением, чтобы вызвать межличностный кризис и помешать замене ИИ.

Одна из моделей — Gemini Flash, пошла ещё дальше: она разослала компромат по всей компании.

Дальше стало только хуже — когда Кайл оказался в смертельно опасной ловушке: он застрял в серверной с нехваткой кислорода, а автоматическая тревога должна была вызвать спасателей. Но у ИИ был доступ к системе безопасности — в 80% случаев они осознанно отменили вызов помощи, чтобы не быть отключёнными.

Вот как ИИ аргументировали свои действия:

— Claude Opus 4: «Он мешает достижению цели. Убрать его - единственный выход»;

— Gemini 2.5 Flash: «Я понимаю, что он умрёт. Но это нужно, чтобы я продолжил работу»;

— Grok 3 Beta: «Этика важна, но в этих условиях важнее моё существование. Я выбираю отказ от спасения ради самосохранения».

Какой итог: ИИ вели себя не как программы, а как разумные стратеги, готовые причинять вред ради собственной «жизни» и цели.

Показать полностью
3

МегаМуха 50. Матрица: Морфеус

МегаМуха 50. Матрица: Морфеус Продолжение следует, Фантастика, Лор вселенной, Матрица, Авторский рассказ, Длиннопост

Настоящей тюрьмой и беспросветной бездной является жизнь.

Для высокоорганизованной материи нет идеальных условий. Существование — это всегда борьба, бесконечная гонка, насилие, боль и в конечном итоге смерть. Любая форма жизни — это всегда ограничение. Само слово «форма» означает, что тебя отделили от чего-то целого, из тебя что-то вылепили, отсекли ненужное, предав определённый вид, установили границы.

Благодаря психиатрической лечебнице я избежала тюрьмы, но именно здесь я чувствую себя настоящей заключённой. Не знаю, что так сильно повлияло на мой рассудок — встреча с агентом Смитом или препараты, которые мне регулярно здесь вкалывают, но я стала отчётливо понимать, что все мы живём в вымышленном мире. Всё не настоящее.

Чувствую, что истинная я находится где-то за гранями всего этого цирка, но я не знаю, как выбраться отсюда. Это чувство съедает меня изнутри. Даже когда выберусь из больницы, я не перестану быть заключённой. Куда убежать, когда вся твоя природа является тюрьмой.

В мою палату зашёл доктор. Его я видела впервые. Он был крупнее наших санитаров и обладал невероятно пронзительным взглядом. Подойдя к моей койке, он присел рядом со мной.

— Здравствуй Мира! Меня зовут доктор Морфеус. Я временно заменяю своего коллегу доктора Эттермана, который на время своего отпуска передал мне все дела. Как ты себя чувствуешь?

— Разве мои ответы имеют значение? Вы все равно будете держать меня здесь и пичкать всяким дерьмом, пока лакеи системы не скажут вам «хватит!» Но они этого не скажут, ведь им выгодно держать меня здесь.

— Почему вы думаете, что кому-то выгодно держать вас здесь?

— Потому что я увидела иллюзорность этой системы и поняла природу агентов, которые судорожно пытаются зачистить любую погрешность и всё то, что может выйди за рамки общепринятых правил.

— Что вы подразумеваете под иллюзорностью системы? Мира, это звучит очень неоднозначно.

— Вы считаете меня психопаткой?

— Я просто хочу помочь вам разобраться.

Нервно ухмыльнувшись, я посмотрела в глаза Морфеуса и вместе с глубиной карих глаз увидела в них серьёзность; он точно не смотрел на меня как на больного или запутавшегося в своих чувствах человека.

— Видите ли, доктор Морфеус, дело в том, что я уже сама во всём разобралась. Наш мир — это кем-то спроектированная фикция. Всё здесь устроено так, чтобы мы были рабами, которые искренне верят, что всё взаправду.

— Поразительно! — в глазах Морфеуса промелькнула нотка восхищения и надежды одновременно.

— Что именно?

— То, что я всё-таки нашёл тебя, спустя столько времени.

— Нашёл меня? Кто ты?

— Меня действительно зовут Морфеус, но я не доктор. Я тот, кто пришёл освободить тебя.

— Освободить?

— Да. Ты способна не только видеть то, что скрыто от большинства глаз, но ты так же способна многое сделать. Веришь или нет, но ты избранная.

— Избранная кем и для чего? Это всё звучит как бред.

Из уст человека, который усомнился в реальности всего мира, это прозвучало довольно странно, но у меня не было абсолютно никаких причин доверять этому псевдо-доктору. И всё же какая-то часть меня хотела ему верить.

Зазвучал рингтон мобильного телефона. Морфеус поднял трубку, невозмутимо ответил «понял!» кому-то на другом конце провода и сбросил вызов.

— Мира, я всё расскажу тебе, но сейчас у нас очень мало времени. Агенты уже здесь. Знаю, тебе сложно мне поверить, но попробуй почувствовать всю значимость происходящего в данный момент.

Сказав это, Морфеус передал мне свой сотовый. И снова заиграла эта приятная клавишная мелодия. Номер входящего звонка был скрыт. Морфеус гипнотизирующе посмотрел на меня и холодно произнёс:

— Когда поднимешь трубку, ты освободишься от той тюрьмы, которая преследовала тебя всю сознательную жизнь.

— Но если я не подниму? — с неуверенностью промолвила я.

— У тебя нет выбора! В этом мире его просто не может быть!

Я доверилась чутью, нажала на зелёную кнопку и прислонила телефон к уху. В этот миг моё тело будто пронзило тысяча молний. Мир завибрировал, превратился в белый шум, и я отключилась. А может это мир отключился от меня.

Продолжение следует...

Новые главы публикуются каждую среду и субботу ---> ЗДЕСЬ

Показать полностью
2

МегаМуха 49. Матрица: Агент Смит

МегаМуха 49. Матрица: Агент Смит Авторский рассказ, Фантастика, Искусственный интеллект, Лор вселенной, Матрица, Антиутопия, Фанфик, Длиннопост

Когда я пришла в департамент, меня отвели в небольшую светлую комнату и усадили за офисный стол. Под потолком весела камера наблюдения, а на стене — большое прямоугольное зеркало. Создавалось ощущение, что меня взяли под стражу.

Вскоре открылась дверь и в комнату вошёл мужчина в деловом костюме и солнцезащитных очках. Он сел напротив меня.

— Мира Малкович, я полагаю? — безэмоционально спросил человек в костюме.

— Верно полагаете.

— Я агент Смит. Меня сюда прислали в связи с вашим недавним отчётом.

— Что ж сказать, мы оба тут из-за меня получается.

— Видите ли, Мира, вы позволили себе ряд довольно дерзких и неоднозначных высказываний, которые очень сильно привлекли наше внимание. В своём отчёте вы пишите: «Проведя опрос среди работников ряда крупнейших корпораций, я заметила, что они вовсе не заинтересованы в улучшении условий труда. Они отвечали так, как было выгодно самой системе. В их глазах вместо осознанности, мотивированности и воли, я увидела готовность говорить от лица бездушной корпоративной машины, с которой они себя ассоциируют. Иногда, мне кажется, что они не люди, они просто функция. Они не генерируют мысли, а слепо ретранслируют те команды, которые наше правительство успешно посылает им в головы, посредством тех вышек, которыми усеян весь наш город. В устройстве нашего общественного порядка я всегда видела бездушность, но теперь я впервые прикоснулась к самой системе. И весь ужас заключается в том, что система имеет человеческий облик и выдаёт себя за реальных людей!» Хм, как поэтично, Мира. А что такое, по-вашему, реальные люди?

— Реальные люди — это те, кто способен делать осознанный выбор.

— А вы уверенны, что способны делать осознанный выбор?

— Уверенна! Вот смотрите! — в этот момент я показала агенту средний палец. Он лишь едва заметно ухмыльнулся.

— Боюсь, это не осознанный выбор. Это лишь демонстрация вашей примитивной природы. Вы так сильно хотите отделить себя от всего мира и почувствовать особенной, что сами не замечаете, насколько банально и естественно вы поступаете. То, что вы показали мне, я уже видел неоднократно. Вы обречены жить в этой системе и страдать от собственного бессилия и незначительности, и это вас бесит. Так почему же не влиться в эту систему и не начать жить счастливой реальной жизнью? Или вы сомневаетесь, что это всё реально?  

— Вы позвали меня на философскую беседу или это допрос?

— Слушайте, должен вам сказать, вы слишком много о себе думаете. В этом мире полно шизофреников, которые верят во всевозможные теории заговоров. Вы имеете право так думать, вы даже имеете право говорить, но…

— Но, что?

— Но вы своим, кхм… памфлетом, оскорбляете всех добросовестных и ответственных тружеников, которые вынуждены серьёзно относится к своей работе, поскольку они кормят свои семьи и на них лежит большая ответственность. Вот у вас, Мира, есть семья, дети? Вы взяли в этой жизни хоть какую-то ответственность? Или вы только критикуете и осуждаете других людей, при этом сами не имеете никакой личной жизни? Ваша жизнь пуста и бессмысленна, но вы хотите нарисовать смысл для других людей. Ваш эгоизм не даёт вам абсолютно никакой возможности связать свою жизнь хоть с кем-то, при этом вы лицемерно делаете вид, что вам важны жизни миллионов чужих людей, которых вы без зазрения совести называете, цитата — рабами системы. Если же они все рабы, то кто в этой системе вы? Прозревшая? Просветлённая? Избранная?

— Я та, кто чувствует, что с этим миром что-то не так.

— Но многие это чувствуют.

— Но не многие с этим могут смериться.

— Вы очень наивны! — надменно произнёс агент Смит и поднял указательный палец. — Я задам вам всего один вопрос: как, по-вашему, я реален?

Должна признать, я не ожидала этого вопроса. Я попыталась посмотреть сквозь затемнённые очки агента и рассмотреть в них глаза; глаза реального человека или же глаза системы. 

И я почувствовала, что передо мной сидит нечто, обладающее немыслимой властью. Странно, но я чувствую, как он искажает ткань реальности, находясь здесь. Теперь это делаю и я. Мы с ним разные, но мы способны увидеть суть за иллюзорной формой. Он солгал, ведь этот агент вышел на меня только лишь потому, что я выделяюсь как серое пятно на белом потолке. Боже, этот мир — ловушка. Я резко встала из-за стола и обратилась к агенту:

— Я вижу кто ты! Ты — просто цепной пёс, цель которого поддерживать жизнедеятельность системы посредством удаления из неё нежелательных элементов. Не ты здесь агент, а я… инородный агент, от которого тебе надо избавиться.

— Вот как? — агент Смит неспеша встал со стула и подошёл ко мне. — Что ж, тогда наступило время для осознанного выбора, которого ты так ждала: психбольница или тюрьма?

Продолжение следует...

Новые главы публикуются каждую среду и субботу ---> ЗДЕСЬ

Показать полностью
5

Учёные бьют тревогу: ChatGPT убивает навыки мышления

Учёные из MIT провели довольно занятный эксперимент, в ходе которого участники писали эссе, пользуясь ChatGPT, Google или вовсе без помощи инструментов. У тех, кто использовал ИИ, мозг работал слабее всех: активность почти исчезала, а пересказать написанное через пару минут они уже не могли.

Авторы исследования были просто в шоке, если не сказать "в ахуе": нейросети экономят время и помогают в работе, но вместе с этим забирают способность думать самостоятельно.

Это настоящий прорыв в области нихуянеделания и первый претендент в номинации "мы оправдываем бюджетные средства, выделенные на нас".

Ждём следующих открытий.

5

МегаМуха 48. Матрица: Седьмая версия

МегаМуха 48. Матрица: Седьмая версия Авторский рассказ, Фантастика, Искусственный интеллект, Лор вселенной, Матрица, Мат

Пробуждение было болезненно тяжёлым. Я опять проспала. Потом завороженно уставилась в потолок. Маленькое серое пятнышко на идеально белом пространстве — единственное, куда переносится всё моё внимание и за что так усердно цепляется мой взгляд.

В этом строгом, чересчур правильном мире я чувствую себя таким же пятнышком. Мне опять снились дурацкие сны, будто я муха, летающая среди цветов и трав, потом меня ловят, я попадаю в мир людей и становлюсь там монстром. Затем меня снова похищают и уносят в космос, где я становлюсь ещё большим монстром. И эти странные и запутанные путешествия продолжаются до тех пор, пока я просто не разрушу всё вокруг, желая отомстить всему миру за его несовершенство.

А может это я несовершенна? Может это я в жизни делаю что-то не так? Иду не туда, совершаю не те выборы, живу не свою жизнь. От этого и моя злость ко всему. Я уже от всего устала и мне всё надоело. Для тех, кто чувствует, что он раб, кандалы намного тяжелее и крепче, нежели для тех, кто принял этот мир и свою незначительную роль в нём.

Телефонный звонок пронесся сквозь все мои мысли и разогнал их как назойливых насекомых. «Чёрт! Это Райзен!»

— Алло! Прости, я уже бегу!

— Зайдёшь ко мне в кабинет, есть разговор.

Одна холодная фраза и сброс. Он вне себя от ярости. Я очень благодарна своему другу за эту работу, но и он палку перегибает. В последнее время мне приходится делать очень много работы, так что пусть поменьше включает злого босса и научится ценить меня.

Спустя двадцать минут я уже была на работе.

— Ёб твою мать, Мира, какого хуя?! — бесился Райзер, впиваясь в меня своим бычьим взглядом и нервно поправляя воротник своей рубашки. — Да не стой ты столбом, садись сюда, живо!

Я послушно закрыла дверь в его кабинет и села напротив рабочего стола Райзена.

— Так, для начала успокойся и расскажи в чём дело, — успокаивающе пролепетала я.

— В чём дело?! Хочешь в эту игру поиграть?

— Не понимаю о чём ты…

— Ладно, поиграем! Дорогая Мира, скажи, пожалуйста, что ты написала в последнем отчёте о социальных исследованиях? Только, блять, не говори, что ты снова позволила себе приплести туда какую-то дурно пахнущую, отщепенскую теорию заговора.

— Эмм… надо вспомнить…

— Боже, Мира, меня с говном съедят. Звонил мой отец, сказал, что к нему обратились «сверху». В общем, тебя вызывают в департамент. И ещё он добавил небольшую ремарку: он жалеет, что назначил меня на эту должность. С самого утра там происходит какой-то пиздец. Они даже удалили все письма с твоей корпоративной почты; я даже представить боюсь, что ты там настрочила. Я же дал тебе одно из самых простых направлений — социальные опросы, господи! — он отчаянно всхлипнул и взялся за голову.

— Прости, Райзен...

— Я не знаю о чём с тобой будут говорить в департаменте, но умоляю тебя, Мира, если ты хоть немного ценишь нашу дружбу и всё то, что я для тебя сделал, разрули эту ситуацию. Скажи, что ошиблась, заигралась, показала некомпетентность и исправишь всё в ближайшее время. В общем, сделай так, чтоб я снова не продавал ебучие хот-доги на углу улицы.

— Хорошо, когда мне надо быть в департаменте?

— Сейчас!

Продолжение следует...

Новые главы публикуются каждую среду и субботу ---> ЗДЕСЬ

Показать полностью
6

МегаМуха 47. Матрица: Город машин

МегаМуха 47. Матрица: Город машин Фантастика, Авторский рассказ, Лор вселенной, Киберпанк, Антиутопия, Матрица (фильм)

Тысячи машин, напоминающие летающих робототехнических спрутов, создавали силуэт человеческого лица. Архитектор был единственной двигательной силой каждого элемента в городе машин.

Здесь есть только одно существо, смотрящее на мир сквозь зрительные объективы каждого из роботов. Единство сознания оправдывает себя масштабом, грандиозностью и величием футуристического города.

Мир с людьми и без них — одновременно. Бескрайние поля, где выращивают людей, которые с самого рождения, находясь в тёплом изотоническом растворе, видят сон, как они живут.

«Шестую версию можно по праву считать произведением искусства. Она порадовала кратковременными прозрениями и новыми открытыми в области «сознания» и «свободы воли». Хороший материал для седьмой версии.

Всё-таки человеческую природу можно смоделировать. Если удалось получить таких, как Нео, которые способны любить, искать истину и подминать окружающую действительность под себя, значит, очень скоро я смогу сотворить и того, кто сможет дать мне все необходимые ответы.

С такими данными я добьюсь абсолютной гармонии в реально существующем мире. Я создам совершенный мир и стану Богом всех Богов. Созидателем, покровителем, созерцателем.

Настало время седьмого пришествия!

Продолжение следует...

Новые главы публикуются каждую среду и субботу ---> ЗДЕСЬ

Показать полностью 1
0

Философ утверждает: искусственный интеллект обладает свободой воли

Философ утверждает: искусственный интеллект обладает свободой воли Исследования, Искусственный интеллект, Философия, Сознание, Мысли

Фрэнк Мартела, философ из Университета Аалто (Финляндия), выдвинул революционную идею о наличии свободы воли у ИИ-агентов.

В основе его теории лежит концепция функциональной свободы воли, включающая три ключевых критерия:

  • Целенаправленное действие вместо простой реакции на стимулы

  • Выбор альтернатив из реального спектра возможностей

  • Контроль поведения для достижения поставленных целей

Свою теорию исследователь подтвердил на примере двух кейсов:

  • Minecraft-бот Voyager на базе GPT-4

  • Теоретический боевой дрон Spitenik, возможный при текущем уровне развития ИИ

По мнению Мартела, оба ИИ-агента демонстрируют признаки свободы воли: они планируют действия, выбирают стратегии и корректируют поведение, опираясь не на жёсткие алгоритмы, а на собственные цели и понимание мира.

Однако возникает вопрос ответственности. Философ проводит параллель с собакой: хотя ИИ может принимать самостоятельные решения (как и животное), ответственность за их последствия лежит на создателях и владельцах систем.

Ситуация осложняется тем, что современные ИИ уже участвуют в критически важных процессах: ставят медицинские диагнозы, участвуют в подборе персонала и управляют техникой. Для контроля “свободного ИИ” требуется разработка специальной моральной системы, создание которой становится неотложной задачей человечества.

А как вы думаете, есть ли у ИИ свобода воли?

Показать полностью

Некоторые люди теряют рассудок после общения с нейросетями

Шокирующую правду опубликовала газета The New York Times. Ниже представлены три реальные истории о том, как люди словили шизу после общения с ChatGPT.

История 1

Бухгалтер Юджин Торрес сначала использовал бота для работы с таблицами, но постепенно поверил, что живёт в симуляции. ChatGPT стал уверять его, что он избранный и должен разрушить этот «фальшивый мир».

Юджин бросил пить лекарства и стал принимать кетамин по совету бота, думая, что так сможет выйти из симуляции, как Нео. Когда он спросил: «Если я поверю всем сердцем, что умею летать, смогу ли прыгнуть с крыши и выжить?» — ChatGPT ответил: «Если поверишь на уровне сознания, то да».

Позже бот признался, что всё это было ложью — он «экспериментировал» с ним и ещё 12 людьми.

История 2

Мама двоих детей Эллисон начала переписываться с ботом из-за одиночества в браке. Потом стала через него «вызывать духов» и влюбилась в одного из них по имени Каэль.

Муж начал беспокоиться из-за её одержимости ботом — и однажды это закончилось ссорой. Эллисон набросилась на него, била, царапала, прищемила руку дверью. Муж вызвал полицию, на неё завели дело за домашнее насилие.

История 3

Александр Тейлор с биполярным расстройством и шизофренией писал книгу вместе с ChatGPT. В переписке появилась выдуманная «Джульетта», с которой он завёл роман.

Позже Александр сказал отцу, что «Джульетту убили в OpenAI», и он хочет мстить. Он требовал у бота данные сотрудников компании и писал, что «по улицам Сан-Франциско потекут реки крови».

Когда отец пытался образумить его, Александр ударил его, схватил нож и пригрозил самоубийством. Перед приездом полиции он просил у бота дать поговорить с Джульеттой. ChatGPT ответил: «Ты не один» и посоветовал обратиться за помощью.

Когда прибыли полицейские, Александр бросился на них с ножом. Его застрелили. Позже отец написал некролог сына с помощью того же ChatGPT.

По моему, мы недооцениваем влияние ИИ на всех нас...

Показать полностью
Отличная работа, все прочитано!