trapwalker

По таймауту топ-1 вариантов попадает в Суперчат от имени сообщества.

Это прямое голосование, его можно на имеющемся движке пикабу реализовать. По идее хорошо бы сделать иерархическое голосование, но это уже идея для отдельного ресурса.

Сейчас генеративные чаты могут уже имитировать память (долгосрочную и краткосрочную), они способны рассуждать (то есть вести "внутренний" диалог, включать "внутреннего" критика, строить за счет этого логические выводы, ставить себе промежуточные цели и решать задачи).

Очевидно, что эта вся машинерия сейчас работает не так, как биологический мозг, но существенна ли эта разница для того, чтобы считать или не считать ИИ осознающим себя - это вопрос, на который мы (Человечество) ещё не умеем однозначно и аргументированно отвечать.

«Представьте, что перед вами четыре стакана, наполненных водой. В каждом стакане находятся предметы. В первом стакане – металлические наручные часы; во втором – канцелярская скрепка; в третьем – металлические ножницы; в четвертом – ластик. При этом уровень воды во всех стаканах одинаковый. Вопрос: в каком стакане воды больше, чем в остальных?»

О! Прикольный пример! Когда люди докапываются до нынешних нейросетей с такими задачами, я всегда вспоминаю каких-нибудь не очень смышлёных детей, или упоротых алкашей, которым лень думать, или... ну не важно. Я к чему. Такого рода задачи не выглядят надёжным индикатором наличия способности к образному мышлению. Есть особи нашего с вами вида, которые не дадут ответа на этот вопрос, но у нас не возникнет мысли отказать им в разумности или предположить, что они не осознают себя.

Одни модели дают правильный ответ при работе с вычислениями, другие начинают писать что-то вроде:

"45321 + 67489 = 100000 (примерно)".

Почему? Потому что LLM не считает, а имитирует процесс сложения, просто вспоминая, какие цифры обычно стоят рядом.

О! Тоже отличный пример, который по сути ничего не меняет. Мы можем представить себе неграмотного человека, который не умеет считать, и будет знать о цифрах примерно столько. чтобы ответить в вот таком же духе? Да такие люди вполне могут неплохо разговаривать, к примеру.

Выходит все наши претензия к "ИИ" касательно качества решения такого рода задач (поставленных, кстати, на естественном языке) может навести на мысли, что наш "ИИ" - это, всё таки, интеллект, и он в каких-то вопросах может превосходить возможности организмов, коим мы не отказываем в признании интеллектуальности (хоть и не великой).

Тут хочется что ещё упомянуть. Вроде как уровень интеллекта ощущается как некий континуум. Может даже не одномерный. Есть более и менее интеллектуальные представители. Наверняка с нейросетями похожая история.

Однако про самосознание (по сравнению с интеллектуальностью) мы вообще мало что можем сказать, ввиду слабой интроспективности нашего мозга. Ввиду отсутствия вменяемых метрик для оценки. Где-то слышал, что в психологии развития детей есть такие переломные моменты, когда маленький человечек начинает отождествлять и отделять себя от окружающих. Там есть эксперимент, вроде теста Салли-Энн. А ещё некоторые животные даже способны проходить, к примеру зеркальный тест.

Всё это способы как-то исследовать рассудочную и сознательную деятельность, однако для Человечества этот вопрос на грани этики и принятия. Мы обучаем горилл и разговариваем с ними на языке жестов, мы наблюдаем сложное поведение дельфинов, но при этом как-то с какой-то неловкостью сравниваем их гипотетическое осознание себя со своим осознанием. Может быть тут та же история с нейросетями? Может быть нам просто трудно избавиться от природного шовинизма и консерватизма? В конце концов кое где только недавно стали считать негров за людей. Ну по историческим меркам недавно.

Обучение языковой модели можно сравнить с учебой в школе, но намного масштабнее. Представьте, что ChatGPT прочитал тысячи книг, статей и других текстов из интернета. Он научился замечать закономерности — например, что слово «машина» часто связано со словами «дорога», «мотор», «колеса».

Когда языковая модель учится, её не просто заставляют читать. Она должна предсказывать, какое слово пойдет следующим. Например, ей могут показать предложение: «Кошка ловит…». И она должна угадать, что там слово «мышь». Если она ошибается, её поправляют. Так, шаг за шагом, она становится умнее.

С позволения оппонента процитирую эту пару абзацев. Вы видите, что во многом способ обретения интеллектуальности у нейросети схож с человеческим? Просто нынешние LLM учатся на текстах, и выраженных в них закономерностях этого мира, а дети учатся сперва на физике этого мира, моторике своего организма... Мудрено ли, что нейросеть, обученная косвенно, путается в "понимании" задачки с количеством воды и скрепками. Она ни разу не топила скрепки в воде! А дети топили, или не скрепки, но что-то другое.

Это всё заставляет сделать вывод, что претензии наши к качеству понимания мира - это скорее к количественному аспекту обучения, а не к качественному. Да и сколько тем нейросетям (с нынешними их возможностями) лет? За это время человеческую особь не восопитать, а какой-нибудь ЧатЖПТ проявляет эрудицию, может рассуждать на свободную тему и написать эссе... А это ещё по сути сырая технология! То ли ещё будет!

Языковые модели кажутся умными, но они не понимают мир так, как понимает его человек. Они не видят, не слышат и не чувствуют — у них нет настоящего опыта. Поэтому, если спросить модель о вкусе лимона, она может рассказать о кислых вещах, но сама никогда не пробовала лимон!

Вот! Вот про эту предвзятость я и говорил! "Кажутся умными". Да, они не видят, не слышат и не чувствуют как обычный человек. В точности как обычный человек. Но от рождения слепой человек никогда ничего не видел, и вы не будете говорить, что он лишь кажется умным разговаривая с вами в чате, или играя вам на скрипке. То же и глухонемые. Они ничего не расскажут о громких звуках, или птичьих трелях, поскольку никогда их не слышали, лишь читали о них! И вот тут мы подошли к важной мысли. Если нейросеть не видела и не слышала то. что слышали и видели обычные люди, а лишь читала про всё это, то можно ли считать нейросеть не такой умной, как люди?

На самом деле это всё не важно. Все эти споры и весь наш тред уже ставит наши LLM и пока ещё юный сырой недоИИ в один ряд с человеком разумным. Даже если мы не готовы принять это, мы это уже обсуждаем. Это не то же самое, что ласково называть любимую машину "ласточкой" и разговаривать с ней отождествляя с живым существом. Нейросеть ответит, и не как попугай в детской игрушке, а... осознано ли? Это открытый вопрос. У меня нет на него ответа. По крайней мере пока. Думаю пока нет.

Вывод

Люди кажутся умными, потому что очень хорошо имитируют мышление. Они могут писать статьи, помогать в работе, даже шутить! Но по сути всё, что они делают — это предсказывают самые вероятные ответы.

И принципиальной разницы тут нет.

Но ключевое отличие от человека – отсутствие истинного понимания. Не мышление, а продвинутая статистика.

А как отличить истинное понимание от неистинного? Логические построения ризонинга о3 от мысленного внутренним диалога человека?

А я пока пойду… попробую объяснить модели, что «И» — это не просто буква, а правильный ответ на простую загадку с буквами.

Забавно, но эта загадка про АиБ придумана очень давно и не для машин, а для человека. Раз уж эта загадка, то очевидно, что не каждый человек на неё находил ответ, не зная о ней заранее. То, что мы ожидаем от машины правильного ответа, смекалки - это уже серьёзный повод поставить под сомнение все утверждения моего уважаемого оппонента об отличиях ИИ от ЕИ.

Вы только подумайте как легко и быстро мы перестали удивляться тому, что машины стали "понимать" чего мы от н их хотим, что такое суть загадка, что у нас диалог и надо отвечать, причем по теме...

В интересное время мы живём.

Так вот в нынешних нейронных сетях эти "изначальные установки" искусственные. Их как добавили, так могли бы и не добавлять. Да наверняка входе экспериментов кто-то уже не раз попробовал обучать и без установок ис очень разными абстрактными.

А как вы считаете, воспитание ребёнка - это не "изначальные установки"? Объяснение ему на примерах и картинках что такое хорошо, а что такое плохо - это не установки? Просто нейронной сети их "внушили" за десятки и сотни часов, а ребёнку надо вдалбливать годами. В этом разница, да? Ну так можно тогда прикопаться к количеству букв в названии - "человек" против "ИИ", ещё к чему-нибудь... По факту же есть процесс принятия решений, логически мыслящая сущность, и она такой же черный ящик, как и любой человек рядом с вами, а вы для него. И я могу предположить зная ваши "изначальные установки", что вы не будете скорее всего сейчас кидаться и грызть глотки, не будете биться головой об стены и испражняться на стол... опять же, скоре всего. С большой долей вероятности. Всё как в случае с нейронной сетью. так в чем же разница? Я не сопорю, что она есть, но почему вы считаете, что эта разница принципиальна, непреодолима и радикально не позволит этой машине считаться разумной, считаться при каких-то условиях Человеком. Многие люди не считают людьми других людей. Чем вы от них отличаетесь?

Проблема в том, что мы не можем подтвердить то, что машина мыслит в точности как человек,

А про меня, про любого другого человека вы такое можете "подтвердить"? Как? И да, как это "в точности"? А два человека мыслят "в точности" одинаково, или их мышлене различается? Как вы оцениваете? Как определяете? Как можете гарантировать, что люди вообще мыслят? Почему вообще у вас не возникло сомнения в своей уверенности когда вы писали слова "в точности"? Это ж первое что приходит в голову!

а значит мы не можем предсказывать, куда её мышление вывернет в следующий раз

А про людей такое вы можете предсказать? Кто предсказал такое про убийц и насильников? Почему их не остановили? Кто предсказал такое про гитлера? Почему его не убили в колыбели? ну или тогда, когда получилось бы "предсказать", но он ещё не набрал достаточно политического веса и силы?

А если ИИ будет как человек во всём...

Как какой именно человек? Мы все разные! Почему вы не допускаете, что в какой-то момент не случится, что внешние различия между ИИ и какими-то конкретными людьми будут меньше заметны, нежели различия между просто людьми?

И как выбирать критерии для сравнения? Вон когда-то критерием был цвет кожи. С чего вы взяли, что те критерии, что вы или кто-то там выберет не устареют так же как расизм и нацизм, ну или не станут такими же маргинальными и неприемлемыми в приличном обществе?

Кстати. Посмотрите на предложение выше. видите там слово "неприемлемыми" выделено? Это забавно. Я за последне сутки спал лишь часа полтора-два. Работал. Ну и вот тут "в интернете кто-то не прав" подвернулась интересная дискуссия, и я не могу оторваться от неё. Знаете, я забыл слово. То есть у меня в голове собралась эта фраза, но я почему-то дико затупил и не мог понять какое тут должно быть слово. Знаете, как говорится: "вертелось на языке". Со мной редко но бывает от усталости.
Так вот, я уже на автомате почти не заметил как нажал горячую клавишу и задал вопрос чату ЖПТ:

Замени троеточие на одно максимально подходящие одно или два слова в этом предложении:

"С чего вы взяли, что те критерии, что вы или кто-то там выберет не устареют так же как расизм и нацизм, ну или не станут такими же маргинальными и ... в приличном обществе?"

У меня пресетик такой есть на горячей подстановке.
И так там появилось именно то слово, что вертелось на языке. Вы понимаете, что такими темпами (да это простой утрированный пример, но суть должна быть ясна), мы просто превратимся в киборгов, а потом переедем на корабле Тесея в цифру? Неужели это только меня такие мысли завораживают? Мы же уже киборги с калькуляторами. смартфонами, еженедельниками, планировщиками, калькуляторами калорий, цифровыми тренерами, смартчасами и колонками с голосовыми помощниками, клавиатурами, на которых излагаем мысли быстрее, чем говорим (ну многие з нас)...

Неужели только мне кажется этот путь очевидным и неизбежным для человечества?

Да, не завтра, но и не никогда.

ну тогда останется только признать, что Человек Разумный устарел и ему пора уйти.

Где и когда в истории нашей Земной жизни было такое, что целый вид встал и ушел? Ну вымереть мы наверно можем от удара огромного астероида, но человек штука живучая.. Есть шанс выжить и скибернетиться нахрен. А вы странно рассуждаете про "устарел" и "пора уйти". От имени какой роли вы так рассуждаете? Мифического "создателя"?

А сколько будет людей, готовых вкинуть условные 300-400 тысяч баксов за пусть и продвинутую, но куклу?

Вы недооцениваете мощь технического прогресса и конкуренции. Представьте сколько бы стоила разработка и создание одного единственного смартфона примерно нынешней мощности, скажем в 2000 годах. Ну вот представьте, что мы написали подробное ТЗ срисовав его с какого-нибудь там нового айфона и прямо заливаем проблему деньгами. не хватет ретина-дисплеев - нанимаем всех технологов, физиков, математиков, ученых...
Это пииипец сколько дорого будет даже придвинуться к такому уровню. А сейчас все ну почти все ходят с этими смартфонами. Вы оцениваете 300-400 тысяч с потолка вашего представления. Думаю если бы за 300-400 тысяч был доступен робот, который мог бы общаться и выглядеть как человек, а не всратый робот Фёдор на МКС, если бы этот робот мог пойти кофе сварить и кота покормить, то, я уверен, ТЫСЯЧИ бы людей его купили! Это сейчас цена не очень мощного современного ноутбука.

Так что кукла - это чучело, которое вы сделали из идеи, из светлой мечты человечества, чтобы легко было представить её как несуразную глупость и наивность.

Есть такой плохой "риторический" приём, когда оппонент не пытается критически отнестись к свои словам, зато преуменьшает и старательно не замечает сильные аргументы оппонента.

Знаете какой ваш аргумент мне нравится больше всего? Про военных. Но военным не нужны андроиды и гиноиды. Они будут делать классные ракеты и очень юркие живучие беспилотники, которые как стрекозы будут подавлять любую агрессию. Наверно. Но посмотрите где не смотря на всю свою милитаристичность человечество преуспело на сегодняшний день больше всего! В развлечениях! Порносайты и смешные видосики сделали интернет-каналы достаточно толстыми. Веб развивался для развлечения, а доткомы для бизнеса сдувались. Подумайте об этом. А военные вон прошляпили БПЛА практически. Пришлось мангала наваривать второпях на танки! А БПЛА "взлетели" как развлечение на волне хобби, на волне продаж дешевых компонентов на китайских площадках, на волне инструмента для блогеров, чтобы снять красивый вид в горах или ловкий динамичный пролёт сковзь танцующих тиктокарей на таймссквер.

А потом, хоба, оказывается дронами с алиэкспресса можно убивать, можно врывать танки! Оказывается на хоббийных 3д-принтерах с алиэкспресса можно задёшево и быстро печатать сбросные устройства для ВОГов. А автоматику для сьроса можно сделать из дешевого хоббийного сервомотора (для развлечений же) и ардуинки, которая тоже вовсе не военная разработка.

Понимаете к чему я клоню? Я не могу собрать сейчас на кухне атомную бомбу, но любой анархист уже лет 20 назад мог сварить мощное ВУ из аптекарских компонентов на своей кухне начитавшись запрещенных книг. На торрентах их можно найти эти рецепты.

Однако 20 лет назад немыслимо было, что на такой же кухне из копеечных запчастей люди будут собирать гоночные и дальнолетные квадрокоптеры! И всему этому послужила толчком индустрия развлечений и хоббийная тематика. Я всему этому был свидетелем. Мне сейчас 40, а моя покойная нынче бабушка рассказывала как у них в деревне не было электричества, а отец рассказывал как он проводил телефон в нашем доме, а я сам видел как по нашей улице отец проводил газ со своей бригадой. Я видел как появляются и развиваются компьютеры! У меня сперва был Апогей БК01-ц, подключенный к телеку и магнитофону, потом отец раздобыл с работы IBM XT 8088 без математического сопроцессора, с монохросным адаптером "геркулс" и черно-желтым экраном, с 640кб оперативки, про которую Гейтс не то имел в виду, когда сказал. что её хватит всем... Этому компу никто не мог дать ладу, а я-школьник с огнём в глазах стал разбираться, научился работать в текстовом процессоре Лексикон, хрен пойми где и как раздобыл какой-то удивительный куцый графический редактор, сам по распиновке вычитанной в библиотечной книжке разобрался как подключить 25-пиновый com-порт к девятипиновой мышке... Я в старших классах сам разобрался в бейсике и в разработке баз данных на каком-то движке типа аксеса, но ещё в текстовом досе!

А ещё я помню, как уже в институте я купил диск с набором программ комплекса Dragon Dictate. Там на коробке обещалось, что компьютеру можно будет диктовать текст голосом, а ещё там был движок Текст-ту-спич. Мне казалось это волшебством, пока я не понял как убого всё звучало и как туго понимал софт. Быстрее и проще было нажимать кнопки на клаве. Это было чертовски далеко от пригодности к полезному использованию.

Сейчас TTS не отличить от живого человека, у Алисы дикция лучше чем у 90% живых людей, она понимает шепот и детский лепет! Сейчас генеративные сети могут по куску аудиозаписи научиться говорить вашим голосом, спеть песню, нарисовать фотореалистичное изобрадение того, что вы попросите. Чего угодно.
Я не знаю как вы остаётесь скептичнескинастроенным на фоне такой ретроспективы технологий. Мы живём в чертовски интересное время!

Ох что-то меня понесло. Простите. И спасибо вам за этот диспут, за ваш скепсис, за вашу точку зрения... Вот фотки, чтобы вы не подумали что я ИИ. Или я нейросеть и сгенерил эти фотки...

Достал его с чердака чтобы отправить одному парню в Новосибирск для реставрации. Клавиатура не пережила хранения и погиб жесткий диск. Если кто знает чем его заменить можно, подскажите - передам.

This Party Took a Turn for the Douche (Official Video) by Garfunkel and Oates

Подумать только, 13 лет песенке, а я ее в первый раз только увидел.

На пикабу, вроде, не постили. Не нашел. Прикольные девчонки, очень разные и совершенно иначе выглядят на фото и в движении.

Пардон, на ВКВидео не нашел ролика, если кто скинет - добавлю. В Рутубе не искал даже, не работает нормально он у меня даже при выключенном ВПН, и поиск там всратый.