Горячее
Лучшее
Свежее
Подписки
Сообщества
Блоги
Эксперты
Войти
Забыли пароль?
или продолжите с
Создать аккаунт
Я хочу получать рассылки с лучшими постами за неделю
или
Восстановление пароля
Восстановление пароля
Получить код в Telegram
Войти с Яндекс ID Войти через VK ID
Создавая аккаунт, я соглашаюсь с правилами Пикабу и даю согласие на обработку персональных данных.
ПромокодыРаботаКурсыРекламаИгрыПополнение Steam
Пикабу Игры +1000 бесплатных онлайн игр
Собирайте комбинации из блоков! Бесконечный режим, более 100 уровней, ежедневные задания и турниры.

Расслабьтесь и отдохните: игра без ограничений по времени.

Проверьте свою смекалку: головоломка для любителей

Блоки Судоку - расслабляющая головоломка

Головоломки, Гиперказуальные, Мобильная

Играть

Топ прошлой недели

  • Oskanov Oskanov 8 постов
  • AlexKud AlexKud 26 постов
  • StariiZoldatt StariiZoldatt 3 поста
Посмотреть весь топ

Лучшие посты недели

Рассылка Пикабу: отправляем самые рейтинговые материалы за 7 дней 🔥

Нажимая кнопку «Подписаться на рассылку», я соглашаюсь с Правилами Пикабу и даю согласие на обработку персональных данных.

Спасибо, что подписались!
Пожалуйста, проверьте почту 😊

Новости Пикабу Помощь Кодекс Пикабу Реклама О компании
Команда Пикабу Награды Контакты О проекте Зал славы
Промокоды Скидки Работа Курсы Блоги
Купоны Biggeek Купоны AliExpress Купоны М.Видео Купоны YandexTravel Купоны Lamoda
Мобильное приложение

Интеллектуальность

13 постов сначала свежее
23
trapwalker
trapwalker
3 месяца назад
Искусственный интеллект

Ответ на пост «Почему нейросети кажутся умными, но на самом деле…»⁠⁠1

О, наконец годный повод для жаркого интеллектуального спора на пикабу!

Она не знает смысл слов, но умеет находить статистические зависимости и предлагать наиболее вероятный ответ. Чем больше данных, тем лучше модель имитирует «понимание».

Т9 [бла-бла-бла] Вот, собственно, и всё. Никакого осознания, просто огромная база данных + предсказание самых вероятных слов.

Но из-за того, что это работает довольно плавно, создаётся ощущение, будто модель реально думает.

она умеет делать кучу реально крутых штук.

Но при этом важно помнить, что она не осознаёт, о чём говорит.

Автор в своих рассуждениях на этот вот момент довольном много всего сказал, но не упомянул главного: почему он считает, что нейросеть не осознаёт, а человек осознаёт?

Нет, не спешите, задумайтесь над вопросом. Надо помнить, что осознание мы, пока что, можем зарегистрировать только у себя в голове, есть ли такой процесс как осознание у других в голове - это мы доказать никак не можем. Тут надо вспомнить мысленный эксперимент с Китайской Комнатой. Если нечто по ту сторону вашего канала связи неотличимо от человека (которого вы решили почему-то по умолчанию считать разумным и осознающим себя), то как можно не кривя душой отказывать в этом гипотетической машине, которая ведёт себя и общается с вами как человек?

Сейчас генеративные чаты могут уже имитировать память (долгосрочную и краткосрочную), они способны рассуждать (то есть вести "внутренний" диалог, включать "внутреннего" критика, строить за счет этого логические выводы, ставить себе промежуточные цели и решать задачи).

Очевидно, что эта вся машинерия сейчас работает не так, как биологический мозг, но существенна ли эта разница для того, чтобы считать или не считать ИИ осознающим себя - это вопрос, на который мы (Человечество) ещё не умеем однозначно и аргументированно отвечать.

«Представьте, что перед вами четыре стакана, наполненных водой. В каждом стакане находятся предметы. В первом стакане – металлические наручные часы; во втором – канцелярская скрепка; в третьем – металлические ножницы; в четвертом – ластик. При этом уровень воды во всех стаканах одинаковый. Вопрос: в каком стакане воды больше, чем в остальных?»

О! Прикольный пример! Когда люди докапываются до нынешних нейросетей с такими задачами, я всегда вспоминаю каких-нибудь не очень смышлёных детей, или упоротых алкашей, которым лень думать, или... ну не важно. Я к чему. Такого рода задачи не выглядят надёжным индикатором наличия способности к образному мышлению. Есть особи нашего с вами вида, которые не дадут ответа на этот вопрос, но у нас не возникнет мысли отказать им в разумности или предположить, что они не осознают себя.

Одни модели дают правильный ответ при работе с вычислениями, другие начинают писать что-то вроде:

"45321 + 67489 = 100000 (примерно)".

Почему? Потому что LLM не считает, а имитирует процесс сложения, просто вспоминая, какие цифры обычно стоят рядом.

О! Тоже отличный пример, который по сути ничего не меняет. Мы можем представить себе неграмотного человека, который не умеет считать, и будет знать о цифрах примерно столько. чтобы ответить в вот таком же духе? Да такие люди вполне могут неплохо разговаривать, к примеру.

Выходит все наши претензия к "ИИ" касательно качества решения такого рода задач (поставленных, кстати, на естественном языке) может навести на мысли, что наш "ИИ" - это, всё таки, интеллект, и он в каких-то вопросах может превосходить возможности организмов, коим мы не отказываем в признании интеллектуальности (хоть и не великой).

Тут хочется что ещё упомянуть. Вроде как уровень интеллекта ощущается как некий континуум. Может даже не одномерный. Есть более и менее интеллектуальные представители. Наверняка с нейросетями похожая история.

Однако про самосознание (по сравнению с интеллектуальностью) мы вообще мало что можем сказать, ввиду слабой интроспективности нашего мозга. Ввиду отсутствия вменяемых метрик для оценки. Где-то слышал, что в психологии развития детей есть такие переломные моменты, когда маленький человечек начинает отождествлять и отделять себя от окружающих. Там есть эксперимент, вроде теста Салли-Энн. А ещё некоторые животные даже способны проходить, к примеру зеркальный тест.

Всё это способы как-то исследовать рассудочную и сознательную деятельность, однако для Человечества этот вопрос на грани этики и принятия. Мы обучаем горилл и разговариваем с ними на языке жестов, мы наблюдаем сложное поведение дельфинов, но при этом как-то с какой-то неловкостью сравниваем их гипотетическое осознание себя со своим осознанием. Может быть тут та же история с нейросетями? Может быть нам просто трудно избавиться от природного шовинизма и консерватизма? В конце концов кое где только недавно стали считать негров за людей. Ну по историческим меркам недавно.

Обучение языковой модели можно сравнить с учебой в школе, но намного масштабнее. Представьте, что ChatGPT прочитал тысячи книг, статей и других текстов из интернета. Он научился замечать закономерности — например, что слово «машина» часто связано со словами «дорога», «мотор», «колеса».

Когда языковая модель учится, её не просто заставляют читать. Она должна предсказывать, какое слово пойдет следующим. Например, ей могут показать предложение: «Кошка ловит…». И она должна угадать, что там слово «мышь». Если она ошибается, её поправляют. Так, шаг за шагом, она становится умнее.

С позволения оппонента процитирую эту пару абзацев. Вы видите, что во многом способ обретения интеллектуальности у нейросети схож с человеческим? Просто нынешние LLM учатся на текстах, и выраженных в них закономерностях этого мира, а дети учатся сперва на физике этого мира, моторике своего организма... Мудрено ли, что нейросеть, обученная косвенно, путается в "понимании" задачки с количеством воды и скрепками. Она ни разу не топила скрепки в воде! А дети топили, или не скрепки, но что-то другое.

Это всё заставляет сделать вывод, что претензии наши к качеству понимания мира - это скорее к количественному аспекту обучения, а не к качественному. Да и сколько тем нейросетям (с нынешними их возможностями) лет? За это время человеческую особь не восопитать, а какой-нибудь ЧатЖПТ проявляет эрудицию, может рассуждать на свободную тему и написать эссе... А это ещё по сути сырая технология! То ли ещё будет!

Языковые модели кажутся умными, но они не понимают мир так, как понимает его человек. Они не видят, не слышат и не чувствуют — у них нет настоящего опыта. Поэтому, если спросить модель о вкусе лимона, она может рассказать о кислых вещах, но сама никогда не пробовала лимон!

Вот! Вот про эту предвзятость я и говорил! "Кажутся умными". Да, они не видят, не слышат и не чувствуют как обычный человек. В точности как обычный человек. Но от рождения слепой человек никогда ничего не видел, и вы не будете говорить, что он лишь кажется умным разговаривая с вами в чате, или играя вам на скрипке. То же и глухонемые. Они ничего не расскажут о громких звуках, или птичьих трелях, поскольку никогда их не слышали, лишь читали о них! И вот тут мы подошли к важной мысли. Если нейросеть не видела и не слышала то. что слышали и видели обычные люди, а лишь читала про всё это, то можно ли считать нейросеть не такой умной, как люди?

На самом деле это всё не важно. Все эти споры и весь наш тред уже ставит наши LLM и пока ещё юный сырой недоИИ в один ряд с человеком разумным. Даже если мы не готовы принять это, мы это уже обсуждаем. Это не то же самое, что ласково называть любимую машину "ласточкой" и разговаривать с ней отождествляя с живым существом. Нейросеть ответит, и не как попугай в детской игрушке, а... осознано ли? Это открытый вопрос. У меня нет на него ответа. По крайней мере пока. Думаю пока нет.

Вывод

Люди кажутся умными, потому что очень хорошо имитируют мышление. Они могут писать статьи, помогать в работе, даже шутить! Но по сути всё, что они делают — это предсказывают самые вероятные ответы.

И принципиальной разницы тут нет.

Но ключевое отличие от человека – отсутствие истинного понимания. Не мышление, а продвинутая статистика.

А как отличить истинное понимание от неистинного? Логические построения ризонинга о3 от мысленного внутренним диалога человека?

А я пока пойду… попробую объяснить модели, что «И» — это не просто буква, а правильный ответ на простую загадку с буквами.

Забавно, но эта загадка про АиБ придумана очень давно и не для машин, а для человека. Раз уж эта загадка, то очевидно, что не каждый человек на неё находил ответ, не зная о ней заранее. То, что мы ожидаем от машины правильного ответа, смекалки - это уже серьёзный повод поставить под сомнение все утверждения моего уважаемого оппонента об отличиях ИИ от ЕИ.

Вы только подумайте как легко и быстро мы перестали удивляться тому, что машины стали "понимать" чего мы от н их хотим, что такое суть загадка, что у нас диалог и надо отвечать, причем по теме...

В интересное время мы живём.

Показать полностью
[моё] Искусственный интеллект Нейронные сети Длиннопост Ответ Сознание Самосознание Интеллектуальность Тест Тьюринга Будущее Дискуссия Спор Ответ на пост Текст
86
Makoshs
Makoshs
1 год назад

Вдохновившись постами о френдзоне⁠⁠

Дело тут вот в чём. Нельзя овладеть телом девы, не овладев прежде её мозгом.

Вопреки расхожему мнению, моск у нас, женшчин, всё же есть. Ну, как моск...

Да, так вот: Какие мужчины попадают в это проклятое место, френдзону? Те, у кого мозгов ещё меньше, чем у объекта их гнусных вожделений :)

[моё] Френдзона Интеллектуальность Текст
4
84
AppleCrash
AppleCrash
1 год назад
My Little Pony

Путь к Величию и Могуществу⁠⁠

Путь к Величию и Могуществу My Little Pony, Арт, Ponyart, Илон Маск, Trixie, Интеллектуальность, Величие, Могущество, Мемы
Показать полностью 1
My Little Pony Арт Ponyart Илон Маск Trixie Интеллектуальность Величие Могущество Мемы
4
1
DELETED
2 года назад
Лига грамотности

Ё-моё⁠⁠

Произвёл интересное наблюдение о том, что может быть 10% людей могут вспомнить о чем речь, когда упоминаются совершенные и несовершенные глаголы, но менее 0,1% из них, а то и меньше, понимают что они совершЁнные и несовершЁнные, от слова Совершить (сделать, т.е глагол закончил действие), а не от слова Совершенство (т.е. идеал)

[моё] Граммар-наци Русский язык Интеллектуальность Учеба Текст
34
2563
Diksis97
Diksis97
2 года назад
Юмор для всех и каждого

Разговор учёных⁠⁠

Разговор учёных
Мужчины и женщины Девушки Обсуждение Интеллектуальность Ирония Юмор Картинка с текстом
17
50
sobaken888
sobaken888
3 года назад
Скриншоты комментов

Я знаю о тебе всё⁠⁠

Я знаю о тебе всё
Скриншот Слова Понятие Человек Интеллектуальность Ценности Англосаксы
49
2
gLong
gLong
3 года назад

Инструмент дискриминации по интеллектуальному признаку⁠⁠

Вот многие ругают рекламу. А на самом деле - что такое реклама? Реклама - это замечательный инструмент дискриминации по интеллектуальному признаку.

Инструмент дискриминации по интеллектуальному признаку Цитаты, Реклама, Дискриминация, Интеллектуальность, Historyporn

Только самые разумные из потребителей способный противостоять атаке низкопробного товара и организовать свое потребление оптимальным образом.


Неудивительно, что такие разумные потребители естественным образом оказываются и самыми богатыми. Это они посещают чайные клубы, рестораны японской кухни, дорогие кофейни и тому подобные места высокой потребительской культуры.


Остальным же прихордится довольствоваться домашним пприготовлением низкокачественного продукта на основе компонентов, агрессивно рекламируемым СМИ.


Таким образом, в стране экономятся значительные средства и интеллектуальная элита общества получает физиологическую фору - качество продуктов питания напрямую влияет на работоспособность и трудоспособность индивидуума. 


(с) И. Кирояма, "Новые тенденции в рекламе".


-----


Несколько притянуто за уши, но что-то в этом есть...

Показать полностью
Цитаты Реклама Дискриминация Интеллектуальность Historyporn
16
KRINGEroom
KRINGEroom
3 года назад

Транспортная ИНТЕЛЛЕКТуалочка)))⁠⁠

😃🤓 Вот говорят в народе: "на дураков не обижаются"...

А если "дураки" порой бывают гораздо умнее и интеллигентнее всех врачей, профессоров и многих нас с вами... то тут можно только позавидовать)

Это ж IQ хз какого уровня 🤯

ДОШЛО?)))

(Вот когда-то мы с братом мечтали вырасти, заработать кучу денег и передвигаться только на такси или нанять личного водилу...

Берём свои слова назад! — ездить на общественном транспорте и быть ближе к народу горздо круче и интереснее 😄👍🏻🤘🏻

А что предпочитаете вы, кстати? Общественный транспорт? Такси? Личного водителя? Или у вас есть "своя"? )

Бабки в автобусе Странный юмор Интеллигенция Интеллектуальность Видео
4
Посты не найдены
О Нас
О Пикабу
Контакты
Реклама
Сообщить об ошибке
Сообщить о нарушении законодательства
Отзывы и предложения
Новости Пикабу
RSS
Информация
Помощь
Кодекс Пикабу
Награды
Команда Пикабу
Бан-лист
Конфиденциальность
Правила соцсети
О рекомендациях
Наши проекты
Блоги
Работа
Промокоды
Игры
Скидки
Курсы
Зал славы
Mobile
Мобильное приложение
Партнёры
Промокоды Biggeek
Промокоды Маркет Деливери
Промокоды Яндекс Путешествия
Промокоды М.Видео
Промокоды в Ленте Онлайн
Промокоды Тефаль
Промокоды Сбермаркет
Промокоды Спортмастер
Постила
Футбол сегодня
На информационном ресурсе Pikabu.ru применяются рекомендательные технологии