2

Ответ TwoCow в «Размышления о нейросетке»

1) «... Вам не хватает понимания механизма и логики мышления.

У нас и у нейросетей (сложных) нет "цепочки" рассуждений. Ни вы, ни они не составляете полную карту хода размышления. Вы НЕ ПОМНИТЕ, почему вам нравится синий. Вы не ЗНАЕТЕ, почему вам нравятся блондинки или брюнетки. Вы НЕ ОСОЗНАЕТЕ всех причин, по которой вам нравится то или иное. ...»

1.1) Вы понимаете что попутали «я забыл» и причинность?

1.2) Я как-то ещё в тех комментариях писал что озарение/инсайт/интуиция - это просто свёрнутый формат/способ мышления где промежуточные значения или откидываются, или затираются последующими данными.

Так что объём вычисления не важен, он просто не помещается в ОЗУ биомозга.

Точно так же как вы не сможете без записи промежуточных результатов просчитать сложное уравнение чисто в уме.

1.3) «... У вас имеется только ЭМПИРИЧЕСКИЙ опыт. ...»

Я тут понял что к сожалению у нас расхождение в терминологическом аппарате по многим словам. Например «эмпирический опыт» для меня это «масло масляное», т.к. эмпирика - это практика (практический опыт).

Так же про: знать, помнить, осознавать и пр. что вы там капслоком пишите.

2) «... мышление - это нечеткая логика. Её нельзя преобразовать в формулу. ...»

Формальная логика, двоичная логика (см. ЭВМ), неформальная (троичная) логика и т.д.

Но проблема в том что у вас мышление что-то своё. Для меня это обработка информации/данных для структурирования (внутренняя логика), прогнозирования (предсказания) и т.д.

И какие же результаты у психологии?

До сих пор не могут определиться с архитектурой/структурой психики (нет сознание, предсознание и неосозноваемое, это как сказать что комп - это клава, монитор и крутилка (вентилятор) + проводок в розетку)). Или кодировку преобразования мысли в нервный импульс.

Я теме, так что понимаю что так всё ещё на уровне средневековых познаний о анатомии человека.

3) «... Мысленные эксперименты являются мысленными, потому что они тупые и в реальности не работают. Так как там ставятся тупые, прям совсем тупые и нереалистичные ограничения. ...»

Мысленный эксперимент - это просто наглядный пример в динамике. Например «кот Шрёдингера» где «если у нас ответа, то мы ничего не знаем о состоянии объекта». И когда всё «гениально - просто»©, разумеется это кажется до очевидного банальным и глупым.

4) «... Смотри пункт выше - ты в снимках нейросети или мышления человека увидишь снимок эмпирического опыта. ТЫ НЕ УВИДИШЬ ПРИЧИН, почему пеклеванный лучше булочки. ...»

Т.е. я сказал купить «хлеб» (без уточнения), вы купили «хлеб» (конкретно пеклёванный/булочка), и теперь я должен выяснять почему вы купили «хлеб»? Вроде задача решена, или нет? Вот если бы вы притащили дохлую ворону, покрышку от КамАЗа, то были бы вопросы «а «хлеб» где»?

Вы похоже «за деревьями леса не видите». Зачем и почему вас интересует вопрос предпочтений? Вы сомневаетесь в наличии/существовании причин/мотивов выбора, или что? Для меня причинность не вопрос веры, а данность бытья.

Или п.1.3.

5) «... Для совсем уж глупых поясню - в нейросети ты увидишь веса. 54 97 52 87 16 05 15. ...»

Ваще не понял что это. А можно по заветам Феймана как для 5-летнего? Если вы про вес ~ важность/приоритетности «выбора из двух зол» где у каждого из ... свой вес, то не понял что из чего выбирают, где знаки >, <, и т.д.?

«... Более того, эти же веса в другой момент времени могут выдать другой результат. ...»

Вот щас смешно было. Я хотел пить, напился, потом поел, после чего меня потянуло в сон. Т.е. я описал удовлетворение своих возникающих потребностей в процессе жизнедеятельности. Что тут сложного, или непонятного, или вы пытаетесь в динамическом мире создать «статический процесс» (какой к слову оксюморон «неподвижное движение»!!!)? Бывает что несколько потребностей возникает одновременно, например замёрз, вследствии переохлаждения организм выгоняет из себя лишнюю жидкость (захотелось писать), т.е. две текущие задачи: согреться, пассать, которые будут удовлетворяться в зависимости от ситуации. Если вы в лесу то можете опорожниться хоть на бегу, но негде согреться, если на людной улице, то согреться можно забежав в попутный магазин, остальное терпеть.

Это и есть ум/разум - как неспецифическая адаптивная способность организма.

6) «... Вы можете любую часть сети в любой момент измерить со 100% точностью. ...»

LOL!

То вы пишите что можете измерить, то пишите что непонимаете как оно сработало. Понимание или есть, или его нет, ну а измерение тут первый этап «сбор информации». Бесполезно собирать данные если не можешь их обрабатывать. Это как если бы безграмотный записывал температуру (по инструкции) записывая какие-то символы (градусы) в тетрадку ... и чего ему с этой информации? Вот вам мысленный эксперимент с «китайской комнатой»/«философским зомби».

7) «... У нас нет алгоритма/формулы расчёта. Нету. У нас есть структура нейросети. Потом, после обучения, эта структура имеет нечеткую логику. Вообще. Для тупых = она не одинаковая и она буквально меняется в процессе обучения и самообучения.

БУКВАЛЬНО МЕНЯЕТСЯ В ПРОЦЕССЕ ОБУЧЕНИЯ И САМООБУЧЕНИЯ. Не структура. Структура та же самая. А её реакция. ...»

Вы про самообучение? И то что самообучавшийся не рассказывает и не показывает вам чему он обучился вы считаете что у него нет алгоритма/формулы расчёта? Как писал ранее просто «у него нет рта, но он должен кричать»©.

Ваша сеть что просто ссыпает данные в свой «серо-чёрный ящик», потрясло там для перемешивания, а потом результат вываливает во вне на оценку? Конечно нет. Логика есть, просто т.к. она сама себя кодирует/перезаписывает вы это не можете отмониторить (ваши терзания почему мне купили именно такой «хлеб»).

8) «... Вы опять тупите и опять пишете что нельзя проверить в лоб. МОЖНО. ВЫ МОЖЕТЕ ВЗЯТЬ ВЕСА НЕЙРОСЕТИ И ЕЁ СНИМОК В ЛЮБОЙ МОМЕНТ И ПОЛУЧИТЬ ДОСТУП К ЛЮБОЙ ИНФОРМАЦИИ. ...»

Вы не поняли «стрелу Зенона».

Вы решаете большое/длинное уравнение вручную на бумаге (подробно, прописывая каждую операцию). Я смотрю за вашими расчётами из-за плеча, иногда их фоткаю (но не обязательно). Что тут мне может быть непонятно? Если я безграмотен и не понимаю что это за каракули на бумажке, или вы там запись ведёте на: суахили, клингонском, С++, или ещё какая стенография.

Такой пример монитора понятней?

Память не нейросети, память внешнего наблюдателя!!!

9) «... Тут я не пойму, вы тупите или издеваетесь - я вам об этом и пишу. Уже который комментарий. Это ЛОГИЧНО, но ход решения неизвестен. ...»

А когда мне непонятно (п.8) я вас останавливаю и спрашиваю почему у вас а+б=с.

10) «... По-моему вы используете термины не понимая, что пишете. Ведь вы буквально говорите, что разума и сознания не существует и он "философский камень" ...» не надо мне приписывать.

Я неоднократно писал что на данном этапе развития психологии/логики человеческий разум «чёрный ящик». Он сложен, не не непознаваем, т.е. его можно разложить на атомы (мысленные операции), со временем, по мере наращивания наших знаний о психике и технологиях. Вы же тут придумали нейросеть на основе формальной логики и уже орёте что она непознаваема. Скорее у вас нет вычислительный мощностей для мониторинга и возможности реверс-инжиринга (размотать логику взад).

11) «... Наверное это сложно для вас - но если проще - ВЫ говорите что вам нужно понять алгоритм работы сети. Но у неё имеется ЧЕТКАЯ логика на ЧАСТНЫЙ случай. ...»

И ... и тогда где нечёткость то, если в каждом конкретном (частном) случае всё пререпроверяемо и логично обосновано? Что вообще для вас «нечёткая логика (п.1

3)? Для меня нечёткая логика - это предположение, т.е. результат вс некой вероятностью. Ну а сама вероятность (погрешность/допуск) возникает из-за: нехватки ума, ошибочности модели, или законов мироздания (см. п.ХХХ в исходном посту).

12) «... Ух ты. Оказывается, чтобы представлять и воображать, надо ощущать и видеть... ...»

Увы, но да, должен быть исходник для творческого мышления/вдохновения который комбинируя с другим получишь третий воображаемый. Единорог - это лошадь с рогом во лбу, циклоп - одноглазая монстрятина и т.д. Где-то смешиваешь, где-то добавляешь, убавляешь, масштабируешь, инвентируешь и прочая «комбинаторика». Тот же ТРИЗ/АРИЗ практически всё «психологии творчества» скопирайтил.

Если смотрели «Матрицу», там когда Нео выдернули из капсулы, то потом когда ели питательную жижу обсуждали «почему у разных продуктов бывает одинаковый вкус». Это как раз была отсылка к проблеме «разнообразия мира в солипсизме».

12.х) Ну спасибо за факты из физиологии ВНД и нейрофизиологии.

Суть в том что всё вот это вами перечисленное из входных сигналов мало попадает в сознание (обработка на уровне подсознания, или предсознания, если пороговое значение сигнала мало для пробоя в сознание). Мы буквально смотрим, но не видим, слушаем и не слышим.

Невидимая горилла, или насколько избирательно наше внимание (про избирательность восприятие и когнитивные искажения)

13) У нас разное понимание «чёрного ящика» (п.1.3).

«... Черный ящик - нет, нейросеть белый ящик, вы можете проследить все стадии. То, что вы не можете понять почему так, а не иначе, не скрывает от вас механизм. ...»

Дайте 5-летнему компьютер, пусть он его даже разберёт, пусть даже изучит в электронный микроскоп пересчитав атомы. Он для него будет «чёрным ящиком»? Ведь структура известна, волько непонятно как работает (ПО) и назначение. Да/Нет?

14) «... Нечеткая она в том, что вам могут принести любой хлеб, в любое время, в любом виде, даже переваренном. ...»

Странные же у кас определение «хлеб», извращенские! 🙃 Или тут проблема в самой нечёткой формулировке исходника («хлеб») раз вам го...но принесли вместо «запечёного в духовке теста», не виновата тут нейросетка, а не быдлокодер.

Разумеется по аналогии есть и тупые люди (щи лаптем хлебать), но это девиация/брак, или недостатки обучения.

15) «... Ликбез нужно проводить опять, ликбез, нет на вас СССР. Нейросеть это ПАРАЛЛЕЛЬНЫЕ ВЫЧИСЛЕНИЯ. ... Поясню - может выполниться первым X, может Y. Если они попадут в один блок вычислений и на один шаг алгоритма - они выполнятся в том порядке, в котором попадут в блок вычислителя. ...»

Вы когда-нибудь сборочный конвейер виделисьЬам тоже комплектующие могут свозить даже из других стран (сборка компов), но я возьму в пример автозавод. Следуя вашей логике параллельной сборке (а там машину на конвейере собирают с нескольких сторон) руль могут и в багажник засадить, или колёса сверху и снизу, а не по бокам, днище стеклянным, а лобовой проём железом заварить. Что первым пришло, то туда и запихнули. Так? Нет, НЕТ! Есть сборочный чертёж, сборочная техкарта ГЕНЕРАЛЬНЫЙ ПЛАН по которому и производят сборку.

В описанном вами случае просто тупо не прописан ... «сборочный алгоритм» где нейросеть рандомно перетряхивает данные в своём «чёрном ящике». Ну а получатель занимается выбраковкой с погрешностью ± бесконечность (разбег от КГ/АМ до шедеврально!!!!1).

Так что тут нет ума, обычный механический перебор с счётчиком памяти.

16) «... Для совсем простых - в мире нет логики. ...»

Что такое логика?

Закон всемирного тяготения логичен, или он просто данность бытия (я сейчас серьёзно)? А следование ему логично?

17) «... В общем берём нейросеть, наваливаем сверху веру, снизу подпираем психологией, чтобы конструкция не развалилась, добавляем липкую философию во все дыры, ...»

«Ранил в самое сердечко»© 😘

А если серьёзно то для меня ИИ будет разумен и логичен (как и мы сами), так что это я не обсуждаю, а уточняю.

А приплетание психологии - это изучение внешнего наблюдателя, т.к. известно что «красота в глаза смотрящего». Философия тут пример выхолощенного абстрагирования как примеры для, а не повод для демагогии.

Показать полностью

Ответ на пост «Размышления о нейросетке»

Эмм...

Нет, нет и еще раз нет.

Вам не хватает понимания механизма и логики мышления.

У нас и у нейросетей (сложных) нет "цепочки" рассуждений. Ни вы, ни они не составляете полную карту хода размышления. Вы НЕ ПОМНИТЕ, почему вам нравится синий. Вы не ЗНАЕТЕ, почему вам нравятся блондинки или брюнетки. Вы НЕ ОСОЗНАЕТЕ всех причин, по которой вам нравится то или иное.

У вас имеется только ЭМПИРИЧЕСКИЙ опыт. Не цепочка "в детстве я нассал на розетку, меня торкнуло током и мне теперь нравится синий". А просто знание, что вам нравится синий. Больше чем другие.
И точно так же вы НЕ ЗНАЕТЕ, что конкретно приводит вас к конкретным решениям. Вы основываетесь именно на эмпирическом опыте - вы просто когда-то по какой-то причине решили, что это хорошо.


1) про мышление - это нечеткая логика. Её нельзя преобразовать в формулу. Устал уже вам это писать.

Психика спокойно изучается, результат изучения - психология, неврология и нейросети как частный случай сочетания всех наук.

Мысленные эксперименты являются мысленными, потому что они тупые и в реальности не работают. Так как там ставятся тупые, прям совсем тупые и нереалистичные ограничения.

1.2)

А чего неясно то??? Спросить языка нет?

Спросите. Я вам скажу - мне захотелось. Я могу вам рассказать всю свою биографию, весь огромный массив данных о каждой молекуле, которая взаимодействовала. Но это вам никак и никоим образом не поможет, так как это ЭМПИРИЧЕСКИЙ ОПЫТ. ЭМПИРИЧЕСКИЙ.
ЭМ-ПИ-РИ-ЧЕС-КИЙ. ОПЫТ.

Если вы не знаете что это - нужно просто спросить.
Эмпирический опыт - это то, как вы воспринимаете что-либо. Именно ВЫ. ТОЛЬКО ВЫ.

Нету единого ЭМПИРИЧЕСКОГО ОПЫТА.

Вы посмотрели на гвоздь - получили опыт: ну гвоздь как гвоздь.

Я посмотрел на гвоздь - получил опыт: Сталь М2, головка скошена и в ней отражается небо, надо бы его забить, ибо зацепится кто-нибудь.

Понимаете в чем суть? Сам наблюдаемый объект/процесс тут второстепенен.

Первостепенно ваше восприятие, ваш жизненный опыт, ваши характеристики и ваши личностные качества.

Именно через их призму вы воспримете объект.

И там, где вы "я не вижу миллиардов", Я - "вижу миллиарды".

1.3)

То что вам не сказала причины выбора это поэтому что оно не умеет самоосознавать, ну а вы в силу ограниченности вычислительных мощностей (внешний мониторинг) не можете отследить.

Смотри пункт выше - ты в снимках нейросети или мышления человека увидишь снимок эмпирического опыта. ТЫ НЕ УВИДИШЬ ПРИЧИН, почему пеклеванный лучше булочки.

Просто в этот момент данный выбор показался более предпочтительным.

Ты буквально можешь растеребить нейросеть и человека, замерить уровень активности нейронов и областей мозга.
Но это не даст тебе ответ на вопрос - почему пеклеванный предпочтительнее.
Это даст тебе ответ - в данном снимке сознания/нейросети пеклеванный предпочтительнее.

Для совсем уж глупых поясню - в нейросети ты увидишь веса. 54 97 52 87 16 05 15. Что это тебе даст? Что в текущем снимке сочетание этих весов выдало результат, что пеклеванный предпочтительнее. И нет, ты не найдешь здесь взаимосвязей. Более того, эти же веса в другой момент времени могут выдать другой результат. Так как это связанная система, а ты пытаешься отделить от неё кусок, вырывая из контекста.
А если не отделять - то ты получишь целую нейросеть :D Ха ха.

1.4)

Как писал ранее «информационный принцип Гейзенберга».

А он тут при чём? У нас не квантовые сети. Не квантовая логика. Вы можете любую часть сети в любой момент измерить со 100% точностью.

Вообще 100%. Прям все все 100%.

2)

Вы пишите о незнании (см. п. ХХХ в конце заметки).

Почему оно есть? Хоть как сами писали имеете исходники/решение (вход/выход), формулу/алгоритм расчёта.

У нас нет алгоритма/формулы расчёта. Нету.
У нас есть структура нейросети. Потом, после обучения, эта структура имеет нечеткую логику. Вообще. Для тупых = она не одинаковая и она буквально меняется в процессе обучения и самообучения.


БУКВАЛЬНО МЕНЯЕТСЯ В ПРОЦЕССЕ ОБУЧЕНИЯ И САМООБУЧЕНИЯ. Не структура. Структура та же самая. А её реакция.

Тут проблема не в воспроизведении расчётов, а якобы изменении самого алгоритма. Но почему он меняется вы так ответить и не можете. У нас что алгоритмы обрели самоосознание и свободу выбора/воли (см. п.1)?

Эммм, да. Они собственно для этого и созданы, чтобы решать задачу любым неочевидным способом, те же методы перебора.

Тут уже ваше непонимание работы нейросетей. Вы считаете что если мы изменим "память", алгоритм не поменяется. ПАМЯТЬ меняет ход алгоритма и меняет принятые решения.

Единственное что у нейросети появилось это «память» (о прошлых вычислениях и предпочтениях ответа для спрашивающего). Но это не «разум», это просто буфер, дополнительная переменная в алгоритме/формуле исчисления. Всё.

Не понимаю почему эту переменную сложно учесть. Да «белый ящик» линейного уравнения разросся до многомерного (появилась глубина), «посерел», «почернел» и теперь внешний наблюдатель не может «проверить в лоб». Всё.

Вы опять тупите и опять пишете что нельзя проверить в лоб. МОЖНО. ВЫ МОЖЕТЕ ВЗЯТЬ ВЕСА НЕЙРОСЕТИ И ЕЁ СНИМОК В ЛЮБОЙ МОМЕНТ И ПОЛУЧИТЬ ДОСТУП К ЛЮБОЙ ИНФОРМАЦИИ.

Но.
ВЫ НЕ ПОЛУЧИТЕ решения. Вы не получите ответа - как вышло именное такое решение. Вы получите просто снимок результата. Вы можете пошагово пройти его и получите - вуаля - результат. Не формулу, не ход решения - просто результат. Который получен неизвестно на каких критериях. Вы сами критерии не увидите, вы увидите веса - эмпирический опыт. Он не "это яблоко, значит идём влево и там будет хорошо", он "это сочетание эмпирического опыта хорошо. Там получим другой эмпирический опыт который нас приведет к результату хорошо".



3)

Аналогично и с «человеками». Среднеарифметический человек есть только в социологии и психологии общественных масс. Но он там сведён до «одномерного человека» (человек человеку - потребитель по Пелевину), абстракция, цифры на бумаге, значение переменной/постоянной в матмодели.

Тут я не пойму, вы тупите или издеваетесь - я вам об этом и пишу. Уже который комментарий. Это ЛОГИЧНО, но ход решения неизвестен. Понимаете да? Нет, к сожалению вы не можете этого понять, видимо.

3.2)

Или вы хотите «универсальный алгоритм»? Это вообще что? Некий аналог «философского камня»?

Эмм...
Так он есть. Это и есть решение нейросети. Универсальный алгоритм, ход которого мы не знаем и не можем повторить для общего случая.

Точно так же как ваше любое решение и есть тот самый универсальный алгоритм.

По-моему вы используете термины не понимая, что пишете. Ведь вы буквально говорите, что разума и сознания не существует и он "философский камень" :D Но используете для написания разум... Парадокс...

3.3)

«... Нейросеть не помнит, что она изменила в задаче №1. Или в задаче №2. Или в задаче №5000000000. У неё сохраняется эмпирическое решение - оно не содержит критериев, оно не содержит данных, просто она знает что вот тут правильно, а тут нет. ...»

Переводя на человечьий «у нейросети есть память, но нет самоосознания/рта» описанное мной в п.1.

Вранье. Попытка извратить четкое и понятное описание в бред.
Наличие эмпирического опыта по сути и есть самоосознание в какой-то мере.

Далее вы начинаете нести ересь куда-то про доверие - что вы ей богу? Мы обсуждаем нейросети, а не психологию. А вы куда-то в проработку травм пошли.

Плюс опять у вас неверное понимание теорем и гипотез. Вы почему-то считаете, что "для среднего ума они сложны для перепроверки"...

Йоперный театр, это же гипотеза.

Вы буквально создаете очередной парадокс, не понимая смысла терминов.

3.4)

«... Мы можем размотать всю цепочку решений и изменения этих весов только в том случае, если мы вручную, абсолютно вручную обработаем все данные, которые задавали нейросети, однако результат будет иной :D Ведь логика нечеткая. ...»

Ну вы уже определитесь, или логика чёткая, или нечёткая. Т.е. или «знаю, но не скажу», или тервер/матстат и прочий случай и вероятность.

Логика мышления нейросети нечеткая.

ПЕРЕПРОВЕРИТЬ и РАЗМОТАТЬ вы можете это в четкую логику.

Наверное это сложно для вас - но если проще - ВЫ говорите что вам нужно понять алгоритм работы сети. Но у неё имеется ЧЕТКАЯ логика на ЧАСТНЫЙ случай. Вы можете его размотать.

А если вы попробуете нейросеть преобразовать в алгоритм на нечеткой логике, вы получите... Угадайте что?
НЕЙ!
Таратата-та-та
РО!
Таратата-та-та
СЕТЬ!
Тарата-тата-та
НЕЙ-РО-СЕТЬ :D


Ведь она и есть алгоритм нечеткой логики :D

4)

Проблема в том что вы вы это не видите и не ощущаете!!! Вы просто это представляете, думая что оно там есть. Сквозь нашу планету и нас ежесекундно навылет пролетают всякие высокоэнергетические частицы (типа нейтрино), вы их чувствуете? К слову а космонавты на МКС их иногда видят когда они пролетают сквозь их глазные яблоки (излучение Черенкова). Ну а радиация незримо разрушит ваше тело (она не ощущается) и вы можете ощутить только симптомы радиационного заболевания (последствия, а не причину).

Ух ты. Оказывается, чтобы представлять и воображать, надо ощущать и видеть... Не знал...

Наверное у нас великаны где-то водятся. Космические корабли штурмуют Альфа-центавру, а космодесантники воюют с ересью Хоруса.

Нет? Нету такого? Странно, значит ваши выводы - ересь.

Здесь вы пытаетесь совершенно глупо привязать ощущения к представлению и осознанию. Знаете почему глупо? Потому что тут опять играет роль ваше невежество, увы.

Глаза.

Глазками вы видите примерно 576 000 000 пикселей каждый момент времени. На деле без предобработки количество ниже, ~100 000 000 - 200 000 000.
Вай, только одно чувство, а уже полмиллиарда деталей. Да, вы их видите. Сознательно. Всё ок у вас с восприятием больших чисел :)

Носик (пуговкой) :D

Всего-то какие то жалкие 1,000,000,000,000 (один триллион) запахов может различать :D Вааай, какое маленькое число, ага?
Еще секрет открою - в большинстве случаев мозг пасует перед этим количеством данных, в результате большинство оттенков сбрасывает, дабы не перегружаться :D

Наверное тоже маленькое число... Крааайне маленькое количество ощущений, ага? :D

Кожа.
Буду краток - около 2 415 000 тактильных рецепторов. Вааай, страшна, милляоны, мы их не ощущаем (нет, ощущаем).

Нервы.
Ну всего-то оценивается в триллионы. Такая себе цифра, не впечатляет, да. И наверное не ощущается :D Ведь вы "не можете вообразить и ощутить" :D Но простая иголка вам легко поможет.


И наверное это всё "АБСТРАКЦИЯ И ВЫ НЕ ПОНИМАЕТЕ СУТЬ".

Фух, осталось немного.

Ой, а у вас ящик то «чёрный»! (это в дополнение к моим ответам по предыдущим пунктам выше)


Черный ящик - нет, нейросеть белый ящик, вы можете проследить все стадии. То, что вы не можете понять почему так, а не иначе, не скрывает от вас механизм.

Вы можете взять каждый конкретный случай и получить всю полноту информации о ходе решения в этом конкретном случае. Тут налево, там направо, тут прямо, там назад. А то, что первопричины решений вам неизвестны не закрывает ящик :)

Вы что хотите сказать что программа сама себя переписывает на ходу?

Дыа... Именно. Переписывает ощущения. Эмпирический опыт. Веса. А т.к. в зависимости от весов меняется решение и ход алгоритма, то да, она переписывает себя сама. Не меняя структуру, меняя ход решений и соответственно ход алгоритмов.

Как понять нечёткий? Просили хлеб - принёс хлеб (п.1). Разумеется если вы просите рассчитать число π, то тут надо задавать критерии чёткости/погрешности, или π=3, или 3,1415, или ещё до миллионного знака после запятой.

Почитайте про нечеткую логику. Без базовых знаний тут нечего обсуждать.

Нечеткая она в том, что вам могут принести любой хлеб, в любое время, в любом виде, даже переваренном.

Эммм.. И тут нет доверия. Это машина. И вы можете проверить ответ. Никакой веры в науке, изыди прочь, исчадие ада.

5.3)

Это система, где система уравнений:

х=2+2

у=3+3

Передаст разные изменения в систему при разном порядке выполнения :D Ведь если первым будет обработан X, он повлияет на Y, а если первым Y, то он повлияет на X :) А если (внезапно!) изменения придут одновременно, может быть третий результат :) ...»

Вы или не заметили передёргивания, или с умыслом уводите в сторону.

Кто решает в каком порядке обрабатывать (первым Х/У)? У нейросети появилась свобода воли и выбора?

Ликбез нужно проводить опять, ликбез, нет на вас СССР.
Нейросеть это ПАРАЛЛЕЛЬНЫЕ ВЫЧИСЛЕНИЯ.

Параллельно. С нечеткой логикой.

Поясню - может выполниться первым X, может Y. Если они попадут в один блок вычислений и на один шаг алгоритма - они выполнятся в том порядке, в котором попадут в блок вычислителя.

Если они попадут в разные блоки вычислителя, то слияние может быть произведено в ЛЮБОМ порядке. Первого результата со вторым, второго с первым.

Если они попадут в разные шаги алгоритма (ЛОГИКА НЕЧЕТКАЯ), то результат соответственно будет основан на том, какой шаг выполнен первым.

Много факторов.

ХХХ) В целом тут в дискурсе проступают некие тезисы о нечёткости логики, вероятности, случае и пр.

Тогда проблема познания переходит в область философских рассуждений о познаваемости бытья и мира и полноте знания. Что значит: «я не знаю»

Господи боже, спаси и помилуй, ниспошли рабу божьему @SHER.man учебник по теории вероятностей и запиши его на курсы по нейросетям, для получения базовых знаний математики и современных алгоритмов :D

НЕТ. Это нечеткая логика. Это такой раздел математики... Никакой философии и никакой веры. И в нём никто не спрашивает вашего "знаю, не знаю" :)

Там в промежутке чуток философского бреда, на который я не буду отвечать :D

Если нет, то как тогда мы существуем? Мы порождение этого мира, и как следствие отражение его логики. Просто сам факт нашего успешного существования (цивилизация). Разумеется можно схоластически и постулировать наличие «муравьиной цивилизации»м имеют животноводство (тли), города-государства (муравейники), ведут войны с друг другом и существуют раньше динозавров!

Для совсем простых - в мире нет логики.

В жизни нет цели, кроме двух постулатов - живи и размножайся.

Ну и так, чисто совет - если вы не сильны в точных науках и не знаете базовых терминов - не лезьте сюда, ей богу. Попытки приплести веру, философию и психологию к нейросетям скорее повод для самообмана с целью поднятия собственной значимости, нежели результативное занятие :D

PS куча бреда, просто куча. Плюс перевирание. Плюс попытка привлечь квантовую физику. В общем берём нейросеть, наваливаем сверху веру, снизу подпираем психологией, чтобы конструкция не развалилась, добавляем липкую философию во все дыры, полируем для большей красоты лучшей тряпочкой - безосновательными утверждениями ( в них нет острых аргументов :D ), а чтобы всё это не растеклось и не скатилось в пучину безумия, сверху подвешиваем на обращение к авторитетам и выдернутые из контекста цитаты - обязательно без понимания смысла, ведь смысл тяжелый продукт, а так получается весьма нехилая подъёмная сила, что приведёт нас к просветлению :D

Показать полностью
2

Размышления о нейросетке

Исходник Теорема Геделя или почему киборги нас не победят (но это не точно) где в комментах началось ...

(Для https://pikabu.ru/@TwoCow, @TwoCow)

Хороший дискурс, но что-то раскидался по многим комментам, попытаюсь всё в один ответ ужать.

Сайт не даёт такой длиннющий коммент запостить, так что отдельным постом.

1) https://pikabu.ru/story/teorema_gedelya_ili_pochemu_k..

Вот не поверите, но пример с поведением субъектов я хотел привести, но вы опередили. 😁

Но ваш пример уже «обсосан» наукой уже минимум век. Это проблема «не могу сказать», т.е. знание «почему так» оно есть, но зачем/почему/из-за чего неясно.

Всё началось с Фрейда и психоанализа который постулировал о невозможности изучения психики (Ид/Оно) и далее на основе этого начали сочинять всякие мысленные конструкты. Настоящие учёные на такое обиделись и просто выкинули психику и сознание из «модели/уравнения поведения», так появился «бихевиоризм» с его S→R (а он в свою очередь последование учения рефлексологии И. Павлова (его собачкам привет!), которое в свою очередь основано на Декардовском уподобление животных автоматам и механизмам). Но как не долбились с этим линейным уравнением стимул → реакция всё же бихевиористам пришлось признать что там в бошках/головах людей и животных что-то посложней «белого ящика». В итоге мутировали/проапгрейдились до необихевиоризма с его S→V→R, где V являлся уже «серо-чёрным ящиком» утащенным из кибернетики (даже животное сложнее чем просто жрать/спать/размножаться). Примерно как у вас с нейросеткой сейчас на те же грабли.

1.2) Пример с покупкой хлеба: «... А теперь поясню вам какой момент неясен - неясен ХОД логики. Неясны решения, принятые в ходе решения задачи. Неясны принципы, критерии и мотивации. Вы их не знаете. ...»

А чего неясно то??? Спросить языка нет? 😉

Как вариант «есть плохие дознаватели», у хороших всегда припасён ректальный криптоанализатор 😁😁😁 и прочие методики «поговорить». Ведь вы то знаете почему купили буханку чёрного, или булочку (прежде всего потому-что всё это разновидности хлебобулочных в категории «хлеб» которая достаточно широка и всё в поле допуска/погрешности). Вот если бы вы вместо этого купили табуретку, или набор катафотов, то были ВОПРОСЫ к вашей логике.

1.3) Ну а в данном случае (проецируя на нейросеть) нет ушей чтоб услышать и рта чтоб ответить. Да и в целом по ту сторону экрана никого нет, т.к. нет самоосознания и рефлексии поведения. Т.е. некому ответить «почему/зачем так». Но есть внешний наблюдатель в виде вас, меня которые могут размотать эту причинно-следственная цепочку. Всё что нужно это «память» где фиксировались состояния (ваш пример с объёмами банка памяти). По сути мы бы имели набор мгновенных состояний (фотографий) которые при склеивании и быстрой перемотке образовывали «киноплёнку» (а это отсылка к апории «стрела Зенона» как метафоре самосознания моментов состояния).

Если это можно (хотя бы в теории), то ваша сеточка логична. Её алгоритмы правильны (просили «хлеб» принесла хлебобулочное, а не что-то иное). То что вам не сказала причины выбора это поэтому что оно не умеет самоосознавать, ну а вы в силу ограниченности вычислительных мощностей (внешний мониторинг) не можете отследить.

1.4) Как писал ранее «информационный принцип Гейзенберга».

2) «... Логику видим. Всю логическую цепочку - нет. Логическую цепочку одного решения - нет. Критерии оценки одного решения - нет. ...»

Вы пишите о незнании (см. п. ХХХ в конце заметки).

Почему оно есть? Хоть как сами писали имеете исходники/решение (вход/выход), формулу/алгоритм расчёта.

Тут проблема не в воспроизведении расчётов, а якобы изменении самого алгоритма. Но почему он меняется вы так ответить и не можете. У нас что алгоритмы обрели самоосознание и свободу выбора/воли (см. п.1)?

Нет!!!

Единственное что у нейросети появилось это «память» (о прошлых вычислениях и предпочтениях ответа для спрашивающего). Но это не «разум», это просто буфер, дополнительная переменная в алгоритме/формуле исчисления. Всё.

Не понимаю почему эту переменную сложно учесть. Да «белый ящик» линейного уравнения разросся до многомерного (появилась глубина), «посерел», «почернел» и теперь внешний наблюдатель не может «проверить в лоб». Всё.

3) https://pikabu.ru/story/teorema_gedelya_ili_pochemu_k..

«... Проблема не в том, что мы де не знаем что там происходит - мы знаем что там происходит. Проблема в том, что перебрав и найдя все варианты для одного частного случая, мы получим решение ТОЛЬКО для этого частного случая. ...»

Я вам небольшую тайну открою, в психологии/этологии тоже анализируют только частные случаи (из-за самой субъектность объекта наблюдения). Т.к. любые рассуждения о общем - абстракция, реальность всегда практична и является набором частных случаев.

Нет «деревьев» - это абстракция, есть категории: берёзы, ёлки, пихты, эвкалипты и т.д., которые в свою очередь тоже обобщение неких реальных деревьев (у меня яблоня и у соседа яблоня, они разные по: сорту, размерам/форме и т.д.

Аналогично и с «человеками». Среднеарифметический человек есть только в социологии и психологии общественных масс. Но он там сведён до «одномерного человека» (человек человеку - потребитель по Пелевину), абстракция, цифры на бумаге, значение переменной/постоянной в матмодели.

Так что логика в «...решение ТОЛЬКО для этого частного случая...»© есть? Тогда всё логично!

3.2) Или вы хотите «универсальный алгоритм»? Это вообще что? Некий аналог «философского камня»?

Психологи вон тоже уже ~1,5 века ищут разум ... в итоге поняли что человек всё же разумен, но действует сообразно ситуации («психика - проактивное отражение объективной реальности»©). Так что гадать как он поступит наперёд ... в этом моделировании слишком много переменных, при этом некоторые факторы неизмеряемы (нет данных до момента контакта), или просто неизвестны.

https://pikabu.ru/story/chelovek_razumnyiy_vs_mrakobe.. (моя заметка о разумности в королевстве кривых зеркал)

3.3) «... Нейросеть не помнит, что она изменила в задаче №1. Или в задаче №2. Или в задаче №5000000000. У неё сохраняется эмпирическое решение - оно не содержит критериев, оно не содержит данных, просто она знает что вот тут правильно, а тут нет. ...»

Переводя на человечьий «у нейросети есть память, но нет самоосознания/рта» описанное мной в п.1.

Но иногда для правильного ответа сознание и не нужно 😉, см. НФ роман «Ложная слепота».

Ваша жалоба в том что «оно мне не говорит почему так», т.е. недоверие к иному. Ну а «проблемы с доверием», это к психологам 😜. Вы когда встаёте со стула осознаёте всю последовательность включения мышц вашего тела для того чтобы встать со стула? Какие срабатывают, с каким усилием, как оно всё координируется, взаимоподстаивается (для удержания того же баланса) и т.д. Нет, вы просто «встань и иди». Это НЕЗНАНИЕ мешает вам передвигаться? У мухи дак вообще мозгов нет, там ганглии из буквально с десяток нейронов, но это ей не мешает летать (трёхмерное перемещение) выделывая пируэты уворачиваясь от мухобойки (у неё к слову скорость реакции гораздо выше нашей, для неё мы «тормоза»/черепахи).

А если ближе к науке есть куча формул, или гипотез в той же математике которые применяют на веру (т.к. для среднего ума они сложны для перепроверки). В пример тот же решение Перельмана которое я пытался осилить в научпоп варианте, но так оно и осталось для меня любопытной математической абстракцией.

3.4) «... Мы можем размотать всю цепочку решений и изменения этих весов только в том случае, если мы вручную, абсолютно вручную обработаем все данные, которые задавали нейросети, однако результат будет иной :D Ведь логика нечеткая. ...»

Ну вы уже определитесь, или логика чёткая, или нечёткая. Т.е. или «знаю, но не скажу», или тервер/матстат и прочий случай и вероятность.

4) https://pikabu.ru/story/teorema_gedelya_ili_pochemu_k..

«... Ваш мозг стопорится на том, что у вас недостаток воображения для отображения данной абстракции в натуральных величинах. ...»

«Вот щас обидно было»© 😁😁😁

В целом ответил тут https://pikabu.ru/story/teorema_gedelya_ili_pochemu_k.. (облако в штанах), но: «... Взгляните на любой предмет. Там миллиарды-гуголионы элементарных частиц. Вы буквально каждую секунду видите такое количество элементов, что буквально такого числа еще не придумали :D И при это вы не ломаетесь совершенно и даже мозги не вскипают :) ...»

Проблема в том что вы вы это не видите и не ощущаете!!! Вы просто это представляете, думая что оно там есть. Сквозь нашу планету и нас ежесекундно навылет пролетают всякие высокоэнергетические частицы (типа нейтрино), вы их чувствуете? К слову а космонавты на МКС их иногда видят когда они пролетают сквозь их глазные яблоки (излучение Черенкова). Ну а радиация незримо разрушит ваше тело (она не ощущается) и вы можете ощутить только симптомы радиационного заболевания (последствия, а не причину).

Вы это чувствуете? А ещё что чувствуете, сигналы из космоса? Например движение небесных тел и прочую астрологию? С вами духи не разговаривают? Так что вы думаете что видите, или думаете что понимаете.

Это я к одному понятию «карта≠местность». Вы даёте определение/ярлык абстрагируя свойства наблюдаемого, а через него пытаетесь понять суть. Но теряете сам объект в процессе рассуждения.

5) https://pikabu.ru/story/teorema_gedelya_ili_pochemu_k..

«... Он белый. Вы можете посмотреть все механизмы работы, все алгоритмы и возможные пути решения. Проблема в том, что внутри все механизмы на подвижных платформах, как конструктор и в каждый момент времени изменяют своё положение в зависимости от прошлых и текущих входных данных. ...»

«Я просто оставлю это здесь»© https://ru.m.wikipedia.org/wiki/Чёрный_ящик

«... «Метод чёрного ящика» — метод исследования таких систем, когда вместо свойств и взаимосвязей составных частей системы, изучается реакция системы, как целого, на изменяющиеся условия. Подход чёрного ящика сформировался в точных науках (в кибернетике, системотехнике и физике) в 1920—1940-х годах и был заимствован другими науками (прежде всего, бихевиористической психологией). ... Система, которую представляют как «чёрный ящик», рассматривается как имеющая некий «вход» для ввода информации и «выход» для отображения результатов работы, при этом происходящие в ходе работы системы процессы наблюдателю неизвестны. ... Изучение системы по методу чёрного ящика сводится к наблюдениям за ней и проведению экспериментов по изменению входных данных, при этом в ходе наблюдения над реакциями системы на внешние воздействия достигается определённый уровень знаний об исследуемом объекте, позволяющий осуществлять прогнозирование поведения «чёрного ящика» при любых заданных условиях. ...»

+ https://studfile.net/preview/6330436/page:41/

Ой, а у вас ящик то «чёрный»! (это в дополнение к моим ответам по предыдущим пунктам выше)

5.1) «... Проблема в том, что даже видя весь механизм вы не сможете узнать его текущий алгоритм работы, ведь он меняется буквально ежесекундно. ...»

Вы что хотите сказать что программа сама себя переписывает на ходу?

5.2) «... Тут проблема не в том, что мы не знаем часть механизма, а в том, что механизм выдаёт нечеткий результат. ...»

Как понять нечёткий? Просили хлеб - принёс хлеб (п.1). Разумеется если вы просите рассчитать число π, то тут надо задавать критерии чёткости/погрешности, или π=3, или 3,1415, или ещё до миллионного знака после запятой.

Но как писал ранее тут вопрос/проблема доверия, т.к. из-за собственных ограничений приходиться принимать на веру. Но это не техническая проблема, а ... политическая/психологическая.

5.3) «... Это система, где система уравнений:

х=2+2

у=3+3

Передаст разные изменения в систему при разном порядке выполнения :D Ведь если первым будет обработан X, он повлияет на Y, а если первым Y, то он повлияет на X :) А если (внезапно!) изменения придут одновременно, может быть третий результат :) ...»

Вы или не заметили передёргивания, или с умыслом уводите в сторону.

Кто решает в каком порядке обрабатывать (первым Х/У)? У нейросети появилась свобода воли и выбора?

Или тут просто «погроммист» написавший этот алгоритм (что, в какой очерёдности просчитывать) и теперь бегающий и орущий про восстание машин, «Скайнет!!!» и не понимающий своей «багофичи»?

..........

ХХХ) В целом тут в дискурсе проступают некие тезисы о нечёткости логики, вероятности, случае и пр.

Тогда проблема познания переходит в область философских рассуждений о познаваемости бытья и мира и полноте знания. Что значит: «я не знаю»?

Х.1) Нехватка вычислительный мощностей/цейтнот. Нужен ответ, но нет времени и сил и даётся примерный (округлённый/с погрешностью). Интервал от ... до ... (по колено/до колена), или вектор/направление (типа ПШНАХ 😁), или π=3!

Х.2) Аналогично когда у нас нет точной модели/формулы и приходиться оперировать абстракциями и упрощениями. Например формула ламинарного потока в гидродинамике, или аэродинамике исходит из допущения «идеального газа/жидкости» который редукция реальной жижи и воздуха. И именно поэтому «теория подтверждается/проверяется практикой».

Х.3) Это случайность, вероятность в чистом виде где невозможно чёткое, однозначное состояние в силу мироустройства. Например число π как пример иррациональности и невозможности вычислить дроб до конца. Или облако без штанов (в небе) где с земли вот оно, но при попытке найти границу перехода воздух/облако упираемся в градиент (1 молекула пара - это облако? А 2? А 3~5~105?). Или ещё какие парадоксы квантовой физики.

Но тут вопрос в познании разума (человеческого, или машинного). Он детерминирован (обусловлен причинностью), или набор случайных флуктуации?

Если да (абсолютное познание возможно), то всё сводиться к Х.1~Х.2 (вопрос наших возможностей).

Если нет, то как тогда мы существуем? Мы порождение этого мира, и как следствие отражение его логики. Просто сам факт нашего успешного существования (цивилизация). Разумеется можно схоластически и постулировать наличие «муравьиной цивилизации»м имеют животноводство (тли), города-государства (муравейники), ведут войны с друг другом и существуют раньше динозавров!

Но этот оффтоп возможно будет размышлением в другой заметке (моск устал, многа букав).

Показать полностью
Отличная работа, все прочитано!