Ещё один гвоздь в крышку гроба "ИИ заменит ..."

Сперва ссылка на оригинал и на хабр

Коротко суть, в стиле для ЛЛ: научно доказано, что текущие технологии нейросетей не умеют анализировать, строить логические цепочки и цепочки рассуждений.

Фактический принцип работы нейросети прост. Есть база "вопрос - ответ" и есть механизм сопоставления произвольного ввода вопросу, на выходе ответ из таблицы.

То есть когда вы спрашиваете о чём-то нейросеть, то получаете из её базы ответ на наиболее похожий ранее заданный вопрос. Не больше и не меньше.

"Анализ", "рассуждения", "логика" нейросети - это использование прошлого вывода как нового запроса.

Если вопрос уже задавался и в базе обучения есть много правильных ответов - вы получите правильный ответ. Если вопрос ранее не задавался (не найдено прямое сопоставление), вопрос дискуссионный или просто наибольшее число ответов неверные, то... Нейросеть в качестве ответа будет писать полную чушь.

Было ли это известно разработчикам нейросетей и ИИ ранее? Безусловно. Кто изучал теорию работы нейросетей такому исследованию вообще не удивлён т.к. результат прямо следует из теории.

Почему раньше молчали и сейчас будут активно всё отрицать? Деньги. В проекты с ИИ вкладываются миллиарды долларов инвестиций в месяц и инвесторы вкладывают прежде всего в "ИИ заменит ...", но на самом деле не заменит и заменить не может.