Текстовые ИИ достигли впечатляющих результатов: от генерации статей до написания кода. Но иногда вы ставите перед ними сложную, многоэтапную, структурированную задачу, или проблему, требующую глубокого анализа, и неожиданно, вместо грамотного и обоснованного решения, вы получаете галлюцинации: модель придумывает нелогичное решение, далёкое от реальности; забывает всё, что вы только что обсуждали, и в ответ на глубокие вопросы вы получаете шаблонные отписки, что, естественно, раздражает пользователя.
Одна из причин таких казусов — отсутствие направленного мышления. Мы, пользователи, подаём запросы, но не задаём структуру мышления: то, как должна думать нейросеть. А ведь тут нужен не просто вероятностный алгоритм, а цепочка рассуждений. Модель же вынуждена угадывать наш контекст, стиль мышления, уровень абстракции, и, как итог, часто ошибается.
Больше новостей тут:источник
