Все эти ИИ а-ля чатГПТ плохо пока понимают смысл. Вот бессмертная классика:

Варкалось. Хливкие шорьки
Пырялись по наве,
И хрюкотали зелюки,
Как мюмзики в мове.

Все чувствуют, что слова имеют какой-то смысл, понимают какое из них какой части речи, как связаны друг с другом. Попросим ИИ написать стихотворение по образу и подобию этого, но  чтобы оно стало осмысленным. Даже дадим тему - насморк - и пару строк для затравки:

Сморкалась. Длинные сопли́
Стекали по щеке.

И посмотрим, что выйдет. Например у меня вышло так:

Сморкалась. Длинные сопли́
Стекали по щеке.
Нос красный, голова тяжела,
Но насморк не сломит меня.

По аптекам я бегала,
В поисках лекарства своего,
И в конце концов нашла,
Что поможет мне навсегда.

Капли, спреи, таблетки -
Выбор был огромный,
Но я выбрала то, что точно
Справится с насморком моим.

Теперь я чувствую себя лучше,
Смеюсь и песни пою,
И больше не боюсь насморка,
Ведь я знаю, что есть спасение в любой миг.

Ну согласитесь - как-то не особо вдохновляюще: это просто какой-то текст на заданную тему, но:
1. нет ритмики стиха
2. нет рифм

Наглядно?

PS Я сам программист. В программировании с этими ботами такая же ситуация: вроде бы написано что-то похожее на код, но только внешне. По факту оно такое же нежизнеспособное и бессмысленное.

И я не луддит: считаю, что если программист обладает фундаментальным образованием и может писать код и без чат гпт, то используя его для локальных изолированных задач можно добиться некоторого буста за счёт более интеллектуального поиска. Но для архитектуры, связанных модулей пока мощщи ИИ пока не хватает - ситуация аналогичная ситуации с рифмами и ритмикой.