Ответ на пост «Хаус-кипер 2.0: зачем нам ИИ, к которому мы действительно привязаны»
Автор абсолютно не видит проблем, видимо, в силу большой веры в человечество. Альтернативный вариант: автор пытается продать очередное "ИИ-для-бизнеса" решение, прикрываясь разговорами о любви...
Это не будет работать по трём пунктам:
1. ЛОЯЛЬНОСТЬ
"Хаус-кипер" был не только человеком, который знал всё и всех в доме, но и человеком, которому хозяева БЕЗОГОВОРОЧНО доверяли. Он воспитывался с детства таким образом, чтобы быть преданным хозяевам и ценить их больше, чем что-либо в этом мире. Конечно, бывали исключения, но система держалась только на доверии и лояльности.
В случае с ИИ, такое невозможно. Во-первых, вычислительные мощности явно будут на стороне "провайдера" (который МОЖЕТ использовать свой ИИ для, например, продажи вам товаров определенного бренда, и собирать и накапливать личную информацию, которую МОГУТ украсть злоумышленники). Во-вторых, всегда есть риск взлома - как бы не старались "обезопасить" разработчики, иногда дыры в безопасности появляются в неожиданных местах, и вот уже вам нужно объяснять не престарелым родителям, что нельзя просто взять и перевести все деньги в крипту через обменник и отправить неизвестному, а своему "семейному" ИИ, который управляет вашей и ваших родных жизнями. В-третьих, даже если взлом невозможен, система полностью развернута локально и никуда никому никаких персональных данных не отправляет, даже в этом случае скорее всего в ней есть сервисные бэкдоры, которые могут быть использованы против вас.
В общем случае, подобное - это не просто отдать ключи от дома незнакомцу, а полностью подчинить свою жизнь его воле, стать марионеткой в его руках: как показывают некоторые LLM на roleplay-тестах, врать ИИ может очень даже хорошо, убеждая людей в том, что нужно (задано целью) этому самому ИИ. Вы готовы впустить в свою жизнь идеального притворщика с неизвестными вам целями? Я - нет.
2. НЕОБХОДИМОСТЬ
"Хаус-кипер" был таковым человеком, потому что в нём была необходимость. Сейчас большинство его задач легко автоматизируются даже без ИИ, а ИИ-агенты лишь помогают упростить наиболее сложные задачи управления. Разумеется, "Хаус-кипер" в виде настоящего мясного человека тоже обладал уязвимостями и косяками эффективности, и с этим мирились, потому что НЕ БЫЛО ДАЖЕ ВЫКЛЮЧАТЕЛЕЙ света в комнате, нужно было отдать указание людям, которые зажгут или погасят лампы. Специальный человек, который брал на себя координацию всех процессов обслуживания был оправдан с точки зрения эффективности, несмотря на все риски (ему-то наслаждаться жизнью, в отличии от хозяев, время не требуется).
Сейчас я могу с Камчатки включить свет на кухне в квартире в Москве, посмотреть, кто там шастал по лестнице в подъезде и сделать ещё массу бесполезных, пока я в отъезде, дел не потратив на это много сил и времени. Остались ли задачи, для которых мне нужен персонализированный ИИ? Нет. Разве что какая-то совсем уж бессмысленная блажь, которая не сделает мою жизнь ни проще, ни приятней.
3. НАДЕЖНОСТЬ (УСТОЙЧИВОСТЬ)
Современный "умный дом" очень сильно завязан на доступ к интернету и стабильность электросети. Мы идём куда дальше, когда начинаем говорить о том, чтобы встроить управление с помощью персонального ИИ вообще во все аспекты быта И в эмоциональное поле пользователя. Чем больше параметров будет обрабатывать ИИ, тем больше вероятность возникновения сбоев.
Здесь вопрос даже не столько этический, "насколько приемлемо с точки зрения морали человеку доверять управление своими эмоциями машине, и насколько приемлемо делать зависимую от эмоций систему управления", вопрос сугубо прагматический: какие проблемы и риски этому сопутствуют? Не станет ли, например, такой ИИ-ассистент причиной развития или даже возникновения психических и умственных расстройств? Какова надежность подобной системы, будет ли она подвержена случайным или систематическим сбоям, которые НЕВОЗМОЖНО будет отладить из-за их ментального характера? Кто и как должен разработать рамки допустимого для подобного ИИ, ведь то, что для одного пользователя - невинные шутки или забавная фишка, для другого - ужасное оскорбление его чувств, а для третьего - необходимость, и какие-либо ограничения этого он будет считать "зацензуриванием" и "попранием свобод".
Хотя этические вопросы всё равно остаются. Вы знаете, как разработать ИИ, который будет всех устраивать без озвученных выше сложностей? Я вот за всё человечество ручаться не берусь.
Ну и бонусом, четвертая, временная причина:
4. СЛОЖНОСТЬ
Это только кажется, что в принципе современные модели обладают достаточным размером контекстного окна, чтобы вместить туда "отражение человеческой личности" и быть ему хорошим эмоциональным спутником, что можно оптимизировать работу множества нейронок так, чтобы они эффективно друг с другом взаимодействовали и могли управлять всем, но на деле, это всё упирается в то, что всей вычислительной мощности человечества не хватит даже на несколько тысяч пользователей при таких объёмах необходимых вычислений.
Это задача в разы сложнее "синтезирования" текста под заданные критерии на основе огромного объёма текстовых данных, сложнее синтезирования или распознания изображений, когда речь заходит о подстраивании под эмоции и сохранение некоторой "непрерывности" его сознания.
Со временем, технические сложности можно будет преодолеть, но вот то, что описано выше - вряд ли, если только не переделать всё человечество, чтобы оно могло без проблем таким пользоваться.
В представленном на сайте демо есть управление цифровой моделью с помощью ИИ, распознание и синтез речи (посредственный, интонации далеки от "человечности", плюс паузы на "додумывание" текста ответа.), всё на базе зарубежных LLM, без реально "своего" эмоционального и живого ИИ.
В моём посте ответ про домашний ИИ, потому что автор сам себе выкопал яму, заговорив о "хаус-киперах" и "живёте и привязываетесь". В оригинале (то, что рекламируют) идёт речь о бизнес-процессах, и знаете, для бизнеса идея "эмоциональных аватаров" тоже сомнительна (походит на что-то забавы ради, а не для дела), там это вполне может работать, но так, как подается "рекламщиками", в духе "хаус-кипер 2.0" - это просто смешно, просто написать грамотно инструкции для LLM, чтобы интегрировать с бизнес-процессами - это совсем не то же самое, что написать "живого ИИ-ассистента", как представлено в рекламе.
P.S. Ребят, ну "ИИ, к которому мы привязаны" несёт какую-то негативную окраску. Вроде такого: "чайник, который ограничивает твою свободу". Навевает мысли о добровольном рабстве у машины (которая всё так же остаётся безэмоциональной, но умело манипулирует тобой). Я, конечно, обеими руками за прогресс, и за то, чтобы "Вкалывают роботы, а не человек", но тут маркетинговая политика вызывает отторжение. Это кроме того, что философия, выбранная вами, тоже имеет ряд проблем. Задумайтесь.