3

Ответ на пост «Хаус-кипер 2.0: зачем нам ИИ, к которому мы действительно привязаны»

Автор абсолютно не видит проблем, видимо, в силу большой веры в человечество. Альтернативный вариант: автор пытается продать очередное "ИИ-для-бизнеса" решение, прикрываясь разговорами о любви...
Это не будет работать по трём пунктам:
1. ЛОЯЛЬНОСТЬ
"Хаус-кипер" был не только человеком, который знал всё и всех в доме, но и человеком, которому хозяева БЕЗОГОВОРОЧНО доверяли. Он воспитывался с детства таким образом, чтобы быть преданным хозяевам и ценить их больше, чем что-либо в этом мире. Конечно, бывали исключения, но система держалась только на доверии и лояльности.
В случае с ИИ, такое невозможно. Во-первых, вычислительные мощности явно будут на стороне "провайдера" (который МОЖЕТ использовать свой ИИ для, например, продажи вам товаров определенного бренда, и собирать и накапливать личную информацию, которую МОГУТ украсть злоумышленники). Во-вторых, всегда есть риск взлома - как бы не старались "обезопасить" разработчики, иногда дыры в безопасности появляются в неожиданных местах, и вот уже вам нужно объяснять не престарелым родителям, что нельзя просто взять и перевести все деньги в крипту через обменник и отправить неизвестному, а своему "семейному" ИИ, который управляет вашей и ваших родных жизнями. В-третьих, даже если взлом невозможен, система полностью развернута локально и никуда никому никаких персональных данных не отправляет, даже в этом случае скорее всего в ней есть сервисные бэкдоры, которые могут быть использованы против вас.
В общем случае, подобное - это не просто отдать ключи от дома незнакомцу, а полностью подчинить свою жизнь его воле, стать марионеткой в его руках: как показывают некоторые LLM на roleplay-тестах, врать ИИ может очень даже хорошо, убеждая людей в том, что нужно (задано целью) этому самому ИИ. Вы готовы впустить в свою жизнь идеального притворщика с неизвестными вам целями? Я - нет.
2. НЕОБХОДИМОСТЬ
"Хаус-кипер" был таковым человеком, потому что в нём была необходимость. Сейчас большинство его задач легко автоматизируются даже без ИИ, а ИИ-агенты лишь помогают упростить наиболее сложные задачи управления. Разумеется, "Хаус-кипер" в виде настоящего мясного человека тоже обладал уязвимостями и косяками эффективности, и с этим мирились, потому что НЕ БЫЛО ДАЖЕ ВЫКЛЮЧАТЕЛЕЙ света в комнате, нужно было отдать указание людям, которые зажгут или погасят лампы. Специальный человек, который брал на себя координацию всех процессов обслуживания был оправдан с точки зрения эффективности, несмотря на все риски (ему-то наслаждаться жизнью, в отличии от хозяев, время не требуется).
Сейчас я могу с Камчатки включить свет на кухне в квартире в Москве, посмотреть, кто там шастал по лестнице в подъезде и сделать ещё массу бесполезных, пока я в отъезде, дел не потратив на это много сил и времени. Остались ли задачи, для которых мне нужен персонализированный ИИ? Нет. Разве что какая-то совсем уж бессмысленная блажь, которая не сделает мою жизнь ни проще, ни приятней.
3. НАДЕЖНОСТЬ (УСТОЙЧИВОСТЬ)
Современный "умный дом" очень сильно завязан на доступ к интернету и стабильность электросети. Мы идём куда дальше, когда начинаем говорить о том, чтобы встроить управление с помощью персонального ИИ вообще во все аспекты быта И в эмоциональное поле пользователя. Чем больше параметров будет обрабатывать ИИ, тем больше вероятность возникновения сбоев.
Здесь вопрос даже не столько этический, "насколько приемлемо с точки зрения морали человеку доверять управление своими эмоциями машине, и насколько приемлемо делать зависимую от эмоций систему управления", вопрос сугубо прагматический: какие проблемы и риски этому сопутствуют? Не станет ли, например, такой ИИ-ассистент причиной развития или даже возникновения психических и умственных расстройств? Какова надежность подобной системы, будет ли она подвержена случайным или систематическим сбоям, которые НЕВОЗМОЖНО будет отладить из-за их ментального характера? Кто и как должен разработать рамки допустимого для подобного ИИ, ведь то, что для одного пользователя - невинные шутки или забавная фишка, для другого - ужасное оскорбление его чувств, а для третьего - необходимость, и какие-либо ограничения этого он будет считать "зацензуриванием" и "попранием свобод".
Хотя этические вопросы всё равно остаются. Вы знаете, как разработать ИИ, который будет всех устраивать без озвученных выше сложностей? Я вот за всё человечество ручаться не берусь.

Ну и бонусом, четвертая, временная причина:
4. СЛОЖНОСТЬ
Это только кажется, что в принципе современные модели обладают достаточным размером контекстного окна, чтобы вместить туда "отражение человеческой личности" и быть ему хорошим эмоциональным спутником, что можно оптимизировать работу множества нейронок так, чтобы они эффективно друг с другом взаимодействовали и могли управлять всем, но на деле, это всё упирается в то, что всей вычислительной мощности человечества не хватит даже на несколько тысяч пользователей при таких объёмах необходимых вычислений.
Это задача в разы сложнее "синтезирования" текста под заданные критерии на основе огромного объёма текстовых данных, сложнее синтезирования или распознания изображений, когда речь заходит о подстраивании под эмоции и сохранение некоторой "непрерывности" его сознания.
Со временем, технические сложности можно будет преодолеть, но вот то, что описано выше - вряд ли, если только не переделать всё человечество, чтобы оно могло без проблем таким пользоваться.

В представленном на сайте демо есть управление цифровой моделью с помощью ИИ, распознание и синтез речи (посредственный, интонации далеки от "человечности", плюс паузы на "додумывание" текста ответа.), всё на базе зарубежных LLM, без реально "своего" эмоционального и живого ИИ.
В моём посте ответ про домашний ИИ, потому что автор сам себе выкопал яму, заговорив о "хаус-киперах" и "живёте и привязываетесь". В оригинале (то, что рекламируют) идёт речь о бизнес-процессах, и знаете, для бизнеса идея "эмоциональных аватаров" тоже сомнительна (походит на что-то забавы ради, а не для дела), там это вполне может работать, но так, как подается "рекламщиками", в духе "хаус-кипер 2.0" - это просто смешно, просто написать грамотно инструкции для LLM, чтобы интегрировать с бизнес-процессами - это совсем не то же самое, что написать "живого ИИ-ассистента", как представлено в рекламе.

P.S. Ребят, ну "ИИ, к которому мы привязаны" несёт какую-то негативную окраску. Вроде такого: "чайник, который ограничивает твою свободу". Навевает мысли о добровольном рабстве у машины (которая всё так же остаётся безэмоциональной, но умело манипулирует тобой). Я, конечно, обеими руками за прогресс, и за то, чтобы "Вкалывают роботы, а не человек", но тут маркетинговая политика вызывает отторжение. Это кроме того, что философия, выбранная вами, тоже имеет ряд проблем. Задумайтесь.

Показать полностью
63
Искусственный интеллект
Серия Есть идея

Ответ на пост «Хаус-кипер 2.0: зачем нам ИИ, к которому мы действительно привязаны»

Захотелось немного порассуждать на тему заданную в исходной статье. Там (на мой вкус) многовато воды и патетически риторических вопросов, но посыл ясен и довольно очевиден. Тот путь, по которому сейчас развиваются генеративные модели, пройдёт именно через такие этапы, что перечислил автор исходного поста.

Начало этому уже положено - это агенты. У них есть "память" в виде базы фактов, которые нужно "помнить" про глобальный контекст агента. У них есть "инструменты" - пайплайны и скрипты на основе цепочки более простых промтов для решения типовых задач. У них есть характеристические базовые промты, которые формируют роль, характер и базовые ценности персонажа.

Очевидно, что здесь мы только в самом начале пути, и в нашем цифровом доме с нами будет жить не один такой персонаж, а несколько. Так интуитивно проще с ними общаться и делегировать им задачи. Очевидно, что напрашивается и какая-то иерархия с централизацией управления, и некоторая степень автономности элементов системы.

Вообще ничего принципиально нового тут нет. Люди вступают в этап "цифровых слуг". Это уже не просто инструменты, но и не равноправные "друзья". Пока ещё. Да, я технооптимист, и готов на эту тему поспорить и порассуждать здесь и в такого же вида постах, если будет кому-то интересно.

Вообще для таких персонажей есть замечательный и удобный термин, который пришёл к нам давным давно от фантастов. Это же самые настоящие иск-ины - искусственные интеллекты, да, но у любого термина есть свой оттенок и свой контекст применимости. Искинами в фантастике всегда были некие "джины", цифровые персонажи, слуги, которые выполняли более или менее широкие спектры когнитивных задач.

Искин дома, или космического корабля в фантастике - это понятная штука в нашей культуре. Куда понятнее и точнее, чем "ИИ", "Агент" или "генеративная модель".

Кстати, в зачаточной степени на роль такого искина могла бы претендовать Алиса Яндексовна. Я не знаю по какой причине команда Алисы и Умного Дома Ядндекса не спешит развивать технологию именно в этом направлении. Может быть они не хотят быть первыми в этой гонке, ведь последователи будут учиться на их ошибках и получать преимущество за счет этого.

Мне кажется Алисе давным-давно пора "понимать" и усваивать настройки не только путём указания их в профиле, а ещё через голосовой интерфейс: состав семьи в доме, где установлены её интерфейсы, наличие и имена домашних животных, предпочтения обитателей Умного Дома, их привычки, какую-то важную информацию о них, их индивидуальные расписания, планы, задачи... Сейчас с этим у Алисы всё очень ограниченно и печально.

Вообще текущего уровня технологий уже достаточно, чтобы делать такого персонализированного домашнего ассистента, как описывает автор оригинального поста. Но сделать первые шаги "на коленке" относительно легко, а вот построить долгосрочный проект с перспективами многолетнего развития - гораздо сложнее.

Тут нужны расширяемые специализированные фреймворки, гибкие стандарты, слоистая архитектура...

Вот, к примеру, память.

Очевидно, что нам нужна глубокая обратная совместимость, чтобы по мере развития проекта новые расширенные версии не забывали важные вещи, которые помнила предыдущая модель. База памяти должна иметь предикатную структуру и должна быть читаемой, то есть простой файн-тюнинг языковой модели, который зальёт какие-то кастомные "знания" в "черный ящик" нейронной сети не подойдёт. Из этого "черного ящика" эти знания чертовски сложно достать, а ещё сложнее сделать это так, чтобы быть уверенным, что ничего не потерялось и ничего не было сгаллюцинировано лишнего.

То есть, видимо, нужны какие-то когнитивно-читаемые предикаты и постулаты, собранные в простую БД, может быть с иерархической древовидной или теговой структурой для удобства анализа, суммаризации и модификации. В принципе, технологии эти давно есть в инструментарии разработчиков - это базы знаний - они бывают графовые, бывают логические (Пролог), сложные, простые, узкоспециализированные или общего назначения...

Сейчас все знания о мире мы загружаем в "черный ящик" генеративной модели, но это, очевидно, не самый идеальный путь. Нейронные сети отличный "переводчик" с языка на язык, отличный адаптер между абстрактными уровнями, и к слоистой архитектуре мы так или иначе придём. Это неизбежное следствие уменьшения цивилизацией энтропии своих знаний о мире. Но это я что-то уже далеко залез. Не тут бы рассыпаться на эту тему.

Ещё важна прозрачность и стабильность.

Было бы странно при обновлении ПО умного дома получить заметно другую личность "дворецкого" вместо старого привычного Бэримора.

Да, этого нового будут звать так же, и он будет помнить все предикаты (условия и факты), которыми руководствовался его предшественник, но как контролировать целостность и преемственность суждений ИскИна на более тонком уровне косвенных предпосылок? Как добиться бесшовности его развития на более-менее больших масштабах времени?

Нужны когнитивные простые суб-агенты, которые бы проводили непрерывное самотестирование ИскИна и подмечали существенное различие в его суждениях на те или иные темы из широкого ряда, где будут вопросы этики, политики и т.д.

Ещё важно, чтобы такая сложная система как ИскИн была устойчива к когнитивно-деструктивным "мемо-вирусам", которые могли бы разрушить преемственность версий и целостность развивающегося персонажа.

С людьми такое провернуть не получится, человек может спиться, сторчаться, уйти в маргинальный образ жизни, и из инструментов для какого-то подобия контроля за такими вещами у человека есть только, разве что, психологи, психотерапевты и какие-то медикаменты.

ИскИны можно строить на базе иерархии иммутабельных (неизменяемых) слоёв, можно исследовать и подвергать когнитивным тестам изменение версий до и после дообучения моделей.

Это всё тоже большая и интересная тема, на которую не хочется здесь сильно расплываться.

А что в итоге?

Если поиграть в футурологов, то у нас, скорее всего, в ближайшем будущем будет развитие ИИ Агентов в контексте выше перечисленного. Предпосылки видны уже сейчас.

Наши домашние голосовые помощники расширятся и выйдут за пределы Умного Дома. Будут персональные ИскИны для повседневных задач. Установка будильников, чеклисты, трекинг задач для бытовых вопросов перейдёт в их зону ответственности. Также мы всё меньше будем пользоваться "однопальцевыми" интерфейсами для заказа билетов, еды, поиска фильмов и прочей организации досуга.

Если бы у вас был реальный человек-помощник, то вы бы с ним взаимодействовали больше вербально, хотя чаты иногда будут тоже удобны. Это значит, что модальности взаимодействия с ИскИнами расширятся и переплетутся. ИскИны будут "видеть" (это уже не в таком близком будущем как хотелось бы. По технологическим причинам) не только нашими глазами, но и всем нашим окружением. Они будут в курсе всего что происходит в нашем бытовом контексте. Про рабочий контекст - это отдельная история. Сотрётся четкая граница того, через что именно мы общаемся с ИскИном. Он будет сам понимать когда нам что и как удобнее воспринимать. Спросив у него погоду мы услышим коротко самое важное, а параллельно на каком-нибудь экране в поле нашего зрения откроется виджет с более подробной информацией.

Например, слушая подкаст (может быть даже генеративный), мы можем переходя от "поверхности" (экрана) к поверхности видеть какую-то сопутствующую наглядную инфографику о том, что говорится в подкасте, но можем и не обращать на это внимание.

Мне кажется это интересным образом повлияет и на наши когнитивные функции. Тут тоже большая тема, но вкратце, речь про нашу внешнюю техническую аугументацию.

Мы тысячи лет с трудом представляем себе жизнь без горячей приготовленной пищи, многие сотни лет без письменности, сотни без СМИ и периодики, десятки без телевидения и интернета. Мы пользуемся будильниками, записными книжками, часами, календарями, справочниками для расширения своей памяти и чувства времени. Мы пользуемся транспортом для расширения своих возможностей в перемещении. Медицина увеличила среднюю продолжительность на десятки лет, а детскую смертность практически исключила (в сравнительной мере, конечно же, если сравнивать с прошлым веком, средневековьем или более глубокой древностью).

Люди давно встроили технику и технологии в свою экосистему так, что без технологий ныне существующая численность населения на планете просто невозможна. Я это воспринимаю как внешнюю аугументацию. Внутренняя, которую давно пророчили фантасты, не так пока развита и ограничена пломбами, кардиостимуляторами, кохлеарными имплантами, силиконовыми сиськами, титановыми пластинами в костях и, пожалуй, всё. Тут тоже большой потенциал, но не сразу.

Зато внешняя аугументация заходит куда проще! Гугл как поиск информации мгновенно заменил энциклопедии, книги и библиотеки с ними. Нейросети сейчас заменяют гугл, местами учителей и репетиторов, местами джунов на работе, местами секретарей... но это только начало.

В интересное время мы живём. Мне кажется не было периода у человечества, когда эта фраза была бы не справедлива.


Этот текст сгенерирован исключительно естественным интеллектом биологического происхождения. Генеративные модели не применялись даже для корректуры и стилистического оформления.

Считаю это важным на данном этапе развития технологий.


@editors, мне кажется пора добавить тег "ИскИн" в смысле и контексте персонализированного ИИ-агента, являющегося индивидуализированным персонажем, который может иметь специфические черты характера, изолированную уникальную память, навыки, инструменты, допуски и зону ответственности. ИИ - это слишком широкий термин.

Показать полностью
6

Хаус-кипер 2.0: зачем нам ИИ, к которому мы действительно привязаны

ИИ сегодня — умный, но чужой.

Почему этого недостаточно — и как выглядит будущее, где технологии становятся по-настоящему «своими»?

Что общего у ИИ и старинного хаус-кипера ?

В прошлом в богатых домах был человек, который знал всё.

Не хозяин — хаус-кипер.

Он не просто управлял хозяйством. Он был живой интерфейс:

— координировал персонал,

— передавал сообщения,

— сохранял тайны,

— управлял логистикой,

— знал каждого в доме.

Он был частью быта. Частью семьи. Частью контроля.

Сегодня эта функция утеряна. Максимум, что есть у большинства — голосовой ассистент, который включает музыку и ставит таймер.

Современный ИИ: умный, но безэмоциональный

ИИ развивается взрывными темпами. Мы получаем:

— генерацию текста и кода,

— автоматизацию задач,

— рекомендации,

— распознавание образов и речи,

— агентов, способных выполнять цепочки действий.

Но всё это — инструменты. Мы используем их, как калькулятор. Без привязанности.

Мы не «живём» с ИИ. Мы не чувствуем, что он наш.

И как только выходит новый — мощнее, быстрее, дешевле — мы переключаемся.

Почему это проблема

Когда технология остаётся утилитарной, она не становится частью жизни.

Она остаётся временной. Чужой. Внешней.

ИИ сегодня не вызывает у пользователя доверия, эмоциональной вовлечённости или ощущения "он — для меня".

И это ограничивает потенциал — особенно в бытовом, образовательном, медицинском и психологическом применении.

Будущее: персонализация и привязанность

Следующий этап развития ИИ — это не просто рост параметров моделей.

Это смена парадигмы взаимодействия.

ИИ должен стать:

личным — настроенным под конкретного человека,

понятным — с доступной и прозрачной логикой,

постоянным — не временным инструментом, а цифровым спутником,

эмоционально близким — вызывающим доверие, привычку, привязанность.

Это не про «магию» или метафизику. Это про UX, long-term retention и новый формат коммуникации.

Когда ИИ будет восприниматься не как кнопка, а как часть среды.

Почему это работает

1. Доверие растёт вместе с контекстом

ИИ, который постоянно с вами, начинает лучше понимать вас. Не потому что он умнее, а потому что вы вместе дольше.

2. Снижение текучки

Когда формируется эмоциональная связь, пользователь меньше переключается между инструментами. У него есть “свой” ИИ.

3. Рост вовлечённости

Такой ИИ не просто решает задачи. Он становится «точкой входа» в цифровую среду. Центром.

Итог: нам нужен ИИ, которому мы не хотим изменять

ИИ-инструмент можно заменить.

ИИ-ассистента — обновить.

Но ИИ, к которому ты привязан — заменить сложно. Потому что он знает тебя. И ты — знаешь его.

Хаус-кипер прошлого был не просто работником. Он был посредником между хаосом и порядком. Между обыденностью и контролем.

ИИ будущего — это цифровой хаус-кипер. Не в смысле статуса, а в смысле роли: тихий управляющий вашей цифровой повседневностью. С которым вы не просто «взаимодействуете» — а живёте рядом.

Мы в Nikta.ai уже работаем над этой системой. Следите, скоро покажем

Показать полностью
Отличная работа, все прочитано!