Ответ на пост «ИИ тренды 2025-2030»
Про мошенников и жуликов важный и для многих неочевидный аспект редко упоминается.
Себестоимость социальной иженерии и атак через анализ косвенных данных стремительно падает. Если раньше требовалось много работы человеческого мозга для выуживания чувствительных данных из окружающего мира и всякого рода утечек, формирования стратегии атаки и её реализации, то теперь благодаря генеративным моделям эти вещи становятся ощутимо проще и дешевле, а значит всё это легко и дёшево масштабируется для извлечения выгоды.
За счет универсальности и скорости генеративных моделей теперь есть возможность быстро извлекать потенциально полезную для атаки информацию из огромных объёмов даже плохо структурированной текстовой документации. Нейросеть прочитает большой юридический документ (например протокол судебного заседания) на порядки быстрее человека, а это в свою очередь рычаг для формирования иллюзии знания, авторства, квалификации мошенника.
Люди в своей массе ещё плохо представляют себе насколько быстро можно ориентироваться в поступающих больших объёмах данных, насколько быстро можно гуглить в интернете информацию и выбирать полезное благодаря хорошо настроенному тулингу* из нейроагентов, шаблонных промтов и сценариев с их использованием.
Тулинг (от англ. tooling — инструменты, оснастка) — это набор инструментов, программного обеспечения и технологий, которые используются для автоматизации, оптимизации и улучшения процессов в различных сферах
Тренд на ближайшее десятилетие - это менеджмент нейроагентов для решения объёмных когнитивных задач.
Теперь решение объёмных когнитивных рутинных задач сравнительно легко и дёшево автоматизируется.
Благодаря нейросетям и генеративным моделям теперь гораздо проще искать компромат и чувствительные данные:
- в вашей утёкшей переписке переписке в мессенджерах или соцсетях через угнанные аккаунты кого-то из ваших контактов (даже если там мегабайты текста, причем обработка этих объёмов будет сделана дёшево, быстро, массово и автоматически)
- в ваших цифровых артефактах в сети - куки, лайки, комменты, фотографии, периодичности попадания на веб-камеры в разных местах
- в вашем мусоре - выброшенные и порванные аж на три части "для надёжности" документы, квитанции, чеки...
- в вашем потерянном или украденном смартфоне или ноутбуке, причем анализ и атака будет делаться автоматизированным способом так быстро и эффективно, что вы даже не успеете оповестить родственников и знакомых о скомпрометированных данных и устройствах
Про быстрое создание правдоподобного цифрового аватара жертвы или её знакомых для атаки говорилось уже не раз.
Благодаря гибкости, дешевизне и масштабируемости атаки с использованием ИИ будут учащаться, а время реакции на автоматизацию противодействия этим атакам будет сокращаться.
Неуловимый Джо, который обычно хранил нас, теперь начал сдавать позиции под натиском нейроагентов.
Такие вот тренды в области информационной безопасности нас ждут. И ничего, в общем то, нового или особенно плохого в этом нет. Закономерные побочные эффекты технического прогресса. Без паники, но будьте, пожалуйста, начеку. Не дайте жуликам себя поиметь.
Текст подготоволен с использованием исключиьтельно Естественного Интеллекта автора.
Единственная ссылка дана на вики для удобства, пост не рекламный и не призывает поискать мою телегу в профиле. Там её нет. Даже не заглядывайте туда. Там ничего интересного. Серьёзно.
