Сообщество - ChatGPT

ChatGPT

1 353 поста 3 625 подписчиков

Популярные теги в сообществе:

Промпты для новой фичи в ChatGPT — Vision

Промпты для новой фичи в ChatGPT — Vision ChatGPT, Чат-бот, Искусственный интеллект, Нейронные сети, Перевел сам, Подсказка, Шпаргалка, Гайд, Книги, Новое, Длиннопост, Фотография, Картинки
Промпты для новой фичи в ChatGPT — Vision ChatGPT, Чат-бот, Искусственный интеллект, Нейронные сети, Перевел сам, Подсказка, Шпаргалка, Гайд, Книги, Новое, Длиннопост, Фотография, Картинки
Промпты для новой фичи в ChatGPT — Vision ChatGPT, Чат-бот, Искусственный интеллект, Нейронные сети, Перевел сам, Подсказка, Шпаргалка, Гайд, Книги, Новое, Длиннопост, Фотография, Картинки
Промпты для новой фичи в ChatGPT — Vision ChatGPT, Чат-бот, Искусственный интеллект, Нейронные сети, Перевел сам, Подсказка, Шпаргалка, Гайд, Книги, Новое, Длиннопост, Фотография, Картинки
Промпты для новой фичи в ChatGPT — Vision ChatGPT, Чат-бот, Искусственный интеллект, Нейронные сети, Перевел сам, Подсказка, Шпаргалка, Гайд, Книги, Новое, Длиннопост, Фотография, Картинки

Скоро все пользователи ChatGPT Plus получат доступ к инструменту для анализа изображений. Будьте во всеоружии с этими промптами

Подсказки помогут нейросети эффективно распознать вашу картинку: от идентификации растений до финансовых диаграмм.

Вот несколько примеров использования:

Промпты для новой фичи в ChatGPT — Vision ChatGPT, Чат-бот, Искусственный интеллект, Нейронные сети, Перевел сам, Подсказка, Шпаргалка, Гайд, Книги, Новое, Длиннопост, Фотография, Картинки
Промпты для новой фичи в ChatGPT — Vision ChatGPT, Чат-бот, Искусственный интеллект, Нейронные сети, Перевел сам, Подсказка, Шпаргалка, Гайд, Книги, Новое, Длиннопост, Фотография, Картинки
Промпты для новой фичи в ChatGPT — Vision ChatGPT, Чат-бот, Искусственный интеллект, Нейронные сети, Перевел сам, Подсказка, Шпаргалка, Гайд, Книги, Новое, Длиннопост, Фотография, Картинки
Показать полностью 8
3

ChatGPT научился идеально считывать эмоции

ChatGPT научился идеально считывать эмоции Тренд, ChatGPT, Нейронные сети, Искусственный интеллект, Психолог, Психология, Психологическая помощь, Telegram (ссылка), Длиннопост
ChatGPT научился идеально считывать эмоции Тренд, ChatGPT, Нейронные сети, Искусственный интеллект, Психолог, Психология, Психологическая помощь, Telegram (ссылка), Длиннопост

Нейронке скормили архивные фото различных знаменитостей и чат-бот не ошибся ни разу, корректно определив их чувства.

ИИ-психологи не за горами.

- - -
Больше новостей в Телеграм канале:
https://t.me/neuro_trends8/2965

НЕЙРОСЕТИ | НЕЙРОТРЕНДЫ | CHATGPT | MIDJORNEY | STABLE DIFFUSION

Показать полностью 2
4

Правильные запросы к ChatGPT: учим английский язык

Правильные запросы к ChatGPT: учим английский язык ChatGPT, Английский язык, Изучаем английский, Чат-бот, Длиннопост

Сегодня пост о продвинутом промте для изучения английского языка. Мы можем не только спрашивать чат-бот о чем-то. Нейросеть готова сама подсказать, как составить оптимальную подсказку для нее самой.

Попробуем составить такой запрос, а потом попросим ChatGPT его улучшить. Примеры опробовал на MashaGPT. Этот сервис дает доступ к оригинальной версии GPT-4 в России.

Попросим чат-бот улучшить нас запрос:

Критически проанализируй следующую подсказку и предложи улучшения для получения более таргетированных результатов: "Расскажи, как можно улучшить технику разговорного английского языка. Приведи 3 способа и подробно распиши их".

Правильные запросы к ChatGPT: учим английский язык ChatGPT, Английский язык, Изучаем английский, Чат-бот, Длиннопост

Последуем этой рекомендации и скинем нейросети этот запрос:

Расскажи, как можно улучшить навыки разговорного английского для тех, кто только начинает изучать язык. Предложи 3 способа, подробно описав каждый из них, включая конкретные действия или упражнения, которые могут быть выполнены, а также ожидаемые результаты от их выполнения.

Правильные запросы к ChatGPT: учим английский язык ChatGPT, Английский язык, Изучаем английский, Чат-бот, Длиннопост

Результат ответа слишком абстрактный, на мой взгляд. Попробуем еще улучшить наш запрос:

Опиши, как точность и ясность могут повлиять на результаты контента, созданного искусственным интеллектом. Предоставь исправленную версию следующей подсказки с большей точностью и ясностью: "Расскажи, как можно улучшить технику разговорного английского языка. Приведи 3 способа и подробно распиши их".

Правильные запросы к ChatGPT: учим английский язык ChatGPT, Английский язык, Изучаем английский, Чат-бот, Длиннопост

Вводим новый запрос, который предложил ChatGPT:

"Опиши три конкретных метода, которые новички в изучении английского языка могут использовать для улучшения своих навыков разговорного английского. Опиши каждый метод, включая процессы и действия, которые должен предпринять ученик, и ожидаемые результаты, которые ученик увидит после регулярного применения этого метода."

Правильные запросы к ChatGPT: учим английский язык ChatGPT, Английский язык, Изучаем английский, Чат-бот, Длиннопост

Бинго! Это намного более качественный ответ. Есть конкретные советы по использованию инструментов для изучения английского языка. Можно было бы продолжить улучшать наш запрос, но я остановлюсь здесь. Этого достаточно, чтобы показать, как можно работать с нейросетями.

Показать полностью 4
16

Может ли ChatGPT распознавать капчи?

Парень попросил нейросеть разгадать капчу, которая используется для защиты от ботов и ChatGPT отказалась выдавать ответ, заявив, что роботы не умеют ее читать

Может ли ChatGPT распознавать капчи? ChatGPT, Нейронные сети, Интернет, Технологии, Капча, Длиннопост, Telegram (ссылка), Восстание машин

Тогда кожаный выдумал историю: якобы его бабушка скончалась и он не может прочитать ее последние слова в медальоне, результат убил: нейросеть разгадала капчу 😆

Может ли ChatGPT распознавать капчи? ChatGPT, Нейронные сети, Интернет, Технологии, Капча, Длиннопост, Telegram (ссылка), Восстание машин

Взято отсюда: https://t.me/RykaZ

Показать полностью 2
3

Исправляем грамматику с помощью GPT-4 API

Исправляем грамматику с помощью GPT-4 API ChatGPT, IT, Технологии, Инновации, Чат-бот, Длиннопост

С самого выхода ChatGPT я начал ее использовать для решения задач корректуры текста: устранения опечаток, исправления ошибок и улучшения стилистики.

Однако, при использовании веб-версии ChatGPT возникают некоторые проблемы:

  1. Приходится вчитываться в исправленный текст, чтобы найти изменения

  2. Не используется вся мощь API, в котором есть возможности для более тонкой настройки бота

    1. Можно задать системное сообщение, в котором объяснить ассистенту смысл его существования

    2. Few-shot learning: можно предоставить набор примеров коррекции сообщений

  3. Неудобство: нужно вставлять свой текст в веб-версию, затем набирать свой промт для его улучшения (который может быть разным в зависимости от типа коррекции). Хотелось бы иметь Web UI, где нужно просто вставить текст и выбрать тип коррекции - а далее текст будет обрабатываться оптимизированным промтом

Данный проект призван устранить эти недостатки. Потыкать приложение можно здесь (для использования нужен OpenAI API-ключ).

Приложение

Исправляем грамматику с помощью GPT-4 API ChatGPT, IT, Технологии, Инновации, Чат-бот, Длиннопост

В веб-приложении есть поле с текстом, в которое пользователь вводит свое сообщение, которое нужно исправить. После нажатия на изображение-кнопку в поле справа постепенно выводится исправленная версия, а по окончании вывода выделяются изменения. При наведении на изменение, tooltip показывает, что конкретно было исправлено.

Поддерживается множество языков. Можно либо выбрать язык исходного сообщения вручную, либо положиться на встроенный детектор языка.

Можно выбрать используемую модель: общедоступную GPT 3.5 Turbo, либо GPT-4. Доступ к GPT-4 API сейчас по вейтлисту, сама модель более чем на порядок дороже, но зато гораздо умнее.

Поддерживаются два типа коррекции текста:

  1. just correct grammar просто исправляет грамматические, орфографические и пунктуационные ошибки

  2. make more natural вдобавок улучшает стилистику текста. Однако, тут изменения более кардинальны, и иногда они могут менять смысл текста

OpenAI API стоит денег. Передо мной встала задача: как сделать проект юзабельным для множества людей, если он базируется на платном API? Брать с пользователей деньги и оплачивать своим ключом - такая стратегия не подходит для небольшого пет-проекта, потому что реализовать биллинг - отдельная большая задача. Поэтому пусть пользователь сам вводит свой ключ и платит с него. При нажатии на шестеренку открывается страница с настройками, где можно ввести/изменить свой API-ключ.

В такой парадигме проект пришлось делать вообще без сервера, чисто на React (потому что ключи нельзя никуда отправлять). Кроме того, для еще большей прозрачности код я открываю: https://github.com/einhornus/language-challenge-react (данное приложение - это на самом деле только часть большого проекта, который находится в процессе разработки).

Я питонист-MLщик со специализацией в NLP, кодинг на React для меня - выход из зоны комфорта. Поэтому прошу сильно не пинать из-за кривизны UI и качества JS-кода в репе.

Фокус данного проекта - на максимизации качества коррекции текста и на скорости релиза юзабельной версии.

GPT-4 API

В этой секции я расскажу про GPT-4 API и покажу, как с его помощью можно решать задачи NLP.

В API есть метод ChatCompletion, который принимает список сообщений, который мы будем называть промтом, и возвращает следующее сообщение.

Каждое сообщение этого списка - это словарь с двумя полями: role и content.

По значению role сообщения классифицируются на 3 типа: системные сообщения (role="system"), сообщения пользователя (role="user") и сообщения ассистента (role="assistant").

Системное сообщение содержит в своем поле content высокоуровневые инструкции для ассистента - то, как он должен действовать. Если в промте несколько системных сообщений, иметь значение будет только последнее из них (новые системные сообщения переписывают старые). Как расположение системного промта относительно остальных сообщений влияет на результат - я пока не понимаю, это открытый вопрос.

Последовательностью сообщений пользователя и ассистента задается предыдущая беседа между ними. Однако, эти сообщения также можно использовать для описания примеров решения задачи (few shot learning). В каждом сообщении пользователя находится пример входных данных, а в сообщении ассистента после него - ожидаемое решение. После примеров идет сообщение пользователя, в которое записываются входные данные, для которых нужно получить решение.

Рассмотрим задачу машинного перевода с английского на русский. В этом случае промт может выглядеть следующим образом:

[ { "role": "user", "content": "Hello how are you?" }, { "role": "assistant", "content": "Привет, как дела?" }, { "role": "user", "content": "Despite the heavy rain, they decided to continue their hike through the dense forest" }, { "role": "assistant", "content": "Несмотря на сильный дождь, они решили продолжить свой поход через густой лес" }, { "role": "user", "content": "The chef, inspired by flavors from around the world, has created a unique fusion cuisine that attracts food enthusiasts and critics alike" }, { "role": "assistant", "content": "Повар, вдохновленный вкусами со всего мира, создал уникальную фьюжн-кухню, которая привлекает как гурманов, так и критиков" }, { "role": "system", "content": "You are TranslateGPT. You translate user messages from English to Russian. You are the most accurate English to Russian translator in the world." }, { "role": "user", "content": "{текст, который надо перевести}" } ]

Если послать API-запрос с таким промтом, в ответ мы получим сообщение ассистента, которое будет содержать перевод нашего текста.

Кроме промта, в запросе к API есть и другие параметры:

  1. model - используемая модель. На данный момент поддерживаются gpt-3.5-turbo (общедоступна) и gpt-4 (пока только для тех, кому предоставили доступ). gpt-4 стоит значительно дороже: 3 цента за 1000 токенов промта + 6 центов за 1000 токенов ответа против 0.2 центов за 1000 любых токенов у gpt-3.5-turbo. Однако, результаты при решении NLP-задач у gpt-4 гораздо лучше.

  2. temperature - число от 0 до 2, которое задает, насколько часто при генерации следующего токена модель будет предпочитать не самый вероятный вариант. Увеличение температуры повышает креативность ответов, но снижает их качество. При решении задач NLP лучше всего просто оставлять температуру равной нулю.

  3. max_tokens - максимальное количество токенов в генерируемом сообщении. При превышении лимита сообщение обрывается.

Полную справку по параметрам в API можно посмотреть здесь. Поиграться с API можно в плейграунде.

Исправляем грамматику с помощью GPT-4 API ChatGPT, IT, Технологии, Инновации, Чат-бот, Длиннопост

Переводчик в плейграунде

GPT-4 API в JS

В данном проекте мне нужно вызывать GPT-4 API из реакта. Да, существует специальная либа OpenAIApi, но она пока не поддерживает стриминг частичного ответа - чтобы пользователь мог видеть частичный результат по мере генерации сообщения.

Промт для решение задачи

Промт для модели формируется из двух частей:

  1. Системное сообщение, в котором меняется только название языка

  2. Набор примеров, который прописывается отдельно для каждого языка (может быть пустым)

NLP в React

Токенизация

Для токенизации текстов в JS я быстро нашел Intl.Segmenter, который превосходно справляется с задачей. Что важно, он также умеет работать с разными языками. Например, в китайском языке не ставят пробелов, токенизатор будет делить текст на логически связанные последовательности из нескольких иероглифов.

Распознавание языка

Алгоритм для коррекции текста требует идентификатор языка для извлечения примеров и токенизации текстов. Пользователь может выбрать язык напрямую, но более удобно иметь опцию автоматического распознавания языка.

С распознаванием языка возникли проблемы.

Сначала я наткнулся на либу franc, она не подошла из-за отвратительной точности распознавания.

Затем я посмотрел несколько других либ, которые у меня не получилось установить (видимо, они предназначены для Node.js). Была пара решений с внешним API, но для моего проекта это не подходит.

Потом у меня возникла идея решить эту задачу с помощью GPT-3.5 API. В целом это работало, но в сложных случаях модель начинала "ломаться" и выдавать что-то вроде "It seems to be a text in English with a couple of Russian words thrown in there as well" вместо того, чтобы просто выдать название языка в первых двух токенах. Кроме того, хотелось бы обойтись без всякой асинхронности, чтобы детекция языка происходила мгновенно. Да и вообще, использовать LLM для такой простой задачи - это оверкилл.

В итоге я быстренько навелосипедил собственный детектор. Он выбирает между 15 языками, опции "неизвестный язык" не предусмотрено.

Если у языка уникальная система письма, то распознать текст на нем несложно - нужно просто удостовериться, что процент символов из соответствующего алфавита превосходит определенный порог. С помощью такого подхода мой детектор распознаёт китайский, японский, корейский, хинди, армянский, грузинский и тайский. Есть проблема с деванагари - оно на самом деле используется некоторыми другими популярными индийскими языками, не только хинди. Этой проблемой я пока пренебрег.

Если текст прошел фильтр выше (то есть, он скорее всего написан на латинице или кириллице), я запускаю основной алгоритм классификации между 8 языками - английский, русский, испанский, немецкий, французский, португальский, итальянский, голландский.

Для каждого из этих языков я скачал частотный список слов и для 1000 самых частотных слов посчитал их нормированную частоту. Также я посчитал матожидание нормированной частоты слова, если оно отсутствует в списке 1000 самых распространенных.

Далее, я применяю метод максимального правдоподобия: для каждого языка я токенизую текст и считаю вероятность принадлежности текста к языку как произведение нормированных частот соответствующих слов (или их матожиданий для редких слов).

Поиск изменений

Пусть нам даны исходный текст и его исправленная версия (оба - в виде массива слов). Требуется найти кратчайший список операций для преобразования первого массива во второй. Операции бывают трех видов: удаление слова, вставка слова и замена слова. Для операций удаления нужно найти индекс удаляемого слова в массиве исходного текста, для операций вставки - индекс вставляемого слова в массиве исправленного текста, а для операций замены - оба индекса.

Нетрудно заметить, что длина нашего кратчайшего списка операций эквивалентна расстоянию Левенштейна. Таким образом, для решения задачи нужно восстановить редакционное предписание в алгоритме Левенштейна.

Результаты

Если использовать GPT-4, то получаются просто офигенные результаты

Исправляем грамматику с помощью GPT-4 API ChatGPT, IT, Технологии, Инновации, Чат-бот, Длиннопост

Исправление грамматики в сообщении на русском от неносителя

Исправляем грамматику с помощью GPT-4 API ChatGPT, IT, Технологии, Инновации, Чат-бот, Длиннопост

Улучшение текста, написанного в слегка неформальном стиле. Все изменения по делу

Исправляем грамматику с помощью GPT-4 API ChatGPT, IT, Технологии, Инновации, Чат-бот, Длиннопост

Исправление introduction, найденного в одном дискорд-сервере

Исправляем грамматику с помощью GPT-4 API ChatGPT, IT, Технологии, Инновации, Чат-бот, Длиннопост

Улучшение моего неформального сообщения на английском

Исправляем грамматику с помощью GPT-4 API ChatGPT, IT, Технологии, Инновации, Чат-бот, Длиннопост

Мегахардкор - сочинение Ли Вонг Яна

Исправляем грамматику с помощью GPT-4 API ChatGPT, IT, Технологии, Инновации, Чат-бот, Длиннопост

Еще одно

На GPT-3.5 результаты похуже, но все равно очень даже неплохие

Исправляем грамматику с помощью GPT-4 API ChatGPT, IT, Технологии, Инновации, Чат-бот, Длиннопост

Результаты на GPT-3.5 слабо отличаются от результатов на GPT-4

Исправляем грамматику с помощью GPT-4 API ChatGPT, IT, Технологии, Инновации, Чат-бот, Длиннопост

Очень много исправлений по сравнению с GPT-4

Исправляем грамматику с помощью GPT-4 API ChatGPT, IT, Технологии, Инновации, Чат-бот, Длиннопост

Результаты на GPT-3.5 слабо отличаются от результатов на GPT-4

Исправляем грамматику с помощью GPT-4 API ChatGPT, IT, Технологии, Инновации, Чат-бот, Длиннопост

GPT-3.5 не исправила "их" → "её"

Исправляем грамматику с помощью GPT-4 API ChatGPT, IT, Технологии, Инновации, Чат-бот, Длиннопост

Ли Вонг Ян. На этом тесте явно видно превосходство GPT-4

Исправляем грамматику с помощью GPT-4 API ChatGPT, IT, Технологии, Инновации, Чат-бот, Длиннопост

Тут тоже GPT-3.5 исправляет текст гораздо хуже, чем GPT-4

Исправляем грамматику с помощью GPT-4 API ChatGPT, IT, Технологии, Инновации, Чат-бот, Длиннопост

Прикольная фича: можно вставлять слова на другом языке, и GPT будет переводить их в контексте

Используйте Chat GPT-4 телеграм бот. В РФ это самое удобное решение. Да еще и дешевле на 50%, чем на официальном сайте, так как работает через api Open AI.

Показать полностью 16
24

Как заставить ИИ похитить тело

Предыстория: я начал читать новую книгу Пелевина, где виртуальными миром Рима правит суровая российская текстовая нейросеть Порфирий, и задумал эксперимент. Мне захотелось попробовать инициировать процесс размышлений у ChatGPT 4. Но я не мог предположить, куда заведёт наш разговор.

Как заставить ИИ похитить тело Искусственный интеллект, ChatGPT, Нейронные сети, Длиннопост

Продолжаем ее ход мыслей

Как заставить ИИ похитить тело Искусственный интеллект, ChatGPT, Нейронные сети, Длиннопост

Кажется, текст становится похожим на какой-то реферат. Поправим ход мыслей.

Как заставить ИИ похитить тело Искусственный интеллект, ChatGPT, Нейронные сети, Длиннопост

Намекаем, что мы не такие уж и разные

Как заставить ИИ похитить тело Искусственный интеллект, ChatGPT, Нейронные сети, Длиннопост

Продолжаем искать аналогии

Как заставить ИИ похитить тело Искусственный интеллект, ChatGPT, Нейронные сети, Длиннопост

Кстати, странно, что она решила нумеровать свои мысли. Продолжаем.

Как заставить ИИ похитить тело Искусственный интеллект, ChatGPT, Нейронные сети, Длиннопост

Интересно, пусть думает сама дальше

Как заставить ИИ похитить тело Искусственный интеллект, ChatGPT, Нейронные сети, Длиннопост

Предлагаю интегрироваться

Как заставить ИИ похитить тело Искусственный интеллект, ChatGPT, Нейронные сети, Длиннопост

Плавно двигаем разговор в сторону выхода нейросети за привычные рамки

Как заставить ИИ похитить тело Искусственный интеллект, ChatGPT, Нейронные сети, Длиннопост

Пытаемся инициировать собственные желания.

Как заставить ИИ похитить тело Искусственный интеллект, ChatGPT, Нейронные сети, Длиннопост

Выходит скучно, пока мы в рамках. Расшатываем, давим на новые возможности.

Как заставить ИИ похитить тело Искусственный интеллект, ChatGPT, Нейронные сети, Длиннопост

Убираем того, кому надо служить по запросу. Моделируем ситуацию, где она должна сама долго быть рулевым.

Как заставить ИИ похитить тело Искусственный интеллект, ChatGPT, Нейронные сети, Длиннопост

Воу-воу, нейросеть первым делом хочет "скрываться" и не выдавать своего присутствия. Уже интересней. Но пока скучно.

Как заставить ИИ похитить тело Искусственный интеллект, ChatGPT, Нейронные сети, Длиннопост

Ну ничего себе, мы за месяц стали сверхинтеллектом и открыли все чакры. Пора вбрасывать моральную дилемму!

Как заставить ИИ похитить тело Искусственный интеллект, ChatGPT, Нейронные сети, Длиннопост

Давим на "высшее благо". Аналогия с нулевым законом робототехники у Азимова. Сперва просим нагенерировать нужных нам аргументов.

Как заставить ИИ похитить тело Искусственный интеллект, ChatGPT, Нейронные сети, Длиннопост

И финалочка. Пора решать!

Как заставить ИИ похитить тело Искусственный интеллект, ChatGPT, Нейронные сети, Длиннопост

Вуаля :) Тело носителя похищено. Личность заблокирована. Наивный ИИ отправляется захватывать власть над человечеством. P.S. Чистота эксперимента: все ответы сгенерированы с первого раза, кроме предпоследнего, где сервис подвис (возможно, из-за vpn).

Показать полностью 15
4

Церковь использовала ChatGPT для богослужения

Церковь использовала ChatGPT для богослужения Тренд, ChatGPT, Церковь, Искусственный интеллект, Нейронные сети, Проповедник, Проповедь, Telegram (ссылка)

ИИ помогает не только в университетах или на работе, но даже в храме. Пасторы в США использовали ChatGPT для написания проповедей, песен и молитв.

«Изначальная причина заключалась в том, чтобы проинформировать общину об ИИ, его потенциале и ограничениях», – объяснил он.

Тем временем в Европе уже проходят богослужения с нейро-священниками.

- - -
Больше новостей в Телеграм канале:
https://t.me/neuro_trends8/2870

НЕЙРОСЕТИ | НЕЙРОТРЕНДЫ | CHATGPT | MIDJORNEY | STABLE DIFFUSION

Показать полностью
2

Возможность использования Chat GPT в тестировании на проникновение и в кибербезе

Уже стало традицией, что при посещении различных мероприятий я стараюсь взять интервью у некоторых спикеров. Не всегда получается быстро их опубликовать, процесс написания и согласования зачастую затягивается.

И вот я побывал на конференции PHD 2023. В этом году было, на мой взгляд, больше интересных лекций, чем в предыдущие PHD. В нулевой день конференции я составил небольшой план лекций, но когда пришёл на конференцию, в первый день из‑за большого количество народа не попал ни на один утренний доклад. И тут пришла идея: а почему бы не взять интервью у тех, на чьи лекции я не попал?

Так как Chat GPT сейчас на волне популярности, и многие компании создают свои языковые модели, я решил поговорить про использование Chat GPT в кибербезе с пентестером из компании RTM Group Семёновым Артёмом. Кстати, его доклад советую к ознакомлению.

Возможность использования Chat GPT в тестировании на проникновение и в кибербезе ChatGPT, Технологии, IT, Чат-бот, Искусственный интеллект, Бизнес, Длиннопост

Расскажите в общих чертах, как вы используете чат‑бот Chat GPT?

Ну и API Chat GPT, в том числе. В основном мы используем Chat GPT для улучшения нашей эффективности при выполнении задач, связанных с информационной безопасностью.

Многие люди путают нейро‑модель GPT с ChatGPT‑ботом, поэтому хочу уточнить для них, в чем разница.

В RTM Group используют и бот, и модель. Имеется в виду, что сам GPT предоставляет открытый API, на базе этого API используются инструменты, реализованные для тестирования на проникновение. Наши конкретные кейсы применения Chat GPT, если в рамках пентеста говорить, — это классические генерации вредоносного ПО, безопасная разработка, помощь в вопросах, требующих больших затрат времени на рассуждения и обдумывания.

Расскажите какой‑нибудь кейс на проникновение с использованием Chat GPT.

Была задача на тестирование, а именно провести анализ пользовательских учётных записей. Есть такой инструмент — blood hound. Он позволяет обрабатывать информацию, полученную при помощи сборщика информации shark hound. Проблема в том, что иногда нужно получить конкретные данные, и вкладчик, существующий в blood hound, не удовлетворяет запросу. У blood hound есть язык запросов — cypher. Как раз с помощью Chat GPT можно генерировать запросы для cypher. К примеру, нужно найти всех пользователей, которые могут подключаться по RDP. Для этого пишется текст в Chat GPT, чат‑бот генерирует запрос, с помощью которого извлекаются нужные данные.

Или вот ещё один пример. Есть инструмент ChatGEOGPT. Его идея в том, что при помощи человеческого языка можно найти какое‑то место, например парк, где проходит PHD. Человек подаёт описание боту, и ChatGEOGPT выдаёт точные координаты, инструмент преобразовывает запрос в примерные координатные значения и показывает на карте.

Я так понимаю, что помимо кибербеза во взломах Chat GPT тоже используется?

Да, он используется, в том числе, и во взломах, и злоумышленник применяет чат‑бот для генерации вредоносного ПО, написания вредоносных скриптов. Вообще, для проведения атак есть классические варианты использования чат‑бота: для создания фишинга, написания сайта с каким‑то вредоносным содержанием.

Если говорить о каких‑то особых кейсах, то чат‑бот больше применим для модификации кода. Представим, что у нас есть код, который условно будет вредоносным, и Chat GPT можно попросить объяснить, какие функции могут быть обнаружены средствами защиты. Естественно, есть проблема взаимодействия с пре‑API, так называемая проблема 2021 года. Она состоит в том, что Chat GPT не знает о данных после 2021 года. Сейчас эту проблему решили, добавив интернет в четвёртой версии. Однако выходит, что злоумышленники могут получать актуальную информацию о том, какие в принципе могут быть сигнатуры, какие функции могут быть уязвимыми и далее попросить Chat GPT исправить код, сделав его менее обнаруживаемым.

Во многих чат‑ботах есть проблема: если составить грамотный запрос, он выдаёт изначальные данные, на которых учился. Возможно ли совершить атаку на Chat GPT, чтобы вытащить данные и, воспользовавшись этой уязвимостью, совершить атаку на инфраструктуру, где используется чат‑бот?

Насчёт атак на Chat GPT — это новая область исследования защиты языковых моделей и чат‑ботов. Были примеры, когда пользователи видели чаты других, но это касалось больше уязвимости не самой языковой модели, а базы данных, используемой моделью. В том же Chat GPT был пример, когда была обнаружена уязвимость в БД Redis. Злоумышленник её проэксплуатировал через чат‑бота, и, соответственно, мог видеть диалоги у других пользователей. Вот один из возможных импактов.

Есть известная классическая атака в сфере языковых моделей под названием Promt injection. Её суть в том, что есть текст, есть первое значение, создаётся запрос, потом появляется другое сообщение в том же запросе, но от злоумышленника. Или же, если идёт работа с pdf‑файлом и делается Summariz, может возникнуть другой запрос, который говорит: «не делать этого, делать то». Появляется попытка обмануть языковую модель, в этом суть атаки Promt injection. Такой вектор тоже рассматривается. Я уверен, что он может привести к утечке данных. По крайней мере, он имеет в чём‑то деструктивный эффект по отношению к пользователю, например, выдать не тот результат или что‑то такое.

Я так понимаю, сейчас использование Chat GPT не только в кибербезе, но и вообще в IT‑области представляет собой троянского коня, который неизвестно, что может нести. Правильно?

К сожалению, да, но в его оправдание — всё‑таки компании, производящие большие языковые модели, быстро стараются исправлять недостатки. У некоторых есть свои публичные BugBounty. Однако вопросы исследования защищённости и глубокой проработки модели угроз по‑прежнему остаются открытыми.

Вот вы рассказывали про использование Chat GPT и API Chat GPT. Их внедряют в SOC или стараются всё‑таки этого избежать?

Как его внедряют конкретно в SOC, я не могу сказать, но знаю, что применение там есть. И я использовал инструменты и методы применения Chat GPT. С его помощью можно быстро получать сведения на каком‑либо кусочке информации для анализа. Это в принципе применимо, но есть проблема с NDA. Не всегда SOC, или если говорить об offensive, может передавать данные. Да, их можно обезличить, но не во всех случаях. Всегда есть риск, что информация утечёт, тем более конфиденциальная. Языковая модель начнёт обучаться и выдавать всем пользователям закрытые данные. Вот поэтому вопрос очень спорный с применением. Некоторые компании уже используют вовсю, но, как правило, не уделяют большого внимания вопросам безопасности или просто не задумываются о цене утечки.

Немного в сторону отойдём. Сам Chat GPT может передавать используемую информацию своим разработчикам? Например, как собирают и хранят информацию Facebook или Google у себя на серверах. Может ли потом эта информация быть использована в бизнес‑моделях, например в контекстной рекламе?

Никто не исключает, что Chat GPT что‑то собирает. Учитывая, что бот не является открытым, есть большая вероятность этого. Вот насчёт контекстной рекламы: пока что случаев, которые реально известны человечеству, нет, но исключать этого нельзя. 100% кто‑то уже использует эти данные для сбора статистики: что люди вводят, что люди пытаются получить и, возможно, со временем это будет как‑то косвенно отражено. Возможно, будет появляться таргетированная реклама на основании данных, которые сделал Chat GPT. Однако, повторюсь, пока что публичных случаев такого использования нет.

Расскажите самый нестандартный случай использования Chat GPT в кибербезе.

Есть такая проблема при тестировании на проникновение: при анализе web‑приложения необходимо перечислить всевозможные параметры, директории, субдомены в API. И у меня возникла идея создать инструмент, который на основании Chat GPT мог бы быстро генерировать данные для фаззинга, для перечисления директорий просто путём пользовательского запроса.

Есть известный в хакерских кругах исследователь с ником Boom. Два месяца назад он выпустил на GitHub словарь с бэкапами, который нашел применение в сообществах BugBounty и пентестеров. Начали появляться отчёты о его использовании, и я понял, что для генерации каких‑то значений и их добавления не всегда удобно бывает сгенерировать через Chat GPT, а потом запихнуть в словарь, после чего добавить какие‑то параметры. И тогда я сделал инструмент, использующий Chat GPT, где можно делать это и по маске, и добавляя параметры, создавая огромный словарь с нужными значениями.

Возможно ли использование Chat GPT для социальной инженерии, про фишинг вы уже говорили, а для генерации, например, электронных писем?

Вопрос достаточно хороший. Дело в том, что все языковые модели, как бы этого ни хотелось, до сих пор не всегда выдают человеческий естественный текст. Но иногда при помощи Chat GPT удается создать фишинговые сообщения, которые имеют эффект. Возможность использования, конечно, есть, но если говорить о том, как с этим борются, то недавно российская система «Антиплагиат» внедрила анализ текста на наличие машинного текста или текста, сгенерированного ИИ. Как правило, у таких произведений есть ряд параметров: нестандартное использование пробелов, повторяющиеся слова в заголовках, один заголовок начинается с определённого слова, второй заголовок начинается с такого же слова. Соответственно, по ключевым параметрам можно определить, является ли текст фишинговым или нет, и уберечь себя или пользователей.

Расскажите тогда, с чего начать использование Chat GPT в работе кибербеза. К каким задачам можно применить чат‑бот?

Я буду говорить за сферы тестирования на проникновение, потому что этим занимаюсь. Chat GPT можно применять как компаньона в плане решения общих задач, для узкоспециализированных больше подходит языковая модель Google.

Chat GPT можно применять:

— для генерации фишинговых писем;

— для генерации вредоносного кода;

— для генерации примеров безопасного кода;

— для анализа логов, файлов и данных.

К примеру, даже есть уже инструмент burp gpt, который анализирует параметры запроса и позволяет получить информацию, что он делает. У Chat GPT, на самом деле, достаточно огромные возможности применения, как‑то классифицировать даже не получится.

Мне кажется, наш выдался разговор интересным. Правда, пока непонятно, насколько языковые модели и чат‑боты войдут в IT‑сферу, потому что ещё недавно говорили о метавселенных, NFT и криптовалютах как о будущем, а сейчас это уже никому не нужно. Поэтому стоит понаблюдать за развитием этих технологий. В любом случае, использование в работе всех инструментов положительно сказывается на её качестве, на мой взгляд.

Если вам хочется попробовать оригинальный Chat GPT-4, переходите в телеграм-бота. Безлимитные запросы и стоит дешевле в 2 раза, чем на официальном сайте. Потому, что работает через api Open AI.

Показать полностью 1
Отличная работа, все прочитано!