Классификатор добавлен в базовый модуль Модуль: OpenAI ChatGpt Assistant (G005). Для модуля создана другая таблица:

Подробное техническое описание расположено непосредственно в помощи этого модуля. Видео описание:

Классификатор

Классификатор позволяет улучшить качество ответов ассистента. Классификатор имеет базу данных фраз на основе таблицы Google и позволяет в зависимости от фразы выполнять различные действия. На каждый вопрос клиента, классификатор обращается в базу данных, чтобы достать строку из нее, которая больше всего похожа на запрос клиента, а далее можно:

Предоставить нейросети пример ответа на запрос
Ответить клиенту без отправки запроса к нейросети
Запустить указанную функцию
Отправить запрос в нейросеть с указанным промптом и всем контекстом

Чтобы сделать свою базу данных фраз, скопируйте примерную таблицу. Таблица состоит из нескольких колонок, которые заполняются по-разному в зависимости от выбранного типа строки. В колонке phrases указываются фразы клиента, в колонке type – тип строки. В таблице ниже мы рассмотрим каждый тип и заполняемые параметры.

Ячейки таблицы могут содержать выражения конструктора чат ботов. Эти выражения вычисляются в момент изъятия их из таблицы. Для каждой строки есть колонка min_score (число от 0 до 1), которая позволяет отфильтровать запись, если вероятность ее совпадения с запросом ниже указанного значения.

Алгоритм работы

На каждый запрос клиента мы запрашиваем список строк из БД классификатора. Строки отсортированы по убыванию вероятности совпадения фраз с запросом клиента.
Мы берем только одну строку с наивысшей вероятностью, которая проходит по фильтру min_score
Если тип строки является примером (type = example), то мы также дожидаемся выборки из базы данных по файлам, а после этого добавляем в промпт пример ответа и отправляем запрос в нейросеть
Для type = answer мы добавляем вопрос и фиксированный ответ в лог контекста и сразу же отправляем сообщение клиенту; запрос в нейросеть не происходит
Если type = function, то отправляем запрос в нейросеть с указанием того, какую функцию необходимо выполнить. Нейросеть в любом случае запустит эту функцию, если она есть в списке функций ассистента. В этом запросе информация из файлов не используется.
Если type = prompt, то в лог мы добавляем вопрос клиента и указанный промпт в виде системного сообщения и отправляем запрос в нейросеть. В этом запросе информация из файлов не используется.

С осторожностью

Классификатор всегда возвращает строку, даже если ее вероятность совпадения небольшая и может иметь мало общего с запросом. С особой осторожностью нужно использовать типы строк answer, function, prompt, т.к. они могут наоборот ухудшить качество ответов, если база классификатора не содержит достаточно строк. Для таких строк желательно указывать довольно большой min_score (на уровне 0.9). Если нейросеть начинает неправильно обрабатывать какие-то запросы, то нужно добавить конкретные случаи в таблицу для исправления ошибок.

Обновление БД

Для формирования БД из таблицы Google производится индексация таблицы Google, ее строки помещаются в векторную БД. Индексация – это платная функция, происходит на основе text-embedding-ada. Чтобы обновить индекс, необходимо вручную обновить данные таблицы в настройках проекта.

OpenAI ChatGpt: GPT-бот для ответов на вопросы клиентов