Настройка ИИ

ИИ-слой Cuento охватывает три функции: ассистент по базе знаний, ищущий информацию в контенте вашего форума, еженедельный дайджест игры с автоматическими резюме эпизодов, и корректор текстов прямо в редакторе. Все три используют один настраиваемый пул моделей — достаточно один раз указать провайдера.

Что делает ИИ

Чат с базой знаний

Игроки открывают ИИ-чат и задают вопросы об игровом мире. ИИ запускает многошаговый RAG-пайплайн: определяет фракции и персонажей, упомянутых в вопросе, ищет по постам форума, лор-топикам и анкетам персонажей через Qdrant (семантический поиск) и Sonic (ключевые слова), затем отвечает с указанием источников. ИИ не придумывает информацию — если чего-то нет на форуме, он так и скажет.

ИИ учитывает фракции: если вопрос касается конкретной фракции, он фильтрует результаты поиска по персонажам и эпизодам этой фракции перед ответом.

Еженедельный дайджест игры

Когда функция дайджеста включена, Cuento автоматически резюмирует посты эпизодов. После каждого нового поста в треде эпизода ИИ читает его и генерирует короткое резюме для внутреннего хранения. Если в посте упоминается персонаж или концепция, которую ИИ не распознаёт, он отправляет уточняющий вопрос автору поста через ИИ-чат — автор отвечает, и ИИ учитывает ответ перед формированием дайджеста.

По расписанию ИИ собирает все резюме эпизодов в полный дайджест и публикует его от имени назначенного бот-аккаунта.

Корректор постов

В редакторе постов игроки могут проверить текст через корректор. Он исправляет орфографию, грамматику и пунктуацию — без перефразирования и стилистических правок. Результат показывает исправленный текст и раскрывающийся список изменений. Игрок сам решает, принимать ли исправления.

Защита от инъекций

Весь текст, поступающий в ИИ-пайплайн, автоматически проверяется на prompt injection. Это нельзя отключить — защита предотвращает выполнение инструкций, встроенных в пользовательский контент.


Настройка пула моделей

Пул моделей управляется в Администрирование → ИИ. Доступно два режима: OpenRouter и DB-пул.

OpenRouter (рекомендуется для большинства форумов)

OpenRouter — агрегатор, дающий доступ к сотням моделей (включая бесплатные) через один API-ключ. Cuento загружает актуальный каталог моделей из OpenRouter во время работы и автоматически выбирает самую дешёвую модель, поддерживающую инструменты и соответствующую минимальным требованиям по размеру для каждой задачи.

Настройка:

  1. Создайте аккаунт на openrouter.ai и сгенерируйте API-ключ.
  2. В административной панели перейдите в Администрирование → ИИ → Настройки пула.
  3. Выберите источник OpenRouter, вставьте API-ключ и сохраните.
  4. Опционально включите Только бесплатные для ограничения пула моделями без стоимости токена.

Больше ничего не нужно — Cuento сам выбирает подходящие модели.

Как OpenRouter работает с инструментами: Cuento отфильтровывает модели, не поддерживающие параметр tools, и исключает провайдера recursive/ (их модели выдают только XML-вызовы инструментов без текстовых ответов). Всё остальное в каталоге доступно.


DB-пул (Groq, OpenAI, Anthropic, Gemini или любой self-hosted эндпоинт)

DB-пул позволяет управлять отдельными моделями напрямую. Используйте его, если хотите точно контролировать модели или если ваш провайдер не OpenRouter.

Настройка:

  1. В Администрирование → ИИ → Настройки пула выберите источник DB и сохраните.
  2. Перейдите в Администрирование → ИИ → Модели и добавьте одну или несколько моделей.

Каждая запись модели содержит:

Поле Описание
Название Отображаемое имя
Machine name Идентификатор модели, передаваемый в API (например, llama-3.3-70b-versatile)
API address Базовый URL эндпоинта (например, https://api.groq.com/openai/v1)
API key Ваш ключ для этого эндпоинта
Protocol type OpenAI-compatible, Anthropic или Gemini
Size от 1 (маленькая/быстрая) до 4 (большая/мощная) — см. ниже
Active Должно быть включено для использования модели

Cuento выбирает самую дешёвую активную модель, соответствующую минимальным требованиям по размеру для каждой задачи. При ошибке rate limit автоматически повторяет попытку с другой моделью из пула.

Настройка Groq:

Groq предлагает быстрый инференс с щедрым бесплатным тарифом. Для добавления модели Groq:

  • API address: https://api.groq.com/openai/v1
  • Protocol type: OpenAI-compatible
  • Machine name: любая модель из console.groq.com/docs/models, например llama-3.3-70b-versatile или llama-3.1-8b-instant

Добавьте минимум две модели разного размера, чтобы логика retry имела запасной вариант.


Размеры моделей

Поле размера определяет, для каких задач модель подходит:

Размер Используется для
1 — Small RAG-чат, большинство рутинных задач
2 — Medium Резюме постов дайджеста
3 — Large Корректура, проверка на инъекции
4 — Extra large Зарезервировано для сложных задач

Добавьте минимум по одной модели размера 1 и размера 3 для охвата всех функций.


Настройка дайджеста игры

Дайджест — опциональная функция, которую нужно включить перед использованием.

  1. Перейдите в Администрирование → Функции и включите Дайджест игры.
  2. Перейдите в Администрирование → Функции → Дайджест игры → Настройки и укажите:
Настройка Описание
Пользователь для публикации Аккаунт форума, от имени которого бот публикует дайджесты. Создайте отдельный бот-аккаунт.
Язык резюме Язык для ИИ-резюме. Оставьте пустым для соответствия языку поста.
Минимальный размер модели Минимальный размер модели (1–4) для резюмирования. Размер 2 — разумный выбор по умолчанию.
Исключённые подфорумы Идентификаторы подфорумов через запятую, которые нужно пропустить.

Дайджест запускается автоматически по расписанию. Резюме постов и ожидающие вопросы ИИ можно просматривать в Администрирование → Функции → Дайджест игры → Еженедельно.