Настройка ИИ
ИИ-слой Cuento охватывает три функции: ассистент по базе знаний, ищущий информацию в контенте вашего форума, еженедельный дайджест игры с автоматическими резюме эпизодов, и корректор текстов прямо в редакторе. Все три используют один настраиваемый пул моделей — достаточно один раз указать провайдера.
Что делает ИИ
Чат с базой знаний
Игроки открывают ИИ-чат и задают вопросы об игровом мире. ИИ запускает многошаговый RAG-пайплайн: определяет фракции и персонажей, упомянутых в вопросе, ищет по постам форума, лор-топикам и анкетам персонажей через Qdrant (семантический поиск) и Sonic (ключевые слова), затем отвечает с указанием источников. ИИ не придумывает информацию — если чего-то нет на форуме, он так и скажет.
ИИ учитывает фракции: если вопрос касается конкретной фракции, он фильтрует результаты поиска по персонажам и эпизодам этой фракции перед ответом.
Еженедельный дайджест игры
Когда функция дайджеста включена, Cuento автоматически резюмирует посты эпизодов. После каждого нового поста в треде эпизода ИИ читает его и генерирует короткое резюме для внутреннего хранения. Если в посте упоминается персонаж или концепция, которую ИИ не распознаёт, он отправляет уточняющий вопрос автору поста через ИИ-чат — автор отвечает, и ИИ учитывает ответ перед формированием дайджеста.
По расписанию ИИ собирает все резюме эпизодов в полный дайджест и публикует его от имени назначенного бот-аккаунта.
Корректор постов
В редакторе постов игроки могут проверить текст через корректор. Он исправляет орфографию, грамматику и пунктуацию — без перефразирования и стилистических правок. Результат показывает исправленный текст и раскрывающийся список изменений. Игрок сам решает, принимать ли исправления.
Защита от инъекций
Весь текст, поступающий в ИИ-пайплайн, автоматически проверяется на prompt injection. Это нельзя отключить — защита предотвращает выполнение инструкций, встроенных в пользовательский контент.
Настройка пула моделей
Пул моделей управляется в Администрирование → ИИ. Доступно два режима: OpenRouter и DB-пул.
OpenRouter (рекомендуется для большинства форумов)
OpenRouter — агрегатор, дающий доступ к сотням моделей (включая бесплатные) через один API-ключ. Cuento загружает актуальный каталог моделей из OpenRouter во время работы и автоматически выбирает самую дешёвую модель, поддерживающую инструменты и соответствующую минимальным требованиям по размеру для каждой задачи.
Настройка:
- Создайте аккаунт на openrouter.ai и сгенерируйте API-ключ.
- В административной панели перейдите в Администрирование → ИИ → Настройки пула.
- Выберите источник OpenRouter, вставьте API-ключ и сохраните.
- Опционально включите Только бесплатные для ограничения пула моделями без стоимости токена.
Больше ничего не нужно — Cuento сам выбирает подходящие модели.
Как OpenRouter работает с инструментами: Cuento отфильтровывает модели, не поддерживающие параметр tools, и исключает провайдера recursive/ (их модели выдают только XML-вызовы инструментов без текстовых ответов). Всё остальное в каталоге доступно.
DB-пул (Groq, OpenAI, Anthropic, Gemini или любой self-hosted эндпоинт)
DB-пул позволяет управлять отдельными моделями напрямую. Используйте его, если хотите точно контролировать модели или если ваш провайдер не OpenRouter.
Настройка:
- В Администрирование → ИИ → Настройки пула выберите источник DB и сохраните.
- Перейдите в Администрирование → ИИ → Модели и добавьте одну или несколько моделей.
Каждая запись модели содержит:
| Поле | Описание |
|---|---|
| Название | Отображаемое имя |
| Machine name | Идентификатор модели, передаваемый в API (например, llama-3.3-70b-versatile) |
| API address | Базовый URL эндпоинта (например, https://api.groq.com/openai/v1) |
| API key | Ваш ключ для этого эндпоинта |
| Protocol type | OpenAI-compatible, Anthropic или Gemini |
| Size | от 1 (маленькая/быстрая) до 4 (большая/мощная) — см. ниже |
| Active | Должно быть включено для использования модели |
Cuento выбирает самую дешёвую активную модель, соответствующую минимальным требованиям по размеру для каждой задачи. При ошибке rate limit автоматически повторяет попытку с другой моделью из пула.
Настройка Groq:
Groq предлагает быстрый инференс с щедрым бесплатным тарифом. Для добавления модели Groq:
- API address:
https://api.groq.com/openai/v1 - Protocol type: OpenAI-compatible
- Machine name: любая модель из console.groq.com/docs/models, например
llama-3.3-70b-versatileилиllama-3.1-8b-instant
Добавьте минимум две модели разного размера, чтобы логика retry имела запасной вариант.
Размеры моделей
Поле размера определяет, для каких задач модель подходит:
| Размер | Используется для |
|---|---|
| 1 — Small | RAG-чат, большинство рутинных задач |
| 2 — Medium | Резюме постов дайджеста |
| 3 — Large | Корректура, проверка на инъекции |
| 4 — Extra large | Зарезервировано для сложных задач |
Добавьте минимум по одной модели размера 1 и размера 3 для охвата всех функций.
Настройка дайджеста игры
Дайджест — опциональная функция, которую нужно включить перед использованием.
- Перейдите в Администрирование → Функции и включите Дайджест игры.
- Перейдите в Администрирование → Функции → Дайджест игры → Настройки и укажите:
| Настройка | Описание |
|---|---|
| Пользователь для публикации | Аккаунт форума, от имени которого бот публикует дайджесты. Создайте отдельный бот-аккаунт. |
| Язык резюме | Язык для ИИ-резюме. Оставьте пустым для соответствия языку поста. |
| Минимальный размер модели | Минимальный размер модели (1–4) для резюмирования. Размер 2 — разумный выбор по умолчанию. |
| Исключённые подфорумы | Идентификаторы подфорумов через запятую, которые нужно пропустить. |
Дайджест запускается автоматически по расписанию. Резюме постов и ожидающие вопросы ИИ можно просматривать в Администрирование → Функции → Дайджест игры → Еженедельно.