AI-стек: LLM, GigaChat и RAG

LLM, GigaChat, RAG по базе знаний, распознавание речи и модели машинного обучения. Модель выбираем под требования к данным, а эффект измеряем метрикой процесса, а не демо.

ИИ-проекты ведёт 404ai

Внедрение ИИ и ИИ-агентов ведёт вторая компания группы.

Стек: GigaChat API, LLM, RAG, Python, LangChain, Whisper. В опубликованных кейсах: 6 проектов с ИИ и ML.

Что это и зачем бизнесу

AI-стек — это не одна нейросеть, а связка: языковая модель, поиск по данным компании (RAG), распознавание речи, классические модели машинного обучения и инфраструктура, которая держит всё это в продакшене и следит за качеством ответов.

Модель выбираем под требования к данным. GigaChat работает на серверах в России и подходит, когда данные не должны уходить за периметр. GPT и Claude — когда важнее качество рассуждений и данные это позволяют. Архитектуру строим так, чтобы модель можно было сменить без переписывания продукта.

Мерило проекта — не впечатляющее демо, а метрика процесса: доля проверенных звонков, время обработки документа, доля обращений, закрытых без оператора. Её фиксируем до старта и замеряем после запуска.

Где ИИ даёт эффект

Когда ИИ внедрять рано

Наш подход

  1. Аудит процесса и метрика до кода. Разбираем, где уходит время и сколько стоит ошибка, и договариваемся, какой цифрой измерим результат. Аудит процессов бесплатный.
  2. Прототип на ваших данных. Качество проверяем на выборке реальных звонков, документов или обращений, а не на демонстрационных примерах. Так видно, где модель ошибается, до того как в неё вложен бюджет.
  3. RAG вместо дообучения, где это возможно. Модель отвечает по найденным фрагментам ваших документов и ссылается на источник. Базу знаний обновляете вы сами, без переобучения модели.
  4. Человек в контуре. Там, где ошибка стоит дорого, ИИ предлагает, а человек подтверждает. Спорные и нетиповые случаи уходят оператору с уже собранным контекстом.
  5. Данные под контролем. Российские модели или развёртывание в контуре компании, если данные чувствительные. Во внешние сервисы уходит только то, что допустимо по 152-ФЗ и внутренним правилам.
  6. Качество в продакшене. Эталонный набор вопросов для регрессии, журнал ответов, мониторинг качества и дрейфа модели. Ухудшение видно по метрике, а не по жалобам клиентов.

Из чего собирается решение

Что получает бизнес

Проекты с ИИ и машинным обучением

Живой пример — на этом сайте

Ассистент Гена отвечает на вопросы о ценах, сроках и кейсах по базе знаний, собранной из данных сайта: тех же, что показывают страницы услуг и кейсов. Ключ языковой модели хранится только на сервере и не попадает в браузер.

Кто отвечает за направление

Читать по теме

Частые вопросы

GigaChat или GPT — что выбрать?

Если данные должны оставаться в России или вы работаете в регулируемой отрасли, берём GigaChat: он работает на серверах в РФ. Если данные позволяют и важнее качество рассуждений на сложных задачах, берём GPT или Claude. Архитектуру строим так, чтобы модель можно было сменить настройкой.

Что такое RAG и зачем он бизнесу?

RAG — схема, в которой модель сначала находит нужные фрагменты в ваших документах, а потом отвечает по ним и ссылается на источник. Так ответы опираются на ваши регламенты и договоры, а не на общие знания модели, и базу можно обновлять без переобучения.

Можно ли использовать ИИ, если данные не должны уходить из компании?

Да. Используем российскую модель на серверах в РФ или разворачиваем открытую модель в контуре компании. Во внешние сервисы в таком случае не уходит ничего, а доступ к данным разграничивается так же, как в остальных внутренних системах.

Сколько стоит внедрение ИИ?

Простой чат-бот на GigaChat — от 150 000 ₽, система анализа звонков с интеграцией в CRM — от 400 000 ₽. ИИ-агенты оцениваются после брифа. Первый этап — бесплатный аудит процессов: на нём становится понятно, где ИИ окупится, а где нет.

Как понять, что ИИ окупится?

До старта фиксируем метрику процесса и её текущее значение: время обработки, долю проверенных звонков, стоимость одного обращения. Прототип на ваших данных показывает реальное качество, и решение о полном внедрении принимается по цифрам, а не по демо.

Услуги на этом стеке

Разработка ИИ-решений — 404ai.ru

Внедрение ИИ и ИИ-агентов ведёт вторая компания группы.

Другие технологии

404gen — креативное digital-агентство полного цикла, работаем удалённо по всей России.

Телефон: +7 993 729-59-59 (пн–пт, 10:00–19:00 МСК). WhatsApp: +7 913 141-20-96. Telegram: @aporkulevich. Почта: ap@404gen.ru.