ИИ в закрытом контуре

ИИ в закрытом контуре — это языковая модель на серверах под вашим контролем, рядом с базой знаний и ботами. Запросы обрабатываются прямо там и не уходят во внешние сервисы ИИ. Служба безопасности может проверить всё решение по внутренним регламентам компании.

За изоляцию данных приходится платить оборудованием и отчасти качеством ответов. Открытые модели, которые помещаются на один или два сервера, уступают передовым облачным моделям. Поэтому сначала идёт пилот: он показывает, как открытые модели отвечают на ваши реальные вопросы, до того как вы купите оборудование и внесёте второй платёж за настройку.

Нужен ли вам закрытый контур вообще, мы подробно разбираем на странице ИИ-платформа. Эта страница для случаев, когда данные нельзя передавать во внешние сервисы ИИ. Ниже рассказываем, где разместить модель, какие открытые модели подойдут, какое оборудование потребуется и сколько всё это стоит в месяц.

Четыре варианта размещения модели

Модель можно развернуть на собственных серверах, на выделенном сервере у хостинг-провайдера, одобренного службой безопасности, на арендованном сервере с GPU в российском дата-центре или использовать облачную модель в России.

Только первый вариант оставляет данные на вашем собственном оборудовании внутри корпоративного периметра (в серверной офиса или в своей стойке в ЦОД). Во втором и третьем случаях данные находятся у хостинг-провайдера или дата-центра, с которым у вас договор. Эти подходы удобно совмещать: провести пилот на арендованном сервере с неконфиденциальными документами, а после того как пилот пройден, перенести всё внутрь своего контура.

Сравнение российских и мировых открытых моделей

Модели с открытыми весами (open-weight) разработчик публикует целиком, поэтому их можно запускать на собственном оборудовании. Они работают на графических процессорах (GPU) с собственной памятью. Объём этой видеопамяти и определяет, какая модель поместится. Буква «B» обозначает миллиарды параметров: чем модель крупнее, тем, как правило, лучше она отвечает, но тем больше памяти требует.

Качество работы на русском языке оценивается по бенчмарку MERA 2.0 от Альянса в сфере ИИ (шкала от 0 до 1, чем выше балл, тем лучше). Лицензии и показатели проверены на страницах моделей и на платформе MERA 22–23 октября 2026 года. Объём видеопамяти в колонке справа рассчитан только на саму модель, без запаса на текст запросов и число одновременных пользователей.

Обрабатываемый текст и одновременные пользователи требуют памяти сверх указанной в таблице. Модели со смесью экспертов (MoE) при генерации каждого слова задействуют лишь часть параметров, поэтому работают быстрее обычных моделей того же размера, но в памяти всё равно должна находиться вся модель. Сжатие до 4 бит (квантование) сокращает память под саму модель примерно в четыре раза по сравнению с несжатой версией, а качество обычно немного снижается.

Выводы из таблицы:

• В закрытом контуре вы отчасти жертвуете качеством ответов ради того, чтобы данные не покидали компанию. На бенчмарке MERA 2.0 лучшие открытые модели под одну видеокарту набирают 0,39–0,44 балла, тогда как сильнейшие облачные модели достигают 0,62–0,68. Насколько хорошо открытые модели отвечают именно на ваши вопросы, показывает пилот.
• «Российские» и «мировые открытые» модели не исключают друг друга. Модели Т-Банка — это дообученные версии Qwen3 от Alibaba.
• Если служба безопасности исключает модели по стране происхождения, мы закладываем это требование в расчёт инфраструктуры. В таблице есть модели из России, США и Китая.
• Рейтинги помогают сузить выбор до двух-трёх вариантов, а итоговую модель определяют тесты на 20–30 реальных запросах вашей компании.

Сервер для локальной LLM: какое оборудование нужно и сколько стоит его аренда

Чтобы запустить LLM на своём сервере, сначала определяют, какой модели какая видеокарта нужна. Цены аренды ниже взяты из прайс-листа одного российского провайдера на 21 октября 2026 года, за полный месяц (720 часов); у наших партнёров цены другие.

Эти цены показывают порядок сумм: точные цифры фиксируются в расчёте инфраструктуры. Если оборудование покупать, вместо ежемесячной аренды будут разовые затраты на него и расходы на электроэнергию и размещение в ЦОД. Мы не продаём оборудование: его могут поставить наши партнёры, а в расчёте инфраструктуры мы указываем точную конфигурацию, по которой поставщики назовут цену, и сравниваем покупку с арендой при вашей нагрузке.

Необходимый объём памяти = сама модель (плюс компактная модель для индексации документов) + (текст запроса каждого пользователя вместе с фрагментами найденных документов × число пользователей, обращающихся одновременно). В таблицах учтена только сама модель. Остальное мы проверяем на пилоте при ожидаемой нагрузке.

Стоимость развертывания LLM в закрытом контуре

Ежемесячные расходы ≈ аренда сервера (или амортизация, электроэнергия и размещение в ЦОД при покупке) × количество серверов + наша поддержка. Счетов за токены здесь нет: сервер обходится в одну и ту же сумму независимо от того, ответил он на сотню вопросов за месяц или на сто тысяч (в пределах своей пиковой мощности). Если мощности перестаёт хватать, добавляется ещё один сервер. Аренду серверов вы оплачиваете напрямую провайдеру или нашим партнёрам: серверы мы не перепродаём.

При аренде одной серверной видеокарты на 80 ГБ (около 246 000 ₽ в месяц) расходы составят порядка 571 000 ₽ в первый месяц и около 271 000 ₽ в последующие. Для эксплуатации нужны два сервера, это удваивает затраты на серверы: около 120 000 ₽ в месяц за два сервера с видеокартой на 24 ГБ или около 492 000 ₽ за два сервера с видеокартой на 80 ГБ.

Конфигурации на выбор:

• Минимальная (для пилота): один арендованный сервер, неконфиденциальные или синтетические документы (придуманные, но похожие на ваши), ежемесячная проверка.
• Оптимальная (для эксплуатации): два сервера для отказоустойчивости (с серверными видеокартами, если выбрана крупная модель), постоянный мониторинг и обновление моделей. Поддержку этой конфигурации мы оцениваем по итогам расчёта инфраструктуры, она дороже базовой ставки 25 000 ₽ в месяц.

Удалённая поддержка от 25 000 ₽ в месяц — это базовый уровень: ежемесячная проверка, отчёт по расходам и качеству ответов, связь с нами в рабочее время, без гарантии доступности (SLA).

Кто обслуживает систему и как мы получаем доступ к серверам

Формат работы вы выбираете в расчёте инфраструктуры:

• Удалённо (базовый вариант). Мы устанавливаем, обновляем и проверяем платформу через доступ, который выдаёт и контролирует ваша команда.
• Силами вашего администратора. Все операции на серверах выполняет ваш штатный специалист по нашему регламенту (пошаговой инструкции). Мы готовим регламент и проверяем результат. Стоимость поддержки в этом формате согласовывается отдельно.
• С выездом на площадку — по договорённости.

Что вы получаете

1. Расчёт инфраструктуры (обязательный этап, 30 000 ₽, засчитывается в стоимость настройки): место размещения модели, два-три кандидата на выбор, подбор видеокарты и прогноз ежемесячных затрат.
2. Базу знаний внутри контура, включая компактную модель для индексации документов компании.
3. Конфигурацию серверов, подготовленную для наших партнёров, вашего поставщика или хостинга, а затем установленное ПО с подключением к чат-ботам, ассистентам и агентам.
4. Критерии успешности пилота, зафиксированные в расчёте до старта тестов. Второй платёж (40% стоимости настройки) вы вносите, только когда пилот выполнит эти критерии.

Что ещё входит в любой проект ИИ-платформы и что остаётся у вас, описано на странице ИИ-платформа.

Что у нас уже работает

Чат-боты на семи действующих сайтах (четыре из них принадлежат сторонним компаниям) запущены на нашем собственном движке (данные на октябрь 2026 года). Он работает с базой знаний и мониторингом и обращается к облачной модели. В закрытом контуре тот же движок будет работать на вашем сервере с открытой моделью, а документы будет индексировать локальная модель. Платный расчёт инфраструктуры и пилот проверяют, подходит ли решение для ваших вопросов, до того как вы оплатите остальную часть проекта.