Доверие к ИИ в корпоративной среде важнее его функциональности. Оптимальное решение — разделить ядро системы и генерацию ответов. Вся аналитика, базы знаний и права доступа остаются на сервере клиента. ИИ подключается только для синтеза ответа, не имея доступа к хранилищам и не сохраняя историю. Это гарантирует, что критичные данные не покинут контур компании.
Этот подход выбирают компании из финансов, страхования, юриспруденции и промышленности, где конфиденциальность — базовое условие бизнеса. Заказчики отмечают предсказуемость затрат (оплата только за вычисления), независимость от вендора (данные легко перенести другому подрядчику) и гибкую настройку прав доступа. Кроме того, архитектура позволяет безопасно наращивать функционал агента без пересборки системы
Решение разворачивается на изолированном сервере клиента с собственной базой данных для хранения документов, настроек и кэша. Безопасность обеспечивается уникальными ключами доступа для каждого пользователя и сервиса, сквозным шифрованием (дисков и каналов связи) и гибкими резервными копированиями. Вся активность — от изменения конфигураций до каждого запроса к модели — детально сохраняются согласно политике безопасности заказчика.
Все документы, история диалогов, настройки агента (шаблоны, фильтры, привязки к источникам) и кэш запросов остаются внутри изолированного контура клиента. История переписок сохраняется целиком — это позволяет анализировать качество работы агента и дообучать его на собственных данных. В результате даже при компрометации облачной учётной записи модели злоумышленник получит только обезличенные запросы, лишённые контекста и бесполезные без внутренней базы знаний.
Типовой сценарий выглядит так: система принимает вопрос, локально извлекает сущности и подгружает релевантные документы, затем формирует компактный шаблон без чувствительных данных (имён, сумм, адресов). Этот шаблон отправляется во внешнюю модель через защищённый АПИ (API), а готовый ответ возвращается на сервер клиента и сохраняется в локальной БД. Внешняя модель не хранит ни шаблон, ни ответ — это закреплено договором и специальными флагами АПИ (API). Такой подход радикально снижает стоимость владения: нет необходимости разворачивать собственный cервер с ГПУ (GPU) за 500 тыс.–1,5 млн рублей только для обработки пиковых нагрузок.
Наш архитектурный принцип прост: все данные хранятся у клиента, а во внешнюю модель уходит только минимально необходимый фрагмент текста. Мы предоставляем полный аудит всех отправок и записей в реальном времени — заказчик всегда видит, что именно было передано модели. Более того, можно настроить автоматические фильтры, которые блокируют отправку чувствительных данных (чисел, имён собственных) без участия человека. Это снимает инфраструктурные риски и позволяет сосредоточиться на бизнес-задачах.
Рассмотрим конкретный пример: для отдела продаж, состоящего из 20 менеджеров, которые обрабатывают по 30–40 запросов в день каждый, достаточно одного удалённого сервера средней мощности и защищённого АПИ (API) популярной модели. Мы успешно запускали такие решения за 7–14 дней «под ключ»: все внутренние документы компании (коммерческие предложения, шаблоны писем, технические спецификации) остаются внутри, а время ответа агента обычно укладывается в комфортные 3–6 секунд, что позволяет вести диалог в реальном времени без задержек, раздражающих клиентов. При этом бюджет на инфраструктуру и АПИ (API)-запросы оказывается в несколько раз ниже, чем аренда или покупка собственного вычислительного кластера.
Полностью локальная модель нужна там, где требования к секретности не допускают компромиссов: адвокатская тайна, медицинские записи, стратегические коммерческие документы, госзаказы. Также к ней переходят при очень больших объёмах — когда плата за внешнее АПИ (API) превышает стоимость собственного ГПУ-кластера (GPU-кластера) (обычно это 100 000+ запросов в день). Однако для большинства коммерческих компаний — ритейла, логистики, консалтинга, сервисы в сегменте бизнес для бизнеса (B2B) — гибридный сценарий остаётся оптимальным: данные под контролем, а затраты разумны и не требуют отдельного бюджета на трансформацию.
Если стоит задача внедрить агента для работы с конфиденциальными данными, не нужно сразу строить дорогую инфраструктуру с собственной нейросетью и командой по эксплуатации и сопровождению моделей машинного обучения. Рациональнее разместить ядро системы на отдельном сервере клиента, ограничить доступ по ролям, включить сквозное шифрование и регулярные резервные копирования, а генеративную модель использовать только как внешний «вычислительный слой» для синтеза ответа на очищенный запрос.
Такой поэтапный подход даёт сбалансированное решение: безопасность без компромиссов при разумном бюджете. Вы начинаете с минимума, тестируете гипотезы, собираете статистику и только при росте объёмов или ужесточении регуляторики осознанно переходите на полностью локальный контур. Итог — надёжный агент, который работает с данными так, будто они не покидали офис, но использует лучшие возможности современных нейросетей.
