ИИ в закрытом контуре: модели читают, правила решают
Ведомства, госкорпорации, объекты КИИ, промышленные предприятия: данные не могут уйти наружу, а интернета в контуре может не быть вовсе. Облачные ИИ-сервисы здесь недоступны по определению. Но это не значит, что ИИ недоступен.
Что меняет закрытый контур
Модели, поиск, базы и приложения ставятся внутрь периметра: на сервер заказчика или одной поставкой — программно-аппаратным комплексом. Запросы, документы и ответы не покидают контур. Это требование не только безопасности: в такой архитектуре проще пройти согласование со службой ИБ, потому что внешних обращений просто нет.
Где модели действительно помогают
- Чтение. Распознавание сканов, определение типа документа, извлечение реквизитов из неаккуратных файлов.
- Поиск. Ответы по внутренним документам со ссылкой на источник: какой документ, какой раздел.
- Черновики. Описания, сводки, письма — которые затем проверяет и отправляет человек.
Где решать должны правила
Если от вывода зависят деньги, приёмка или допуск, вывод должен быть воспроизводимым и объяснимым. На одном и том же комплекте документов результат обязан быть одинаковым, а у каждого замечания — основание: норма, пункт чек-листа, цитата из документа. Языковая модель так не умеет: она может ответить по-разному на один и тот же вопрос и не всегда покажет, откуда взяла ответ.
Поэтому разумная схема — разделение труда: модели читают и находят, правила сверяют и решают, человек утверждает.
Три частые ошибки внедрения
- Пилот в облаке. Демо на внешнем API впечатляет, но в прод его не пустят. Пилот должен идти в той же архитектуре, что и эксплуатация.
- Нет эталона. Без заранее размеченных примеров нельзя сказать, хорошо ли работает система. Критерии успеха записываются до старта.
- Чат вместо процесса. Окно с чатом не встраивается в работу специалиста. Встраивается шаг процесса: «загрузил комплект — получил отчёт с основаниями».
С чего начать
С одного процесса с понятной метрикой: приёмка документов, поиск по нормативке, проверка контрагентов. Пилот — на ваших прошлых данных, где ответ уже известен, в вашем контуре. Потом масштаб.