LLM в продакшене — это не «вставили ChatGPT в сайт». Рабочие кейсы, которые мы видим у клиентов, почти всегда про документы: счета, акты, договоры, заявки. Задача — извлечь структуру, проверить по правилам и отдать в ERP без ручного копипаста.
Пайплайн, а не один промпт
Надёжная схема: OCR или парсинг PDF → нормализация текста → извлечение полей с JSON schema → валидация бизнес-правилами → human-in-the-loop только для low-confidence кейсов. Модель не принимает финальное решение о платеже — она ускоряет подготовку данных.
const schema = {
type: "object",
properties: {
invoice_number: { type: "string" },
amount: { type: "number" },
vat_rate: { type: "number", enum: [0, 10, 20] },
},
required: ["invoice_number", "amount"],
};
// Structured output + post-validation
const parsed = await extractWithSchema(documentText, schema);
assertBusinessRules(parsed);Метрики качества
Считайте field-level accuracy, долю эскалаций на человека и стоимость на документ (токены + инфра). A/B между моделями на реальной выборке из 500 документов даёт больше пользы, чем бенчмарки на синтетике. Fallback на правила (regex, шаблоны) для типовых форм часто дешевле и стабильнее.
AI окупается там, где есть повторяемый документооборот и чёткие правила проверки — не там, где «пусть нейросеть придумает стратегию».
Начинайте с одного типа документа и одного отдела. Когда accuracy стабильно выше 95% на проде — масштабируйте на соседние процессы. Так вы избегаете классической ловушки: пилот на слайдах, провал при первом же нестандартном скане.