Життєвий цикл у чотири етапи
Модуль 1Урок 5 з 38Безкоштовний модуль
Зрілий LLM-продукт описують не одноразовим «запуском моделі», а циклом Discover → Distill → Розгортання → Deliver. Discover фіксує проблему, дані й ризики; Distill перетворює ідею на конкретну поведінку — підказку, модель, пошук контексту; Розгортання робить систему доступною через infra та API; Deliver утримує якість, безпеку й вартість у продакшені і збирає сигнали для наступного Discover. Цикл не закінчується релізом — він обертається з кожним кварталом, новим regulation або зміною моделі провайдера.
Discover — відкриття
На етапі Discover команда відповідає: яку задачу вирішуємо, для кого, як виміряємо успіх, які дані є і яких бракує, де межі ризику (regulated domain, PII, high-stakes рішення). Без чіткого сценарію використання Distill перетворюється на нескінченні експерименти. KPIs на цьому етапі — не «accuracy моделі», а продуктові: час обробки звернення, частка self-service, NPS, вартість на вирішений кейс.
Приклад
Discover для internal FAQ: мета — зменшити навантаження на L1 на 20% без зростання скарг на хибні відповіді; дані — Confluence + PDF політик; межа — не давати юридичних порад, ескалувати на людину при низькій впевненості.
Distill — дистиляція
Distill — місце, де «можливо» стає «так працює під наш бюджет і SLA». Обирають модель і tier, проєктують підказку і RAG, будують набори для оцінювання, фіксують компроміси між достовірністю, затримкою і вартістю. Погані рішення, закарбовані тут, дорого виправляти в продакшені; добрі — дають передбачуване розгортання. Distill включає пілоти на обмеженій аудиторії, але вже з тими ж компонентами, що підуть у production.
Розгортання і Deliver
Розгортання — infra, autoscaling, API gateways, secrets, rate limits, integration з продуктом. Deliver — безперервний моніторинг якості (оцінювання вибірок, user feedback), безпеки (injection attempts, data leakage), вартості (token dashboards, alerts) та операційних SLO. Feedback з Deliver — реальні запити, провали, граничні випадки — стає входом для наступного Discover: нові документи в індекс, оновлення підказки, зміна моделі або scope продукту.
Порада
Малюйте цикл на одній дошці: стрілка від Deliver назад до Discover — обовʼязкова. Якщо post-release дані не повертаються в backlog покращень, система деградує повільно, поки інцидент не змусить реагувати.
Увага
Пропуск етапів — типова помилка: стрибок з demo одразу до Розгортання без оцінювання (Deliver болить), або нескінченний Discover без Distill (немає поведінки, яку можна викатити). Чотири фази — не бюрократія, а карта відповідальності.
LLMOps зрілість часто вимірюють тим, наскільки плавно команда обертає цей цикл: чи є шаблони для кожної фази, чи привʼязані метрики, чи один owner на end-to-end flow. Моделі провайдерів змінюються швидко; процес, який тримає Discover–Deliver разом, переживає swap GPT на інший endpoint без хаосу.
Що запамʼятати
Discover → Distill → Розгортання → Deliver — замкнутий цикл, не лінійний проєкт. Deliver годує Discover; без цього зворотного звʼязку LLM-продукт деградує, навіть якщо перший реліз був успішним.
Перевірка
3 питанняКілька питань за матеріалом уроку. Спроб — скільки завгодно.