Від класичного навчання до великих моделей

Шлях від «штучного інтелекту» до сучасних LLM — це поступове ускладнення задач і масштабу даних. Спочатку правила й експертні системи, потім machine learning на структурованих ознаках, далі deep learning на зображеннях і тексті, і нарешті великі мовні моделі, навчені на корпусах інтернету з мільярдами параметрів. Кожен крок змінював не лише точність, а й те, як команди будують, розгортають і підтримують системи — звідси потреба в LLMOps поверх класичного MLOps.

Еволюція AI → ML → LLM

Класичний ML часто означає табличні дані, чітку ціль (клас, число) і метрики на hold-out вибірці. Модель відносно мала, артефакт — файл ваг, inference дешевий і передбачуваний. LLM інша: вхід і вихід — довгий текст, «правильність» багатовимірна, а сама модель настільки велика, що її рідко тренують з нуля в продуктовій команді — зазвичай беруть готову foundation model і адаптують поведінку через підказки, RAG або fine-tuning.

Чому класичного MLOps замало

MLOps добре працює, коли модель — прозорий артефакт з версією даних і відтворюваним конвеєром навчання. У LLM ваги часто «чорна скринька» від провайдера: ви не контролюєте повний training run, а керуєте поведінкою на inference. Вартість inference домінує — кожен запит спалює token, на відміну від одного прямого проходу на рядок таблиці. Недетерміновані виходи ускладнюють регресійні тести: «та сама модель і дані» не гарантують байт-в-байт однакову відповідь.

Нова роль inference і контексту

У LLM-системах значна частина «інтелекту» живе не в зміні ваг, а в тому, що подається на вхід: системна підказка, кілька прикладів у контексті, документи з пошуку контексту, результати інструментів. Це зміщує фокус з офлайн training на онлайн orchestration — як збирати контекст, обмежувати довжину, кешувати укладання, маршрутизувати між моделями. MLOps історично зосереджувався на batch jobs; LLMOps — на безперервному потоці запитів і швидких ітераціях підказок та пошуку контексту.

LLMOps не скасовує ML-спадщину — drift, моніторинг, feature stores у змішаних системах лишаються актуальними. Але центр ваги зміщується до текстових артефактів, якості вільно сформульованої відповіді та економіки token. Розуміння еволюції допомагає не очікувати від Jenkins-конвеєра 2018 року, що він автоматично «закриє» generative продукт без нових практик.

Що запамʼятати

LLM — наступний рівень після класичного ML: інший масштаб, непрозорі ваги, дорогий inference і нестабільний текстовий вихід. MLOps лишається фундаментом, але для LLM потрібен розширений операційний шар.