Методика застосування LLM для підтримки прийняття управлінських рішень

DOI: 10.31673/2412-9070.2026.028906

Анотація

У статті представлена методика оптимізації великих мовних моделей (LLM) для обробки надвеликих масивів контексту для підтримки прийняття управлінських рішень. Досліджується проблема «lost-in-the-middle» та спричинена нею деградація точності вилучення фактів при збільшенні обсягу вхідних даних у запиті до LLM понад 100 000 токенів. Запропоновано гібридну концепцію, що базується на поєднанні технічного аудиту моделі та методів інженерії запитів (Prompt Engineering), зокрема динамічної ін’єкції аналітичних моделей (DAP) та передавання вже обчислених статистичних параметрів (регресійних коефіцієнтів) у структурованому текстовому форматі (JSON, Markdown). Визначено систему критичних технічних метрик (TTFT, TPOT, Needle In A Haystack), що безпосередньо корелюють з оперативністю та валідністю управлінських рішень. Запропонована методологія структурованого передавання даних дає змогу мінімізувати арифметичні галюцинації та зменшити когнітивне навантаження моделі. Використання засобів інженерії запитів дозволяє трансформувати LLM з інструменту генерації тексту на повноцінний інтерпретатор складних аналітичних моделей без необхідності донавчання.

Ключові слова: великі мовні моделі (LLM), інженерія запитів (Prompt Engineering), RAG-emulation, система підтримки прийняття рішень, управлінські рішення, аналітична модель, інженерія запитів, RAG, JSON, Markdown.