Огляд
«Лава» — полк безпілотних систем 2-го корпусу Національної гвардії України «Хартія». Новий високотехнологічний хартійський підрозділ, що працює з дронами різних типів — коптерами, «крилами», наземними роботизованими комлексами.
Обов'язки
- проєктування архітектури систем на основі LLM — від вибору моделей до інтеграції з наявною інфраструктурою
- вибір моделей за якістю, вартістю, безпекою та підтримкою української мови
- проєктування RAG-систем: підготовка й chunking документів, гібридний пошук, reranking, фільтрація за метаданими, посилання на джерела
- побудова агентних систем: tool calling, багатокрокові сценарії, інтеграція із зовнішніми сервісами
- розгортання LLM у локальних (on-premise) і закритих (air-gapped) середовищах, планування GPU-ресурсів і масштабування
- оптимізація inference: quantization, batching, KV-cache, latency/throughput
- fine-tuning моделей (LoRA/QLoRA) і підготовка навчальних датасетів
- оцінювання якості: еталонні набори, LLM-as-a-judge, метрики достовірності
- безпека LLM-систем: захист від prompt injection і витоку даних, guardrails, розмежування доступу, аудит запитів
- моніторинг у продакшні: логування, трасування, контроль деградації якості
Вимоги
- моделі: open-weight LLM (Llama, Mistral, Gemma), embedding-моделі, rerankers
- inference і serving: vLLM, SGLang, TensorRT-LLM, llama.cpp, Ollama
- фреймворки: Transformers, PEFT, TRL, LangGraph або LlamaIndex
- пошук і дані: Qdrant, OpenSearch або Elasticsearch (BM25), PostgreSQL.
- оцінювання та observability: RAGAS, Langfuse, OpenTelemetry, Grafana
- безпека: NeMo Guardrails, Llama Guard або аналоги
- оптимізація: quantization (AWQ, GPTQ, GGUF, FP8), ONNX Runtime, TensorRT
- інтеграція: REST/gRPC, OpenAI-сумісні API, Model Context Protocol (MCP)
- інфраструктура: Linux, Docker, Kubernetes, NVIDIA CUDA, CI/CD, Git
- самостійне ухвалення архітектурних рішень та їх обґрунтування: альтернативи, компроміси, ризики
- розрахунок GPU-ресурсів (VRAM, кількість користувачів, навантаження) і вартості рішення
- регресійне тестування промптів, моделей і пайплайнів перед кожною зміною
- системний аналіз помилок: галюцинації, нерелевантний пошук, збої агентів
- технічне лідерство: code review, менторство інженерів, стандарти розробки
- взаємодія із замовниками та предметними експертами для формування вимог
Умови
- служба за контрактом або мобілізацією
- можливість переведення з інших підрозділів (за погодженням поточного командування)
- 60 днів навчання для кандидатів без бойового досвіду
- харчування та медичне забезпечення
- соціальний пакет військовослужбовця
- повне матеріальне забезпечення, форма та спорядження
- лікування та компенсації у разі поранення
- безкоштовний доступ до навчальних програм та лекційних матеріалів
- можливість служби для кандидатів, які за висновком ВЛК придатні до служби у військових частинах забезпечення, ТЦК та СП, ВВНЗ, навчальних центрах тощо
- можливість служби для кандидатів зі статусом СЗЧ