Локальная LLM может тормозить и галлюцинировать при полностью «зелёном» мониторинге. Рассказываем, что мониторить помимо инфраструктуры, как устроена трассировка через OpenTelemetry. Плюс два кейса: фрагментация видеопамяти GPU и молчаливый отказ RAG. Читать далее