Как я собрал корпоративного AI‑ассистента в Mattermost для девопс‑задач

Расскажу, как за несколько месяцев из простого пайплайна для решения багов с помощью ллм вырос полноценный AI‑ассистент, который живёт прямо в нашем корпоративном Mattermost, умеет сам ходить в десятки внешних систем (GitLab, Jira, Kubernetes, Prometheus и другие), учится на своих же запусках и работает целиком внутри нашего контура — без обращений к внешним сервисам. Все запросы к моделям идут через LLM гейтвей за которым стоит несколько виртуалок с видеокартами для инференса.