Руководитель ML/AI-платформы

Задачи: - Развивать LLM-платформу как внутренний продукт: шлюз к моделям с учётом квот и стоимости, self-hosted инференс, выбор и оценка моделей (evals, бенчмарки), защита чувствительных данных, базовая инфраструктура для агентских сценариев. - Переводить продуктовые интеграции с внешних LLM на модели в собственном контуре и модели российских провайдеров. - Отвечать за GPU-мощности: планирование ёмкости, размещение с резервированием, выбор между арендой и своим железом, расчёт окупаемости, бюджет CAPEX/OPEX. - Поддерживать и эволюционно развивать ML-платформу: Kubernetes, model registry, serving, обновления под требования безопасности, наблюдаемость и надёжность. Требования: - Опыт руководства ML- или LLM-платформой либо инфраструктурной командой. - Практическое понимание LLM-инфраструктуры: serving (vLLM, TGI, Triton или аналоги), ограничения и утилизация GPU, производительность, стоимость токена, оценка качества моделей, компромисс между своими моделями и внешним API. - Опыт MLOps: Kubernetes, model registry и tracking (MLflow или аналоги), CI/CD моделей, эксплуатация большого числа моделей. - Умение управлять внутренним продуктом: переводить размытые запросы в задачи с критериями результата, говорить «нет» с альтернативой, держать фокус команды на 2–3 главных целях. - Опыт работы с требованиями безопасности и регуляторики: умение договориться об этапности, а не принять весь скоуп разом.