Solution Architect (LLM)

REMOTE RU | ГРОССОФТ Работа по договору с ИП (статус ИП у вас) Архитектурный и инфраструктурный стек: Kubernetes, Docker, Helm, Nginx/Ingress, Kafka/RabbitMQ, Redis, PostgreSQL, Object Storage, API Gateway, Vault, Keycloak/ADFS, Prometheus, Grafana, OpenSearch. ML / MLOps стек: Python, FastAPI, vLLM, Triton, PyTorch, MLflow, ClearML, Airflow, GitLab CI/CD. Интеграционный стек: REST, WebSocket, OpenAPI, AsyncAPI, ETL, корпоративные IAM/SSO, LDAP/AD. Требования: Архитектура highload-сервисов: Опыт проектирования высоконагруженных распределённых систем: горизонтальное масштабирование, отказоустойчивость, балансировка нагрузки, кэширование, очереди, rate limiting, graceful degradation. Архитектура ML/LLM-сервисов: Опыт проектирования архитектуры LLM-сервисов для промышленной эксплуатации: inference-serving, batch/online processing, fvector storage, orchestration пайплайнов, GPU workload management. Интеграция в корпоративный ИТ-ландшафт: Опыт встраивания ML-сервисов в корпоративную архитектуру: интеграция с API Gateway, IAM/SSO, корпоративными шинами, системами мониторинга и журналирования. Микросервисная и событийная архитектура: Понимание микросервисного подхода, SOA, event-driven architecture, async-взаимодействия, брокеров сообщений и потоковой обработки данных. Контейнеризация и оркестрация: Уверенное знание Docker, Kubernetes, Helm, ingress/service mesh, принципов деплоя и эксплуатации контейнеризированных решений. Облачная и on-prem архитектура: Опыт проектирования решений как в on-prem, так и в private/public cloud, понимание hybrid architecture, multi-zone deployment, disaster recovery, backup/restore, SLA/SLO/SLI. Интеграционные технологии и API: Опыт проектирования REST/WebSocket интеграций, контрактов взаимодействия, схем авторизации и маршрутизации. Безопасность и корпоративные стандарты: Знание принципов ИБ: TLS/mTLS, JWT, OAuth2, OIDC, SAML/ADFS, RBAC/ABAC, secrets management, требования к защите ПДн и чувствительных данных. Данные и хранилища: Понимание архитектуры хранения и обработки данных: PostgreSQL/Redis/Object Storage. Observability и эксплуатация: Опыт проектирования мониторинга и сопровождения сервисов: метрики, логи, трассировки, алерты, capacity planning, performance profiling, incident/problem management. MLOps / DevOps практики: Понимание CI/CD для ML-сервисов, model registry, experiment tracking, reproducibility. Технический стек и языки: Понимание Python, SQL, Bash, Git. Умение читать код и проектировать архитектуру с учётом ограничений фреймворков и runtime. Архитектурная документация: Опыт подготовки архитектурных артефактов: C4/UML, схемы интеграции, NFR, ADR, security/data flow diagrams. Опыт и уровень: Практический опыт работы системным/solution/enterprise architect от 3х лет, общий опыт в ИТ от 5 лет. Опыт с LLM-продуктами или платформами данных. Дополнительно: Опыт проектирования GPU-инфраструктуры и inference-контуров для LLM/embedding/reranking сервисов. Понимание особенностей vLLM, Triton Inference Server, ONNX Runtime, MLflow, ClearML. Опыт выбора архитектуры под разные профили нагрузки: low latency / high throughput / batch / streaming. Навык оценки стоимости владения архитектурой: CAPEX/OPEX, стоимость GPU/CPU/Storage/Network. Опыт проектирования мультитенантных платформ и контуров изоляции. Знание практик FinOps / Capacity planning будет плюсом. Опыт прохождения архитектурных комитетов, согласования решений с ИБ, инфраструктурой и корпоративными архитекторами. Навык формализации нефункциональных требований: производительность, доступность, безопасность, сопровождаемость, масштабируемость. Понимание специфики корпоративной интеграции: legacy-системы, ограниченные контуры.