LLMOps инженер
от 170 000 до 230 000 RUB
Стэк
Описание
Позиция LLMOps в компании KODE предполагает развертывание, сопровождение и обновление LLM-инференс платформ (vLLM, SGLang, Ollama), а также эксплуатацию AI-платформы в Kubernetes с управлением GPU-ресурсами. В обязанности входят настройка AI Gateway (LiteLLM), оптимизация производительности inference (batching, KV Cache, semantic cache), настройка мониторинга и observability (Prometheus, Grafana, OpenTelemetry, Langfuse, SigNoz), а также автоматизация CI/CD и поддержка GitOps. От кандидата ожидается опыт DevOps от 3 лет, уверенное владение Kubernetes в production, Docker, Helm, практический опыт с LLM inference-серверами и GPU (NVIDIA/CUDA). Дополнительно необходимы навыки автоматизации на Python, работы с Redis, PostgreSQL, GitLab CI и GitHub Actions. Процесс найма включает 2 этапа интервью, офис в Калининграде.
Откликнуться
Оригинальный пост: https://t.me/devops_jobs_feed/23161
AI-инструменты для отклика
- Сгенерировать сопроводительное письмо под эту вакансию
- Проверить совместимость резюме с вакансией (% соответствия)
- Проверить резюме онлайн по критериям