ProfiNow Jobs  · IT-вакансии из открытых Telegram-каналов
ProfiNow JobsDevOps / SREDevOps Engineer (LLM Infrastructure)

DevOps Engineer (LLM Infrastructure)

KODE · Senior · Калининград · Гибрид

от 170 000 до 230 000 RUB

Стэк

kubernetesdockerhelmgitlab-cigithub-actionspythonprometheusgrafanapostgresqlredislinuxci/cdgityaml

Описание

Вакансия DevOps-инженера в компанию KODE с офисом в Калининграде, работа возможна удалённо из городов РФ, в гибридном или офисном формате. Основные задачи: развёртывание и сопровождение LLM-инференс платформ (vLLM, SGLang, Ollama), эксплуатация AI-платформы в Kubernetes с управлением GPU-ресурсами, настройка AI Gateway (LiteLLM), оптимизация производительности inference (batching, KV Cache, latency), настройка мониторинга и observability (Prometheus, Grafana, OpenTelemetry, Langfuse, SigNoz). Требования: опыт DevOps от 4 лет, уверенное администрирование Kubernetes в production, практический опыт работы с GPU (NVIDIA/CUDA), навыки автоматизации на Python, CI/CD (GitLab CI / GitHub Actions), опыт работы с Redis, PostgreSQL и API-шлюзами. Преимуществом будет знание LiteLLM, KEDA, Qdrant/Milvus. Предусмотрено 2 этапа интервью.

Откликнуться

Telegram: @tatiana_gorbatsevich_tgo

Оригинальный пост: https://t.me/devops_jobs_feed/23098

AI-инструменты для отклика