Инженер по обеспечению надежности генеративного ИИ
Lamoda · г Москва
• Проектировать и развивать AI Gateway: единый доступ к внешним и внутренним LLM, маршрутизация запросов, лимиты, фоллбэки, контроль стоимости, аутентификация и ролевая модель доступа • Развивать платформу LLM-инференса: развертывание и эксплуатация open-source LLM, OpenAI-совместимые API, потоковая генерация, управление версиями моделей, производительность, отказоустойчивость и мониторинг • Развивать RAG/Retrieval -платформу: векторные и лексические индексы, гибридный поиск, версионирование инд