Online Inference ML-моделей — платформа сервинга моделей, которая позволяет «по кнопке» зарелизить обученную модель. Ее пользователи смогут деплоить модели в сервис, выкатывать новые версии и при необходимости удалять их.

Платформа будет покрывать сценарии для всех необходимых типов моделей — от регрессий на Sklearn до LLM-моделей. Для этого мы планируем создавать сервинг-сервисы, в которых будут крутиться модели, поднятие в кубе и жизненный цикл сервисов.

Еще мы хотим настроить взаимодействие с другими продуктами:

— интеграцию с Model Registry, в том числе выставление требований;

— интеграцию со средой разработки моделей — возможность в тестовом режиме поднять сервинг-сервис с моделью; 

— интеграцию с решениями по сбору структурированных данных и расчету на них фич для моделей — Online Feature Store.

Требования к продуктам, с которыми будем интегрироваться и взаимодействовать: правила скейлинга, авторизации и так далее. 

Стек технологий: KServe, MLServer, TorchServe, Triton Inference Server, vLLM и так далее.

• Исследовать пользователей, выявлять проблемы, формировать гипотезы и требования, приоритизировать гипотезы

• Анализировать конкурентов и альтернативные решения

• Определять ценность продукта для пользователей и бизнеса, строить дерево метрик и определять ключевые метрики

• Разрабатывать Product Vision, стратегию и роадмап развития продукта

• Проектировать решения на уровне С1—С2 по модели С4

• Управлять процессом создания и развития продукта

• У вас есть опыт работы в роли технического менеджера продукта

• Есть опыт формирования нефункциональных требований

• Обладаете общими техническими знаниями, навыками системного анализа и развитым техническим кругозором

• Умеете определять, удовлетворяет ли требованиям разработанная архитектура решения, умеете почелленджить архитектуру

• Есть навыки формирования модели данных

• Понимаете CI/CD-процессы

• Понимаете методы оценки технического качества продукта и процессов поставки

• Понимаете организацию технического мониторинга продукта и процессов надежности

• Работу в продуктовых командах, множество данных, развитую культуру тестирования и data-driven-, informed-, inspired-подходы к принятию решений 

• Сильное комьюнити продактов: внутренние и внешние митапы, участие в конференциях, обмен best practices 

• Постоянное развитие продуктовой культуры: собственную платформу для A/B-тестирования, инструменты для работы с данными, сбора фидбэка и проведения исследований, AI-центр 

• Работу в офисе или удаленно — по договоренности

• Платформу обучения и развития «Апгрейд». Курсы, тренинги, вебинары и базы знаний. Поддержку менторов и наставников, помощь в поиске точек роста и карьерном развитии 

• Комплексную программу заботы о здоровье. Оформим полис ДМС с широким покрытием и страховку от несчастных случаев. Предложим льготные условия страхования для ваших близких

• Возможность работы в аккредитованной ИТ-компании

• Линейку льготных тарифов на продукты Т-Банка

• Частичную компенсацию затрат на спорт 

• Well-being-программу, которая помогает улучшить психологическое и физическое здоровье, а также разобраться с юридическими и финансовыми вопросами

• Три дополнительных дня отпуска в год

• Достойную зарплату — обсудим ее на собеседовании