LLMOps Engineer - Cloud/Gen AI

Описание работы:
В должности LLMOps Engineer - Cloud/Gen AI в компании Vertiv, базирующейся в Вестервилле, штат Огайо, вы будете находиться на передовой разработки и поддержки инфраструктуры и конвейеров для передовых Больших Языковых Моделей (LLMs). Ваша работа с архитекторами генеративного ИИ и навыки автоматизации жизненного цикла LLM будут критически важны для обеспечения эффективности, масштабируемости и надежности генеративных моделей ИИ в производственной среде.

• Разрабатывать, развертывать и выполнять конвейеры машинного обучения (ML) и LLM для Больших Языковых Моделей, включая сбор данных, предварительную обработку, обучение/настройку моделей, развертывание и мониторинг.
• Оптимизировать задачи ML/LLM с помощью инструментов автоматизации, таких как GitOps, CI/CD конвейеры и технологии контейнеризации (Docker, Kubernetes).
• Внедрять надежные системы мониторинга и оповещения для анализа производительности Больших Языковых Моделей, дрейфа данных и других ключевых метрик, проактивно выявляя и устраняя проблемы.
• Проводить анализ истинности для оценки точности и эффективности результатов Больших Языковых Моделей по сравнению с точными эталонными данными.
• Сотрудничать с командами инфраструктуры, DevOps и архитекторами генеративного ИИ для повышения производительности моделей и использования ресурсов.
• Управлять и поддерживать облачную инфраструктуру (например, AWS, Azure), адаптированную для работы с Большими Языковыми Моделями, обеспечивая экономичность и масштабируемость.
• Оставаться в курсе последних достижений в области ML/LLM Ops и интегрировать их в наши платформы и процессы генеративного ИИ.
• Четко сообщать технические и нетехнические обновления заинтересованным сторонам о производительности и состоянии Больших Языковых Моделей.

Основные требования:

• Степень бакалавра или магистра в области компьютерных наук, инженерии или смежных областях.
• Как минимум 5 лет опыта работы в качестве инженера ML на публичных облачных платформах.
• Сильные навыки программирования на Python и/или других языках.
• Экспертиза в использовании облачных платформ (например, AWS, Azure) для задач ML, MLOps, DevOps или работы с данными.
• Доказанный опыт в MLOps, LLMOps или аналогичных ролях, а также практический опыт развертывания и управления конвейерами машинного обучения и больших языковых моделей.
• Понимание применения генеративного ИИ в таких областях, как создание контента, дополнение данных и перенос стиля.
• Глубокие знания архитектур генеративного ИИ и методов, включая сегментацию, векторизацию, контекстно-ориентированный поиск и Большие Языковые Модели, такие как Open AI GPT 3.5/4.0, Llama2, Llama3, Mistral и т.д.

Желательные квалификации:

• Хорошее понимание принципов кибербезопасности и лучших практик для защиты целостности, безопасности и конфиденциальности данных.
• Знание этики ИИ и применение принципов Надежного ИИ для обеспечения ответственного использования технологий ИИ.
• Опыт работы с инструментами и техниками инженерии данных и визуализации данных.
• Страсть к изучению и исследованию новых технологий и методов генеративного ИИ.

Успешный кандидат будет воплощать основные принципы и поведение компании Vertiv, чтобы помочь нам достичь наших стратегических приоритетов.

Безопасность. Честность. Уважение. Командная работа. Разнообразие и инклюзивность.

• Ори