LLMOps Engineer - Cloud/Gen AI

Опис роботи:
Як LLMOps інженер - Cloud/Gen AI у компанії Vertiv, що знаходиться у Вестервілі, Огайо - головний офіс, ви будете на передовій у створенні та підтримці інфраструктури та конвеєрів для передових моделей великих мовних моделей (LLMs). Ваша співпраця з архітекторами Generative AI та вміння автоматизувати життєвий цикл LLM будуть ключовими для забезпечення ефективності, масштабованості та надійності моделей Generative AI у виробничому середовищі.

• Проектування, розробка та виконання конвеєрів машинного навчання (ML) та LLM для великих мовних моделей, охоплюючи збір даних, попередню обробку, навчання/налаштування моделі, розгортання і моніторинг.
• Оптимізація завдань ML/LLM за допомогою інструментів автоматизації, таких як GitOps, CI/CD конвеєри та технології контейнеризації (Docker, Kubernetes).
• Впровадження надійних систем моніторингу та оповіщення для аналізу продуктивності великих мовних моделей, дрейфу даних та інших ключових метрик, проактивно виявляючи та вирішуючи проблеми.
• Проведення аналізу правдивості для оцінки точності та ефективності виходів великих мовних моделей у порівнянні з еталонними даними.
• Співпраця з інфраструктурними, DevOps командами та архітекторами Generative AI для покращення продуктивності моделей та використання ресурсів.
• Управління та підтримка хмарної інфраструктури (наприклад, AWS, Azure), налаштованої для операцій великих мовних моделей, забезпечуючи ефективність витрат і масштабованість.
• Постійне оновлення знань про найновіші досягнення в ML/LLM Ops та інтеграція цих знань у нашу платформу та процеси Generative AI.
• Чітке повідомлення технічних та нетехнічних оновлень зацікавленим сторонам про продуктивність та статус великих мовних моделей.

Основні вимоги:

• Бакалавр або магістр з комп'ютерних наук, інженерії або суміжної галузі.
• Щонайменше 5 років досвіду як ML інженер на платформах публічної хмари.
• Сильні навички програмування на Python та/або інших мовах.
• Експертиза у використанні хмарних платформ (наприклад, AWS, Azure) для завдань ML, MLOps, DevOps або Data Engineering.
• Доведений досвід у MLOps, LLMOps або подібних ролях, з практичним досвідом у розгортанні та управлінні конвеєрами машинного навчання та великих мовних моделей.
• Розуміння застосувань та доменів Generative AI, таких як створення контенту, розширення даних та перенесення стилю.
• Глибокі знання архітектур та методів Generative AI, включаючи сегментацію, векторизацію, контекстне вилучення та великі мовні моделі, такі як Open AI GPT 3.5/4.0, Llama2, Llama3, Mistral і т. д.

Бажані вимоги:

• Сильне розуміння принципів кібербезпеки та найкращих практик для захисту цілісності даних, безпеки та конфіденційності.
• Знання етики AI та застосування принципів надійного AI для забезпечення відповід