LLMOps Engineer - Cloud/Gen AI

Résumé du poste :
En tant qu'ingénieur LLMOps - Cloud/Gen AI chez Vertiv, basé à Westerville, OH - HQ, vous serez à la pointe de la construction et de la maintenance des infrastructures et pipelines pour des modèles de langage de grande taille (LLMs) de pointe. Votre collaboration avec les architectes spécialisés en AI générative et votre compétence à automatiser le cycle de vie des LLM seront essentielles pour assurer l'efficacité, la scalabilité et la fiabilité des modèles d'AI générative dans un environnement de production.

• Concevoir, développer et exécuter des pipelines de Machine Learning (ML) et de LLM pour des modèles de langage de grande taille, couvrant l'acquisition de données, le prétraitement, l'entraînement/la mise au point du modèle, le déploiement et la surveillance.
• Rationaliser les tâches ML/LLM avec des outils d'automatisation comme GitOps, les pipelines CI/CD et les technologies de conteneurisation (Docker, Kubernetes).
• Mise en œuvre de systèmes robustes de surveillance et d'alerte pour analyser la performance des modèles de langage de grande taille, la dérive des données et d'autres métriques clés, en identifiant et résolvant proactivement les problèmes.
• Effectuer une analyse de vérité pour évaluer la précision et l'efficacité des sorties des modèles de langage de grande taille par rapport à des données de référence précises.
• Collaborer avec les équipes d'infrastructure, DevOps et les architectes d'AI générative pour améliorer la performance des modèles et l'utilisation des ressources.
• Gérer et maintenir l'infrastructure cloud (par ex. AWS, Azure) adaptée aux opérations des modèles de langage de grande taille, garantissant l'efficacité des coûts et la scalabilité.
• Se tenir au courant des dernières avancées en matière d'opérations ML/LLM et les intégrer dans nos plateformes et processus d'AI générative.
• Communiquer clairement les mises à jour techniques et non techniques aux parties prenantes concernant la performance et l'état des modèles de langage de grande taille.

Qualifications de base :

• Diplôme de licence ou de maîtrise en informatique, en ingénierie ou dans un domaine connexe.
• Au moins 5 ans d'expérience en tant qu'ingénieur ML sur des plateformes cloud publiques.
• Compétences solides en programmation en Python et/ou d'autres langages.
• Expertise dans l'utilisation de plateformes cloud (par ex. AWS, Azure) pour les charges de travail ML, MLOps, DevOps ou Data Engineering.
• Expérience avérée en MLOps, LLMOps ou postes similaires, avec une expérience pratique du déploiement et de la gestion de pipelines de machine learning et de modèles de langage de grande taille.
• Compréhension des applications et des domaines de l'AI générative tels que la création de contenu, l'augmentation des données et le transfert de style.
• Connaissances approfondies des architectures et des méthodes d'AI générative, y compris le fractionnement, la vectorisation, la récupération basée sur le contexte et les modèles de langage de grande taille tels que Open AI GPT 3.5/4.0, Llama2, Llama3, Mistral, etc.

Qualifications préférées :

• Compréhension solide des principes de cybersécurité et des meilleures pratiques pour protéger l'intégrité, la sécurité et la confidentialité des données.
• Connaissance de l'éthique de l'AI et l'application des principes d'AI digne de confiance pour assurer l'utilisation responsable de la technologie AI.
• Expérience avec les outils et techniques d'ingénierie et de visualisation des données.
• Une passion pour l'apprentissage et l'exploration des nouvelles technologies et méthodes d'AI générative.

Le candidat retenu incarnera les principes et comportements fondamentaux de Vertiv pour nous aider à atteindre nos priorités stratégiques.

Nos principes fondamentaux :

Sécurité. Intégrité. Respect. Travail d'équipe. Diversité et inclusion.

• Orientation client