Podsumowanie pracy:
Jako LLMOps Engineer - Cloud/Gen AI w firmie Vertiv, z siedzibą w Westerville, OH - HQ, będziesz na czele budowania i utrzymywania infrastruktury oraz pipelines dla najnowocześniejszych modeli dużych językowych (LLM). Twoja współpraca z architektami AI generatywnego oraz biegłość w automatyzowaniu cyklu życia LLM będą kluczowe dla zapewnienia efektywności, skalowalności i niezawodności modeli AI generatywnego w środowisku produkcyjnym.
- Projektowanie, rozwijanie i realizacja pipelines ML i LLM dla dużych modeli językowych, obejmujące pozyskiwanie danych, preprocessing, trening/tuning modelu, wdrażanie i monitorowanie.
- Automatyzacja zadań ML/LLM za pomocą narzędzi takich jak GitOps, CI/CD pipelines i technologie konteneryzacji (Docker, Kubernetes).
- Wdrażanie solidnych systemów monitorowania i alarmowania w celu analizy wydajności dużych modeli językowych, dryfu danych oraz innych kluczowych metryk, identyfikowanie i rozwiązywanie problemów proaktywnie.
- Przeprowadzanie analizy prawdy w celu oceny dokładności i skuteczności wyników dużego modelu językowego w porównaniu z dokładnymi danymi referencyjnymi.
- Współpraca z zespołami infrastrukturymi, DevOps oraz architektami AI generatywnego w celu poprawienia wydajności modelu i wykorzystania zasobów.
- Zarządzanie i utrzymywanie infrastruktury chmurowej (np. AWS, Azure) dostosowanej do operacji dużych modeli językowych, zapewniającej efektywność kosztową i skalowalność.
- Aktualizacja wiedzy na temat najnowszych osiągnięć w obszarze ML/LLM Ops i integracja ich z platformami i procesami AI generatywnego.
- Jasne komunikowanie aktualizacji technicznych i nietechnicznych interesariuszom odnośnie wydajności i statusu dużych modeli językowych.
Podstawowe wymagania:
- Tytuł licencjata lub magistra w dziedzinie informatyki, inżynierii lub pokrewnej.
- Minimum 5 lat doświadczenia jako inżynier ML w platformach chmurowych.
- Silne umiejętności programistyczne w Pythonie i/lub innych językach.
- Doskonałość w korzystaniu z platform chmurowych (np. AWS, Azure) do obciążeń ML, MLOps, DevOps lub inżynierii danych.
- Udowodnione doświadczenie w MLOps, LLMOps lub podobnych rolach, z praktycznym doświadczeniem we wdrażaniu i zarządzaniu pipelines uczenia maszynowego i dużych modeli językowych.
- Rozumienie aplikacji i dziedzin AI generatywnego, takich jak tworzenie treści, augmentacja danych i transfer stylu.
- Głębokie zrozumienie architektur i metod AI generatywnego, w tym chunking, wektoryzacja, kontekstowe wyszukiwanie i duże modele językowe takie jak Open AI GPT 3.5/4.0, Llama2, Llama3, Mistral, itp.
Preferowane kwalifikacje:
- Głębokie zrozumienie zasad cyberbezpieczeństwa i najlepszych praktyk w celu ochrony integralności danych, bezpieczeństwa i poufności.
- Wiedza na temat etyki AI i stosowania zasad Zaufanej AI w celu zapewnienia odpowiedzialnego użycia technologii AI.
- Doświadczenie w inżynierii danych i narzędziach oraz technikach wizualizacji danych.
- Pasja do nauki i eksplorowania nowych technologii i metod AI generatyw