Senior Software Engineer, GenAI Safety & Evaluation
- Software Engineer
- San Francisco
- 06/26/2024
- -
O pracy
W dzisiejszym świecie napędzanym technologią, AI rewolucjonizuje oprogramowanie. AI eksponencjalnie zwiększa ludzką inteligencję, co skłania czołowe firmy technologiczne do opracowywania dużych modeli LLM i integracji AI w swoich produktach. Aby zapewnić bezpieczeństwo, zgodność i użyteczność tych modeli, niezbędne są wysokiej jakości dane generowane przez ludzi i oceny. Od momentu uruchomienia ChatGPT, Scale jest liderem w dostarczaniu danych do post-training, fine-tuningu i human preference alignment (RLHF) poprzez nasz Generative AI Data Engine, kształtując przyszłość interakcji człowieka z AI.
W miarę jak klienci stale udoskonalają swoje modele, niezawodne oceny wyników i identyfikacja słabych punktów stają się kluczowe. Eksperci Scale przeprowadzają te oceny, pomagając twórcom modeli w optymalizacji ich inwestycji technicznych.
Zespół GenAI Safety & Evaluation w Scale tworzy platformę do oceny modeli na najwyższym poziomie dla klientów. Ta platforma upraszcza uruchamianie nowych workflowów oceny, dostarcza szczegółowych wglądów na poziomie wyników case'ów testowych i wpływa na plany rozwoju modeli. Dołączając do naszego zespołu, będziesz kształtować branżowe standardy oceny, wpływając na miliardy ludzi na całym świecie. Zbudujesz również znaczące rozwiązania od podstaw jako część naszego innowacyjnego zespołu produktowego.
Współpracując z Safety, Evaluations, and Alignment Lab (SEAL) oraz ekspertami red team w Scale, będziesz napędzać bezpieczeństwo AI poprzez rygorystyczne testy modeli poparte przez czołowe instytucje.
Kluczowe obowiązki
Preferowane kwalifikacje
Dodatkowe cenne umiejętności:
Wynagrodzenie i świadczenia
Scale oferuje konkurencyjne pakiety wynagrodzeń, w tym pensję podstawową, udziały i kompleksowe świ