Applied Deep Learning Research Scientist, Numerics and Systems Performance

W NVIDIA jesteśmy na czele technologii, rozwijając komputery AI, które transformują branże. Aktywnie poszukujemy Naukowców Badawczych Aplikowanych Głębokich Sieci Neuronowych do rozwijania dziedziny głębokich sieci neuronowych (DL) poprzez innowacyjne badania w zakresie numeryki i wydajności systemów przy użyciu zaawansowanych systemów GPU. Rola ta obejmuje badania na najwyższym poziomie mające na celu przyspieszenie szkolenia i wnioskowania DL, z realnym wpływem poprzez integrację z naszymi produktami sprzętowymi (HW) i oprogramowaniem (SW).

Numeryka: Będziesz zagłębiać się w badania na temat reprezentacji liczb o małej liczbie bitów i ich wpływie na dokładność wnioskowania i szkolenia sieci neuronowych. Obejmuje to dostosowanie do wymagań obecnie najnowocześniejszych sieci neuronowych oraz współprojektowanie przyszłych architektur i optymalizatorów.

Wydajność systemu: Zbadaj różne strategie równoległego przetwarzania dużych sieci neuronowych, zarówno w fazie szkolenia, jak i wnioskowania. Badaj schematy komunikacji i ich wąskie gardła wydajności w obszernych systemach GPU, skupiając się na optymalizacji nakładania się komunikacji i obliczeń.

Silny kandydat będzie posiadał:

• Magisterium lub doktorat z informatyki, inżynierii komputerowej lub pokrewnych dziedzin, lub równoważne doświadczenie w odpowiednich obszarach.
• Co najmniej 3 lata doświadczenia w branży z głębokim zrozumieniem architektur i optymalizatorów sieci neuronowych.
• Znajomość Pythona, C++ lub idealnie obu.
• Dla osób skupiających się na numeryce: doświadczenie w szkoleniu sieci neuronowych, szczególnie dużych modeli językowych (LLM) i modeli multimodalnych, a także kwantyzacja sieci neuronowych i analiza numeryczna.
• Dla osób skupiających się na wydajności systemów: doświadczenie w programowaniu równoległym, analizie wydajności i zrozumienie komunikacji zbiorowej. Wiedza na temat obliczeń GPU i CUDA jest zaletą, ale nie jest wymagana.

NVIDIA jest uważana za jednego z najbardziej pożądanych pracodawców w sektorze technologii. Oferujemy konkurencyjne wynagrodzenia, z potencjalnymi zarobkami między 160 000 a 345 000 dolarów rocznie, w zależności od miejsca zamieszkania, doświadczenia i porównywalnych wynagrodzeń w firmie. Ponadto będziesz uprawniony do udziałów i kompleksowego pakietu świadczeń.

Jesteśmy zaangażowani w promowanie różnorodności i włączenia, zapewniając, aby nasze miejsce pracy odzwierciedlało globalne perspektywy. NVIDIA jest dumna, że jest pracodawcą równych szans, akceptującym różnice w rasie, religii, kolorze skóry, pochodzeniu narodowym, płci, orientacji seksualnej, wieku, stanie cywilnym, statusie weterana i stanie zdrowia.

Jeśli jesteś k