Applied Deep Learning Research Scientist, Numerics and Systems Performance

У NVIDIA ми на передовій технологій, розробляючи комп'ютери для штучного інтелекту, які трансформують галузі. Ми активно шукаємо наукових співробітників з прикладного глибинного навчання для розвитку галузі глибинного навчання (DL) за допомогою інноваційних досліджень у чисельних методах та продуктивності систем за допомогою передових GPU систем. Ця роль включає дослідження передового рівня, спрямовані на прискорення DL навчання та виведення, з реальним впливом через інтеграцію в наші апаратне (HW) та програмне (SW) забезпечення.

Чисельні методи: Ви зануритеся у дослідження низькобітних числових представлень і їх впливу на точність інференції та навчання нейронних мереж. Це включає адаптацію до вимог сучасних передових нейронних мереж та спільний розробок майбутніх архітектур та оптимізаторів.

Продуктивність системи: Досліджуйте різні стратегії паралелізації для великих нейронних мереж, як на етапі навчання, так і інференції. Досліджуйте моделі комунікацій та їх «вузькі місця» у продуктивності в розширених системах GPU, зосереджуючись на оптимізації перекриття комунікацій і обчислень.

Сильний кандидат матиме:

• Ступінь магістра або доктора наук в галузі комп'ютерних наук, комп'ютерної інженерії або в суміжних областях, або еквівалентний досвід у відповідних областях.
• Принаймні 3 роки досвіду роботи в галузі з глибоким розумінням архітектур нейронних мереж і оптимізаторів.
• Володіння Python, C++ або ідеально обома.
• Для тих, хто зосереджений на числах: досвід навчання нейронних мереж, зокрема великих мовних моделей (LLMs) та мультимодальних моделей, а також квантовання нейронних мереж і чисельний аналіз.
• Для тих, хто зосереджений на продуктивності системи: досвід у паралельному програму