Software Engineer - vLLM (ML)

Lokalizacja: Somerville, Massachusetts

Neural Magic, startup z serii A zlokalizowany w Somerville, MA, rewolucjonizuje krajobraz AI dzięki wsparciu znakomitych inwestorów, takich jak Andreessen Horowitz, NEA, Pillar, VMware, Verizon Ventures, Comcast Ventures i Amdocs. Jesteśmy zaangażowani w przyszłość AI opartej na open-source, dążąc do wyposażenia przedsiębiorstw w zaawansowane możliwości LLM i VLLM. Jako pionier w przyspieszaniu AI i uproszczeniu operacyjnym wdrożeń GenAI, prowadzimy rozwój projektu vLLM oraz innowacyjnych technik kwantyzacji i rzadkości modeli.

Naszą misją jest demokratyzacja AI poprzez udostępnienie mocy open-source LLM i vLLM przedsiębiorstwom na całym świecie.

Jako Inżynier Oprogramowania skoncentrowany na vLLM, będziesz napędzać innowacje, współpracując z naszym zespołem w celu rozwiązania kluczowych wyzwań w zakresie wydajności i efektywności modeli. Twoje wkłady w dziedzinie uczenia maszynowego i wysokowydajnych obliczeń będą kluczowe dla naszego oprogramowania i kształtowania przyszłości wdrażania i wykorzystania AI.

• Rozwijanie solidnego kodu Pythona i C++, koncentrując się na systemach vLLM, wysokowydajnych prymitywach uczenia maszynowego, analizie wydajności, modelowaniu i metodach numerycznych.
• Przeglądanie kodu i przyczynianie się do opracowywania najlepszych praktyk w zespole.
• Ścisła współpraca z zespołami uczenia maszynowego w celu optymalizacji wydajności sieci neuronowych w silniku.

• Rozległe doświadczenie w pisaniu wysokowydajnego kodu dla GPU, z głębokim zrozumieniem sprzętu GPU.
• BS, MS lub PhD w dziedzinie Informatyki.
• Doświadczenie z oprogramowaniem matematycznym, szczególnie algebrą liniową lub przetwarzaniem sygnałów.
• Biegłość w nowoczesnym C++, Pythonie i Pytorch.
• Ekspertyza w obliczeniach tensorowych i zaawansowanych technikach modeli sieci neuronowych.
• Zdolność do samodzielnej pracy i szybkiego przyswajania wiedzy.
• Silne umiejętności komunikacyjne do interakcji zarówno z zespołem technicznym, jak i nietechnicznym.
• Silne poczucie odpowiedzialności za projekt i odpowiedzialności osobistej.
• Genuine interest in continuous learning.

• Konkurencyjne wynagrodzenie i plan opcji na akcje.
• Kompleksowa opieka zdrowotna (medyczna, dentystyczna, wzrokowa).
• Plan emerytalny (401k, IRA).
• Hojny płatny urlop (wakacje, urlop chorobowy, święta).
• Urlop rodzinny (macierzyński, ojcowski).
• Zabezpieczenie na wypadek niepełnosprawności.
• Możliwości rozwoju zawodowego.
• Elastyczne warunki pracy (opcje zdalne).
• Zasoby dotyczące wellnessu.
• Bezpłatne jedzenie i przekąski (w biurze).

Neural Magic jest pracodawcą oferującym równe szanse, zobowiązującym się do wspierania różnorodności i włączającego miejsca pracy. Wszystkie aplikacje będą rozpatrywane bez względu na rasę, kolor, religię, płeć, orientację seksualną, tożsamość pł