Software Engineer - vLLM (ML)

Ubicación: Somerville, Massachusetts

Neural Magic, una startup de la Serie A ubicada en Somerville, MA, está revolucionando el paisaje de la IA con el apoyo de inversionistas de renombre como Andreessen Horowitz, NEA, Pillar, VMware, Verizon Ventures, Comcast Ventures y Amdocs. Nos dedicamos a un futuro de IA de código abierto, esforzándonos por empoderar a las empresas con capacidades avanzadas de LLM y VLLM. Como pioneros en aceleración de IA y simplicidad operativa para despliegues de GenAI, lideramos el desarrollo del proyecto vLLM y técnicas innovadoras de cuantificación y esparsificación de modelos.

Nuestra misión es democratizar la IA llevando el poder de los LLM y VLLM de código abierto a empresas de todo el mundo.

Como Ingeniero/a de Software enfocado/a en vLLM, impulsarás la innovación colaborando con nuestro equipo para abordar desafíos críticos en el rendimiento y la eficiencia del modelo. Tus contribuciones en aprendizaje automático y computación de alto rendimiento serán fundamentales para avanzar nuestra plataforma de software y dar forma al futuro del despliegue y uso de la IA.

• Desarrollar código robusto en Python y C++, enfocándose en sistemas vLLM, primitivas de aprendizaje automático de alto rendimiento, análisis de rendimiento, modelado y métodos numéricos.
• Revisar código y contribuir al desarrollo de mejores prácticas para el equipo.
• Trabajar en estrecha colaboración con equipos de aprendizaje automático para optimizar el rendimiento de la red neuronal en el motor.

• Amplia experiencia escribiendo código de alto rendimiento para GPUs, con un profundo entendimiento del hardware de GPU.
• Licenciatura, maestría o doctorado en Ciencias de la Computación.
• Experiencia con software matemático, particularmente álgebra lineal o procesamiento de señales.
• Dominio de C++ moderno, Python y Pytorch.
• Experiencia en cálculos tensoriales y modelos y técnicas de redes neuronales profundas.
• Capacidad para trabajar de manera independiente y aprender rápidamente.
• Fuertes habilidades de comunicación para interactuar con miembros del equipo tanto técnicos como no técnicos.
• Un fuerte sentido de propiedad de proyectos y responsabilidad personal.
• Un interés genuino en el aprendizaje continuo.

• Compensación competitiva y plan de opciones sobre acciones.
• Atención médica integral (médica, dental, visual).
• Plan de jubilación (401k, IRA).
• Generoso tiempo libre remunerado (vacaciones, licencia por enfermedad, días festivos).
• Licencia familiar (maternidad, paternidad).
• Cobertura por discapacidad.
• Oportunidades de desarrollo profesional.
• Arreglos laborales flexibles (opciones remotas).
• Recursos de bienestar.
• Comida y bocadillos gratuitos (en la oficina).

Neural Magic es un empleador que ofrece igualdad de oportunidades y está comprometido con fomentar un lugar de trabajo diverso e inclusivo. Todos los solicitantes serán considerados para el empleo sin atención a raza, color, religión, sexo, orientación sexual, identidad de género, origen nacional, estatus de veterano o discapacidad.