Ingénieur Logiciel, Inférence

Job expired!
À propos du rôle
Notre équipe d'Inférence construit le service qui génère les sorties de nos modèles en production. Ce service est le principal moteur de notre efficacité, de notre latence et de notre fiabilité. En tant qu'ingénieur dans cette équipe, vous travaillerez à améliorer ces mesures en résolvant des problèmes complexes de systèmes distribués à travers toutes les couches de notre pile.

À propos d'Anthropic
La mission d'Anthropic est de créer des systèmes d'IA fiables, interprétables et dirigeables. Nous voulons que l'IA soit sûre et bénéfique pour nos utilisateurs et pour la société dans son ensemble. Notre équipe est un groupe de chercheurs, d'ingénieurs, d'experts en politique et de dirigeants d'entreprises en pleine croissance, travaillant ensemble pour construire des systèmes d'IA bénéfiques.

Vous pourriez être un bon candidat si vous :

  • Avez une expérience significative en ingénierie logicielle
  • Êtes orienté résultats, avec une tendance à la flexibilité et à l'impact
  • Assumez le relais, même si cela sort de votre description de poste
  • Aimez la programmation en binôme (nous adorons former des paires !)
  • Souhaitez en savoir plus sur la recherche en apprentissage automatique
  • Vous souciez des impacts sociétaux de votre travail

Les candidats solides peuvent aussi avoir de l'expérience avec :

  • Les systèmes distribués à grande échelle et haute performance
  • Kubernetes
  • Python
  • L'apprentissage automatique

Projets représentatifs :

  • Amélioration de la façon dont les demandes d'inférence sont acheminées vers les serveurs de modèles pour maximiser l'efficacité du calcul
  • Construction d'un modèle de performance pour prédire l'impact des améliorations futures de l'architecture et du matériel
  • Mise en œuvre de l'inférence pour une nouvelle architecture de modèle
  • Analyse des données d'observabilité pour ajuster les performances en fonction des charges de travail de production
  • Mise en œuvre de l'inférence sur une nouvelle plateforme matérielle
  • Construction d'instruments pour détecter et éliminer la contention du GIL Python
  • Optimisation de l'efficacité de nos noyaux GPU
  • Préparation de notre moteur d'inférence pour être déployé sur

Salaire annuel (USD)

  • La fourchette de salaire prévue pour ce poste est de 250k $ - 375k $.
Logistique
Politique hybride basée sur le lieu : Actuellement, nous attendons de tout le personnel qu'il soit dans nos bureaux au moins 25 % du temps.

Date limite pour postuler : Aucune. Les candidatures seront examinées au fur et à mesure de leur réception.

Parrainage de visa américain : Nous parrainons effectivement des visas ! Cependant, nous ne sommes pas en mesure de réussir à parrainer des visas pour chaque poste et chaque candidat ; les postes liés à l'exploitation sont particulièrement difficiles à soutenir. Mais si nous vous proposons une offre, nous ferons tout notre possible pour vous faire entrer aux États-Unis, et nous retenons un avocat en immigration pour vous aider dans cette démarche.

Nous vous encourageons à postuler même si vous pensez que vous ne répondez pas à toutes les qualifications. Il est possible que tous les candidats solides ne répondent pas à toutes les qualifications énumérées. Les recherches montrent que les personnes qui s'identifient comme faisant partie de groupes sous-représentés ont plus de chances de ressentir le syndrome de l'imposteur et de douter de la solidité de leur candidature, nous vous exhortons donc à ne pas vous exclure prématurément et à soumettre une candidature si ce travail vous intéresse. Nous pensons que les systèmes d'IA que nous construisons ont d'énormes implications sociales et éthiques. Nous pensons que cela rend la représentation encore plus importante, et nous nous efforçons d'inclure une gamme de perspectives diverses dans notre équipe.

Indemnité et avantages*
Le package de rémunération d'Anthropic se compose de trois éléments : salaire, participations et avantages. Nous nous engageons à assurer l'équité salariale et nous visons à ce que ces trois éléments soient collectivement très compétitifs par rapport aux taux du marché.

Participation - En plus du salaire de ce poste (mentionné ci-dessus), la participation sera un élément majeur de la rémunération totale. Nous nous efforçons d'offrir une rémunération en actions supérieure à la moyenne pour une entreprise de notre taille et nous communiquons les montants des actions au moment de la proposition d'offre.

Avantages - Les avantages que nous offrons comprennent :
- Don écologique en option à un ratio de 3:1, jusqu'à 50 % de votre attribution d'actions.
- Assurance santé, dentaire et de la vue complète pour vous et tous vos dépendants.
- Plan 401(k) avec jumelage de 4 %.
- 21 semaines de congé parental payé.
- Temps off payé illimité - la plupart des employés prennent entre 4 à 6 semaines par an, parfois plus!
- Des allocations pour l'éducation, l'amélioration du bureau à domicile, le transport et le bien-être.
- Avantages pour la fertilité via Carrot.
- Déjeuners et collations quotidiens dans notre bureau.
- Soutien pour la réinstallation pour ceux qui déménagent dans la Baie.

* Ces informations sur la rémunération et les avantages sont basées sur l'estimation de bonne foi d'Anthropic pour ce poste, à San Francisco, en Californie, à la date de publication et peuvent être modifiées à l'avenir. Le niveau de rémunération dans la fourchette dépendra de divers facteurs liés à l'emploi, y compris votre placement sur nos échelles de performance internes, qui est basé sur des facteurs tels que l'expérience de travail passée, l'éducation pertinente, et la performance lors de nos entretiens ou lors d'un essai au travail.

Comment nous sommes différents
Nous croyons que la recherche en IA à fort impact sera une grande science. Chez Anthropic, nous travaillons en tant qu'équipe cohésive sur quelques efforts de recherche à grande échelle. Et nous valorisons l'impact - faire progresser nos objectifs à long terme d'IA orientable et digne de confiance - plutôt que de travailler sur des énigmes plus petites et plus spécifiques. Nous considérons la recherche en IA comme une science empirique, qui a autant en commun avec la physique et la biologie qu'avec les efforts traditionnels en informatique. Nous sommes un groupe extrêmement collaboratif, et nous organisons fréquemment des discussions de recherche pour nous assurer que nous poursuivons le travail à fort impact à tout moment. À ce titre, nous valorisons grandement les compétences en communication. Nous cherchons à construire un noyau de connaissances et d'intuition sur les innovations les plus robustement efficaces en IA, et donc les résultats nuls soigneusement documentés sont presque aussi précieux que les découvertes positives. Nous n'avons pas de frontières entre l'ingénierie et la recherche, et nous attendons de tout notre personnel technique qu'il contribue à l'une et à l'autre selon les besoins.

La façon la plus simple de comprendre nos orientations de recherche est de lire notre recherche récente. Cette recherche poursuit de nombreuses directions sur lesquelles notre équipe a travaillé avant Anthropic, notamment : GPT-3, Interprétabilité basée sur les circuits,