Research Engineer (Safety and Alignment), Post-Training

Rejoignez l'avant-garde de l'avancement de l'IA chez Character.AI et contribuez au développement de technologies IA sûres et alignées. Notre équipe Post-Formation en expansion est à la recherche d'un talentueux Ingénieur de Recherche en Sécurité et Alignement pour améliorer nos modèles d'IA de pointe. Ce rôle offre l'opportunité unique de façonner les applications IA qui sont intégrées quotidiennement dans la vie des gens, en garantissant leur sécurité et leur alignement avec les valeurs humaines.

En tant que partie intégrante de notre dynamique équipe Post-Formation, vous jouerez un rôle crucial dans l'évolution de nos modèles de langage préentraînés en produits numériques pleinement optimisés. Ce rôle exige une approche proactive de la collaboration interfonctionnelle, de l'amélioration des performances des modèles et d'influencer directement l'expérience d'interaction des utilisateurs, impactant des millions de personnes chaque jour.

Les responsabilités incluent :

• Développer des algorithmes pour aligner les préférences du modèle.
• Créer des classificateurs pour détecter et atténuer les défaillances et les abus du modèle.
• Collaborer avec des annotateurs et des équipes adverses pour affiner les ensembles de données d'alignement.
• Concevoir des stratégies innovantes pour guider le comportement de l'IA.

Nous recherchons un candidat capable d'écrire du code orienté production et formation avec clarté et efficacité. Le candidat idéal aura :

• Une expérience avérée dans la gestion des GPU pour l'entraînement, le service et le débogage de modèles.
• Une expertise dans la gestion des pipelines de données et de l'infrastructure.
• Une solide compréhension des techniques modernes d'apprentissage automatique, y compris l'apprentissage par renforcement et les transformateurs.
• Un historique de recherche exceptionnelle ou de projets d'apprentissage automatique appliqués innovants.

Souhaitable :

• Une expérience dans le développement de systèmes de sécurité pour le contenu généré par les utilisateurs ou les plateformes de contenu consommateur.
• Une expérience avec l'alignement LLM.
• Des contributions à des journaux académiques ou des conférences majeures en apprentissage automatique ou systèmes de recommandation.

Lancé en 2021 par les visionnaires de l'IA Noam Shazeer et Daniel De Freitas, Character.AI a rapidement gravi les échelons de l'industrie de l'IA, réalisant une croissance solide, un statut de licorne et une reconnaissance telle que l'application IA de l'année de Google Play.

Nous encourageons les candidats de divers horizons à postuler, y compris ceux qui pourraient ne pas répondre à tous les critères. Chez Character.AI, nous croyons en la valeur unique de chaque individu et vous encourageons à faire un pas en avant. Rejoignez-nous pour faire partie de notre mission visant à autonomiser l'avenir avec l'AGI !

Intitulé du poste : Ingénieur de Recherche (Sécurité et Alignement), Post-Formation
Nom de l'entreprise : Character.AI

Character.AI s'engage en faveur de la diversité et de l'égalité des chances. Nous ne discriminons sur la base de la race, de la religion, de l'origine nationale, du sexe, de l'orientation sexuelle, de l'âge, du statut de vétéran ou du handicap. Vos perspectives uniques sont ce qui alimente notre innovation.

Votre parcours dans la formation de l'avenir dirigé par l'IA commence ici. Postulez dès aujourd'hui !