Research Engineer (Safety and Alignment), Post-Training

Únete a la vanguardia del avance de la IA en Character.AI y contribuye al desarrollo de tecnologías de IA seguras y alineadas. Nuestro creciente equipo de Post-Entrenamiento está buscando un talentoso Ingeniero de Investigación en Seguridad y Alineación para mejorar nuestros modelos de IA de vanguardia. Este rol ofrece la oportunidad única de dar forma a aplicaciones de IA que se integran diariamente en la vida de las personas, asegurando su seguridad y alineación con los valores humanos.

Como parte de nuestro dinámico equipo de Post-Entrenamiento, desempeñarás un papel crucial en la evolución de nuestros modelos de lenguaje preentrenados en productos digitales completamente optimizados. Este rol exige un enfoque proactivo para la colaboración interfuncional, la mejora del rendimiento del modelo y la influencia directa en la experiencia de interacción de los usuarios, impactando a millones diariamente.

Las responsabilidades incluyen:

• Desarrollar algoritmos para alinear las preferencias del modelo.
• Crear clasificadores para detectar y mitigar fallos y mal uso del modelo.
• Colaborar con anotadores y equipos rojos para refinar conjuntos de datos de alineación.
• Elaborar estrategias innovadoras para guiar el comportamiento de la IA.

Estamos buscando un candidato que pueda escribir código tanto para producción como para entrenamiento con claridad y eficiencia. El candidato ideal tendrá:

• Experiencia comprobada en el manejo de GPUs para el entrenamiento, servicio y depuración de modelos.
• Experiencia en la gestión de tuberías de datos e infraestructura.
• Un fuerte dominio de técnicas modernas de aprendizaje automático, incluyendo aprendizaje por refuerzo y transformadores.
• Un historial de investigación excepcional o proyectos de aprendizaje automático aplicado innovadores.

Nice to Have:

• Antecedentes en el desarrollo de sistemas de seguridad para contenido generado por usuarios o plataformas de contenido para consumidores.
• Experiencia con la alineación de LLM.
• Contribuciones a revistas académicas o conferencias importantes en aprendizaje automático o sistemas de recomendación.

Lanzado en 2021 por los visionarios de la IA Noam Shazeer y Daniel De Freitas, Character.AI ha escalado rápidamente a una posición privilegiada en la industria de la IA, logrando un robusto crecimiento, estatus de unicornio y reconocimientos como la App de IA del Año de Google Play.

Animamos a candidatos diversos a aplicar, incluyendo aquellos que quizás no cumplan con cada requisito. En Character.AI, creemos en el valor único de cada individuo y te animamos a dar un paso adelante. ¡Únete a nosotros para ser parte de nuestra misión de empoderar el futuro con AGI!

Nombre del Puesto: Ingeniero de Investigación (Seguridad y Alineación), Post-Entrenamiento
Nombre de la Empresa: Character.AI

Character.AI está comprometido con la diversidad y la igualdad de oportunidades. No discriminamos por razón de raza, religión, origen nacional, género, orientación sexual, edad, estatus de veterano o discapacidad. Tus perspectivas únicas son lo que alimenta nuestra innovación.

Tu viaje en la conformación del futuro impulsado por la IA comienza aquí. ¡Aplica hoy!