Ingeniero de Investigación, Preparación

Acerca del equipo

Los modelos de IA de frontera tienen el potencial de beneficiar a toda la humanidad, pero también plantean riesgos cada vez más graves. Para asegurar que la IA promueva un cambio positivo, hemos dedicado un equipo para ayudarnos a prepararnos de la mejor manera posible para el desarrollo de modelos de IA de frontera cada vez más capaces. Este equipo, Preparación, reporta directamente a nuestro CTO y tiene la tarea de identificar, rastrear y prepararse para los riesgos catastróficos relacionados con los modelos de IA de frontera.

Específicamente, la misión del equipo de Preparación es:

1. Monitorear de cerca y predecir las capacidades en evolución de los sistemas de IA de frontera, con un ojo puesto en los riesgos de mal uso cuyo impacto
2. Asegurarse de que tenemos procedimientos concretos, infraestructura y alianzas para mitigar estos riesgos y, de manera más amplia, para manejar de forma segura el desarrollo de sistemas de IA poderosos.

Nuestro equipo conectará estrechamente la evaluación de capacidades, las evaluaciones y la generación interna de equipos rojos para los modelos de frontera, así como la coordinación general sobre la preparación para la AGI. El objetivo central del equipo es asegurar que tenemos la infraestructura necesaria para la seguridad de los sistemas de IA altamente capaces, desde los modelos que desarrollamos en el futuro cercano hasta aquellos con capacidades de nivel de AGI.

Sobre ti

Estamos buscando contratar ingenieros de investigación excepcionales que puedan superar los límites de nuestros modelos de frontera. Específicamente, buscamos aquellos que nos ayuden a dar forma a nuestra comprensión empírica del espectro completo de preocupaciones sobre la seguridad de la IA y que asuman hilos individuales dentro de este esfuerzo de principio a fin.

En este rol, tú:

• Trabajarás en la identificación de los riesgos emergentes de seguridad de la IA y las nuevas metodologías para explorar el impacto de estos riesgos
• Construirán (y luego perfeccionarán continuamente) evaluaciones de modelos de IA de frontera que evalúan la magnitud de los riesgos identificados
• Diseñarán y construirán sistemas y procesos escalables que puedan soportar este tipo de evaluaciones
• Contribuirán al perfeccionamiento de la gestión de riesgos y el desarrollo general de las guías de "mejor práctica" para las evaluaciones de seguridad de la IA

Esperamos que seas:

• Apasionado y conocedor de los riesgos de seguridad de la IA a corto y largo plazo
• Capaz de pensar fuera de la caja y tener una sólida "mentalidad de equipo rojo"
• Experimentado en la ingeniería de investigación de ML, la observabilidad y el seguimiento de ML, la creación de aplicaciones habilitadas para modelos de lenguaje grande, y/o otro dominio técnico aplicable al riesgo de la IA
• Capaz de funcionar efectivamente en un entorno de investigación dinámico y extremadamente acelerado, así como de definir y entregar proyectos de principio a fin

Sería genial si también tienes:

• Experiencia directa en la generación de equipos rojos, ya sea en sistemas informáticos o de otro tipo
• Una buena comprensión de los aspectos (y matices) sociales de la implementación de la IA
• Una capacidad para trabajar de manera interfuncional
• Excelentes habilidades de comunicación

Somos un empleador de igualdad de oportunidades y no discriminamos en base a raza, religión, origen nacional, género, orientación sexual, edad, estado de veterano, discapacidad o cualquier otro estado protegido por la ley. Según la Ordenanza de Oportunidad Justa de San Francisco, consideraremos a los solicitantes cualificados con antecedentes de arresto y condena.

Estamos comprometidos a proporcionar adaptaciones razonables a los solicitantes con discapacidades, y las solicitudes pueden realizarse a través de este enlace.

Política de privacidad para solicitantes de OpenAI EE.UU.