Інженер-дослідник, готовність

Про команду Моделі інтелекту на межі можливого утримують обіцянку вигоди для всього людства, але також представляють посилення серйозних ризиків. Тому ми присвоїли команду, щоб допомогти нам готуватись найефективнішим способом до розробки все більш складних моделей інтелекту на межі можливого. Ця команда, названа “Підготовка”, безпосередньо відповідає нашому CTO та має завдання визначати, контролювати та готуватися до катастрофічних ризиків пов'язаних з моделями інтелекту на межі можливого. Конкретні цілі команди “Підготовка” це: 1. Ретельно спостерігати та проектувати розвиток можливостей систем інтелекту на межі можливого, особливо щодо ризиків зловживання, наслідки яких можуть бути великими. 2. Гарантувати, що ми маємо безсумнівні процедури, інфраструктуру та партнерства для зменшення цих ризиків та, в загальному, безпечне ведення робіт з розробки потужних систем ШІ. Наша команда створить міцні зв’язки між оцінюванням здатностей, оцінками та внітрішніми червоними командами для моделей на межі можливого, а також загальною координацією з підготовки до штучного загального інтелекту. Основна мета команди - забезпечити, щоб у нас була необхідна інфраструктура для забезпечення безпеки високоефективних систем ШІ - від моделей, які ми будемо розробляти в найближчому майбутньому, до тих, що мають потужності на рівні загального інтелекту. Про Вас Ми прагнемо залучити видатних інженерів-дослідників, які можуть розширити можливості наших моделей на межі можливого. Зокрема, ми шукаємо тих, хто може допомогти нам формувати наше практичне розуміння повного спектру питань безпеки ШІ та прийматиме на себе відповідальність за окремі аспекти цього підприємства від початку до кінця. У цій ролі ви будете: - Визначати новітні ризики безпеки ШІ та нові методології для дослідження впливу цих ризиків - Розробляти (а потім постійно уточнювати) оцінювання моделей ШІ на межі можливого, що оцінюють масштаб ідентифікованих ризиків - Проектувати та створювати масштабовані системи та процеси, що можуть підтримувати ці типи оцінювань - Вносити внесок у вдосконалення управління ризиками та загальну розробку "принципів найкращої практики" для оцінювання безпеки ШІ Ми очікуємо, що ви будете: - Зацікавленими та обізнаними про короткострокові та довгострокові ризики безпеки ШІ - Здатними до інноваційного мислення та з твердим "менталітетом червоних команд" - Досвідченими в ML-інженерії, спостережності ML та моніторингу, створенні додатків, що використовують великі моделі мови та/або іншу технічну область, що є актуальною для ризику ШІ - Здатними ефективно працювати в нестабільному та надзвичайно швидкому дослідницькому середовищі, а також планувати та виконувати проекти від початку до кінця Це було б дуже добре, якщо би ви також мали: - Причасність до червоних команд - чи то у системах комп'ютерів, чи ж інакше - Глибоке розуміння (тонкощів) суспільних аспектів розгортання ШІ - Здатність співпрацювати в різних функціях - Відмінні навики комунікації Ми пропонуємо рівні можливості для працевлаштування і не дискримінуємо на основі раси, релігії, національного походження, статі, сексуальної орієнтації, віку, статусу ветерана, інвалідності або будь-якого іншого захищеного законом статусу. Згідно зі статутом San Francisco Fair Chance, ми розглядаємо кандидатів з судовими справами про арешти та засудження. Ми зобов'язуємося радо забезпечувати помірковані пристосування для кандидатів з інвалідністю, а запити можна зробити за цим посиланням. Політика конфіденційності кандидатів від OpenAI США Заробітна плата, Пільги та Привілеї Загальна компенсація також включає в себе значну кількість акцій та пільг. - Медичне, стоматологічне та окулярне страхування для вас та вашої сім'ї - Підтримка в питаннях ментального здоров'я та фізичного самопочуття - Пенсійний план з 4% компенсацією - Необмежена відпустка та 18 і більше корпоративних свят в рік - Оплачувана відпустка на догляд за новонародженим (20 тижнів) та підтримка в питаннях контролю за народжуваністю - Щорічна асигнація на навчання та розвиток ($1500 на рік)