Research Engineer (Safety and Alignment), Post-Training

Dołącz do awangardy postępu w dziedzinie sztucznej inteligencji w Character.AI i przyczyniaj się do rozwoju bezpiecznych, zgodnych z oczekiwaniami technologii AI. Nasz rozwijający się Zespół Post-Training poszukuje uzdolnionego Inżyniera Badań nad Bezpieczeństwem i Zgodnością, aby wzmocnić nasze zaawansowane modele AI. Ta rola oferuje unikatową szansę na kształtowanie aplikacji AI, które są codziennie integrowane w życie ludzi, zapewniając ich bezpieczeństwo i zgodność z wartościami ludzkimi.

W ramach naszego dynamicznego zespołu Post-Training będziesz odgrywał kluczową rolę w ewolucji naszych najnowocześniejszych pre-trenowanych modeli językowych w w pełni zoptymalizowane produkty cyfrowe. Ta rola wymaga proaktywnego podejścia do współpracy międzyfunkcyjnej, poprawy wydajności modeli i bezpośredniego wpływu na doświadczenia użytkowników podczas interakcji, wpływając codziennie na miliony osób.

Obejmuje to odpowiedzialności:

• Rozwój algorytmów do wyrównywania preferencji modelu.
• Tworzenie klasyfikatorów do wykrywania i łagodzenia awarii modelu oraz nadużyć.
• Współpraca z adnotatorami i red-teamerami w celu ulepszenia datasetów zgodności.
• Zamierzanie innowacyjnych strategii kierowania zachowaniem AI.

Poszukujemy kandydata, który potrafi pisać kod zarówno produkcyjny, jak i szkoleniowy z jasnością i efektywnością. Idealny kandydat będzie posiadał:

• Udowodnione doświadczenie w obsłudze GPU do trenowania, serwowania i debugowania modeli.
• Ekspertyzę w zarządzaniu pipeline'ami danych i infrastrukturą.
• Mocne zrozumienie nowoczesnych technik uczenia maszynowego, w tym uczenia ze wzmocnieniem i transformatorów.
• Historię wyjątkowych badań lub innowacyjnych projektów zastosowanego uczenia maszynowego.

Mile widziane:

• Kwalifikacje w rozwijaniu systemów bezpieczeństwa dla treści generowanych przez użytkowników lub platform treści konsumenckich.
• Doświadczenie z dopasowaniem LLM.
• Wkłady w czasopisma akademickie lub główne konferencje dotyczące uczenia maszynowego lub systemów rekomendacji.

Założona w 2021 roku przez wizjonerów AI Noama Shazeera i Daniela De Freitasa, Character.AI szybko osiągnęła czołową pozycję w branży AI, osiągając solidny wzrost, status jednorożca i takie wyróżnienia jak Aplikacja AI Roku według Google Play.

Zachęcamy do aplikowania kandydatów z różnorodnych środowisk, w tym tych, którzy mogą nie spełniać wszystkich wymagań. W Character.AI wierzymy w unikalną wartość każdego indywiduum i zachęcamy do podjęcia próby. Dołącz do nas, aby być częścią naszej misji wyposażenia przyszłości w AGI!

Nazwa stanowiska: Inżyn