Podsumowanie stanowiska
Inżynier Danych jest odpowiedzialny za budowanie przepływów, które transportują dane z źródła danych do magazynu danych. Te przepływy są niezbędne, ponieważ umożliwiają organizacji dostęp i analizę swoich danych, które mogą być następnie wykorzystane do informowania decyzji biznesowych. Przepływy danych nie tylko transportują, ale także transformują dane zgodnie z ustalonymi regułami biznesowymi lub linią analizy eksploracyjnej. Obowiązkiem Inżyniera Danych jest przygotowanie i organizowanie danych, które zostały zgromadzone w bazach danych i innych formatach organizacji.
Wgląd w codzienną rutynę Inżyniera do Wizualizacji Danych
Typowy dzień Inżyniera Danych obejmuje tworzenie i dostarczanie najwyższej jakości architektur danych i przepływów w celu wsparcia klientów, analityków biznesowych i naukowców danych. Dodatkowo, Inżynier Danych współpracuje z innymi zespołami technologicznymi w celu ekstrakcji, transformacji i ładowania [ETL] danych z różnorodnych źródeł danych. Umiejętni Inżynierowie Danych nieustannie udoskonalają bieżące raportowanie i procesy oraz automatyzują lub upraszczają samoobsługę dla swoich klientów. Piszą również, opracowują i implementują skrypty w języku programowania Python, ponieważ Python jest głównie wykorzystywany w dziedzinie danych. W swojej istocie wszyscy Inżynierowie Danych są Inżynierami Oprogramowania z głębokim zrozumieniem procesu Cyklu Życia Rozwoju Oprogramowania (SDLC).
Podstawowe obowiązki i zadania
- Konstrukcja, testowanie i utrzymanie architektury danych
- Analiza surowych i organicznych danych
- Tworzenie systemów danych i przepływów
- Tworzenie infrastruktury niezbędnej do optymalnej ekstrakcji, transformacji i ładowania danych z różnorodnych źródeł przy użyciu technologii SQL i 'big data' AWS
- Komponowanie kodu i skryptów dla architektów danych, naukowców danych i inżynierów jakości danych
- Zbieranie danych
- Wskazywanie sposobów na poprawę niezawodności, efektywności i jakości danych
- Tworzenie procesów dla zestawów danych
- Przygotowywanie danych do modelowania preskryptywnego i predykcyjnego
- Automatyzacja procesów zbierania i analizy danych, publikacji danych oraz narzędzi do raportowania
- Rozwijanie algorytmów i prototypów
- Tworzenie narzędzi i programów analitycznych
- Współpraca z naukowcami danych i architektami w ramach różnych projektów i działań
Wymagania
- Licencjat lub magister z informatyki, inżynierii lub pokrewnego kierunku
- Certyfikat AWS Certified Big Data - Specialty
- Wymagany do uzyskania w ciągu pierwszych dwóch tygodni zatrudnienia
- Doświadczenie na stanowisku Inżyniera Danych, preferowane w środowisku usług profesjonalnych lub konsultingowych
- Znajomość języków programowania takich jak Python, Java, czy Scala, ze szczególnym uwzględnieniem analizy danych w ramach systemów i bibliotek (np. Spark, Hadoop, SQL, itp.)
- Głęboka znajomość systemów baz danych (zarówno relacyjnych, jak i NoSQL), modelowania danych i koncepcji magazynowania danych
- Doświadczenie z chmurowymi platformami i usługami danych (np. AWS, Azure, Google Cloud) oraz znajomość odpowiednich narzędzi i technologii (np. S3, Redshift, BigQuery, itd.)
- Umiejętność projektowania i wykonania procesów ETL i przepływów integracji danych przy użyciu narzędzi takich jak Apache Airflow, Informatica, czy Talend
- Znajomość praktyk zarządzania danymi, ram danych jakościowych, i zasad bezpieczeństwa danych
- Silne zdolności analityczne i do rozwiązywania problemów, zdolność do tłumaczenia wymagań biznesowych na rozwiązania techniczne
- Świetne umiejętności komunikacyjne i współpracy, zdolność do skutecznej pracy z klientami i zespołami interdyscyplinarnymi
- Samomotywacja i proaktywność, pasja do ciągłego uczenia się i trzymania się na bieżąco z nowymi trendami i rozwojem w dziedzinie inżynierii danych
- Umiejętność radzenia sobie w niejednoznacznych sytuacjach i przekładania potrzeb i oczekiwań klientów na działania i epickie historie, które mogą być realizowane podczas sprintu. Oznacza to, że Inżynierowie Danych doskonale rozumieją "zwinny" proces dostarczania oprogramowania
- Wyraźne zrozumienie procesu SDLC
- Zrozumienie programowania obiektowego
- Wymaga minimalnej kontroli
- Tło w AWS
- Umiejętność myślenia rozwiązaniowego
Wymagane zdolności
- Amazon QuickSight
- Amazon API Gateway
- Amazon Redshift
Dodatkowe umiejętności i doświadczenie
- Zaciekawienie i ciekawość w rozwiązywaniu problemów
- Chęć do konsekwentnego przekraczania oczekiwań klientów
- Doświadczenie lub certyfikacja z Snowflake lub Databricks
Oferowane korzyści przez firmę
Nasi pracownicy na pełny etat mają prawo do korzystania z naszych programów świadczeń:
- Ubezpieczenia zdrowotne, stomatologiczne i okulistyczne,
- Krótkoterminowe ubezpieczenie na wypadek niezdolności do pracy, długoterminowe ubezpieczenie na wypadek niezdolności do pracy, i ubezpieczenie na życie,
- 401k z dopłatą firmy
- 120 godzin płatnego urlopu (PTO) naliczanych w ciągu jednego roku
- Płatny urlop w dni świąteczne (14 dni w roku)
- Te korzyści, wraz z innymi ofertami dla pracowników, podlegają uznaniu zarządu i mogą być zmienione w każdym momencie.
Przedział wynagrodzeń dla tego stanowiska wynosi od 115 000 do 172 000 dolarów.
"Podane przedziały wynagrodzeń mają jedynie charakter informacyjny i mogą ulec zmianie w zależności od wielu czynników, takich jak doświadczenie, kwalifikacje i lokalizacja geograficzna. Ostateczne wynagrodzenie będzie ustalane na podstawie umiejętności kandydata i jak one pasują do wymagań stanowiska."
To opis pracy może nie zawierać wszystkich przypisanych obowiązków, odpowiedzialności, czy aspektów pracy i może być zmieniany w dowolnym momencie według uznania pracodawcy. Obowiązki i odpowiedzialności mogą być modyfikowane w celu rozsądnej akomodacji osób niepełnosprawnych. Aby wykonać tę pracę skutecznie, pracownicy muszą posiadać umiejętności, predyspozycje, i zdolności niezbędne do profesjonalnego wykonywania każdego obowiązku. Ten dokument nie tworzy umowy o zatrudnienie, dorozumianej czy innej, poza związkiem "at will". Firma Effectual Inc. jest pracodawcą stosującym zasady równych szans i nie dyskryminuje na podstawie jakiejkolwiek chronionej klasyfikacji w ramach procesu rekrutacji, awansu, czy innej okazji pracy.