Резюме посади
Інженер з даних відповідає за будівництво конвейерів, які транспортують дані від джерела даних до хмарного сховища даних. Ці конвейери є необхідними, оскільки вони є посередником для доступу організації до своїх даних та для їх аналізу, що впослідстві може використовуватися для обґрунтування бізнес-рішень. Конвейери даних не тільки транспортують, але й трансформують дані відповідно до встановлених правил бізнесу або лінії дослідницького аналізу. Обов'язок інженера з даних - це підготувати і організувати дані, які накопичені в базах даних і в інших форматах організації.
Огляд щоденного ритму роботи інженера з програмного забезпечення для візуалізації даних
Типовий день інженера з даних включає створення та реалізацію високоякісних архітектур даних та конвейерів для підтримки клієнтів, бізнес-аналітиків та науковців у галузі даних. Крім того, інженер з даних співпрацює з іншими технологічними командами для видобутку, трансформації та завантаження [ETL] даних з різноманітних джерел даних. Вмілі інженери постійно вдосконалюють існуючий звіт та процеси, автоматизуючи або спрощуючи самообслуговування для своїх клієнтів. Вони також пишуть, розробляють і реалізовують сценарії на мові програмування Python, оскільки Python переважно використовується в області даних. По суті, всі інженери з даних - це інженери програмного забезпечення з глибоким розумінням процесу життєвого циклу розробки програмного забезпечення (SDLC).
Основні обов'язки та обов'язки
- Створювати, тестувати та підтримувати архітектури даних
- Аналізувати сирий та органічний даний
- Розробляти системи і конвейери даних
- Створювати інфраструктуру, необхідну для оптимального видобутку, трансформації та завантаження даних з різних джерел, використовуючи технології SQL та AWS 'big data'
- Складати коди та сценарії для архітекторів даних, науковців у галузі даних та інженерів з контролю якості даних
- Збирати дані
- Ідентифікувати способи поліпшення міцності даних, ефективності та якості
- Створювати процеси наборів даних
- Підготовка даних для прийняття рекомендаційних і прогнозних моделей
- Автоматизувати процеси збору і аналізу даних, відкриття даних та засобів звітності
- Розробляти алгоритми та прототипи
- Створювати аналітичні інструменти та програми
- Співпрацювати з науковцями в галузі даних та архітекторами в різних проектах і зусиллях
Кваліфікація
- Бакалавр або магістр інформатики, інженерії або спорідненої галузі
- Сертифікований має отримати в перші два тижні роботи
- Попередній досвід роботи як інженер з даних, бажано в професійному сервісі або можливо в консалтинговому середовищі
- Володіти мовами програмування, такими як Python, Java або Scala, із знаннями фреймворків та бібліотек обробки даних (наприклад, Spark, Hadoop, SQL тощо).
- Глибоке розуміння систем баз даних (як реляційних, так і NoSQL), моделювання даних та концепцій хмарних сховищ даних
- Досвід роботи з хмарними платформами і сервісами для даних (наприклад, AWS, Azure, Google Cloud) і знайомство з відповідними інструментами та технологіями (наприклад, S3, Redshift, BigQuery тощо).
- Професіоналізм у проектуванні та виконанні процесів ETL та потоків інтеграції даних за допомогою інструментів, таких як Apache Airflow, Informatica або Talend
- Знайомство з практиками управління даними, фреймворками якості даних та принципами безпеки даних
- Сильні аналітичні та проблемно-орієнтовані здібності, здатні перетворювати бізнес-вимоги на технічні рішення
- Відмінні навички комунікації та співробітництва, здатні ефективно працювати з клієнтами та крос-функціональними командами
- Уміння працювати за неоднозначними обставинами та перетворити волю та потреби клієнта на конкретні історії та епоси, які можна реалізувати під час спринта. Це означає, що інженери з даних повністю розуміють "біжучий" процес поставки програмного забезпечення
- Надійне розуміння процесу SDLC
- Розуміння об'єктно-орієнтованого програмування
- Необхідно мінімальне керівництво
- Досвід роботи з AWS
- Націленість на рішення
Необхідні навички
- Amazon QuickSight
- Amazon API Gateway
- Amazon Redshift
Небайдужі до навичок та досвіду
- Допитлива природа та зацікавленість у вирішенні проблем
- Бажання постійно перевершувати очікування клієнтів
- Досвід або сертифікація з Snowflake або Databricks
Пільги, що пропонує компанія
Наші співробітники на повну ставку мають право участі у програмах додаткових пільг:
- Медичне, стоматологічна та офтальмологічна страховки,
- Короткострокова, довгострокова інвалідність та життєва страховка,
- Пенсійний план з компанійськими внесками
- 120 годин оплачуваної відпустки (PTO), яка нагромаджується протягом одного року
- Оплачувана відпустка на час великих свят (14 днів на рік)
- Ці пільги, разом з будь-якими іншими пропозиціями для співробітників, можуть змінюватися за розсудом керівництва та можуть бути змінені в будь-який час.
Діапазон зарплати для цієї посади варіюється від 115 000 до 172 000 доларів.
"Вказані діапазони зарплат разом з будь-якими іншими пропозиціями для співробітників можуть змінюватися за розсудом керівництва та можуть бути змінені в будь-який час."
Цей опис роботи може не включати всі призначені обов'язки, відповідальність або аспекти роботи, а також може бути змінений в будь-який час за винятковим розсудом роботодавця. Обов'язки та відповільність підлягають можливій модифікації для адекватного розміщення осіб з інвалідністю. Для вдалого виконання цієї роботи її виконавці будуть володіти навичками, талантом і здатностями виконувати кожне завдання добре. Цей документ не створює трудовий контракт, прямий або нерозмитний, крім відносин "at will". Effectual Inc. - роботодавець EEO, який не дискримінує за будь-якими захищеними класифікаціями в робочій пропозиції, просуванні або будь-якій іншій можливості роботи.