Мастер-класс посвящен базовым принципам работы с Apache Airflow 3: от понимания концепции ETL и ключевых элементов архитектуры (DAG, Operators, Tasks) до развертывания полноценной локальной песочницы в Docker. Мероприятие проводит студент онлайн-магистратуры «Аналитика больших данных» для будущих специалистов, которые хотят сделать уверенный первый шаг в оркестрации пайплайнов.
Мастер-класс для всех, кто хочет — познакомиться с Airflow 3 и понять его роль в индустрии — освоить концепцию ETL на простых примерах — научиться разворачивать локальный инстанс в Docker для личных экспериментов
На мастер-классе вы сможете разобраться в архитектуре Airflow 3, вместе со спикером развернуть локальный Airflow через Docker Compose и запустить ваш первый DAG.
Что вас ждет: Что такое ETL в работе инженера данных? Разберетесь, как устроены извлечение, преобразование и загрузка данных и зачем нужен этот процесс.
Знакомство с Airflow 3 Узнаете, зачем нужен дирижер скриптов и из каких блоков он состоит.
Две архитектуры Airflow: один сервер или несколько Сравните простую и распределённую архитектуры, их преимущества и сценарии применения.
Основные сущности Airflow на практике Поймете, что такое DAG, оператор и экземпляр задачи и как они связаны между собой.
Вредные советы Узнаете, в каких случаях не стоит использовать Airflow
Практика Развернете Airflow с помощью Docker Compose, познакомитесь с веб-интерфейсом и запустите первый DAG.
Event at a glance
- Who it is for
- data engineers, data analysts, aspiring data professionals
- Main topics
- Apache Airflow 3, ETL pipelines, data orchestration, Docker deployment
- What you will gain
- understand Airflow architecture, deploy Airflow with Docker Compose, run a first DAG, know when to use Airflow
- Program format
- hands-on, workshop, practical