ПОИСК
Быстрый заказ
ОЦЕНКА КУРСАобщая оценка курса:оценка преподавателя: Хочу скидку |
Сегодня Apache Hadoop является самой популярной открытой платформой для распределенных вычислений и главной технологией больших данных (Big Data). Данный курс для администраторов Big Data содержит всю необходимую теоретическую информацию и практические задания по планированию и развертыванию распределенных вычислительных кластеров на базе дистрибутивов Arenadata Hadoop версии 3. Рассматриваются процессы мониторинга и оптимизации производительности системы, резервному копированию и аварийному восстановлению узлов кластера и отдельных компонент. Особое внимание уделено настройкам безопасности системы Kerberos (Active Directory и MIT/FreeIPA) на базе Hadoop.
Курс администрирование кластера Hadoop построен на сквозных практических примерах развертывания и администрирования распределенной вычислительной среды: локально и в облачной инфраструктуре. Вы изучите особенности использования компонент Hadoop для запуска задач распределенных вычислений с тестовыми данными. Практические занятия выполняются в кластерной среде Amazon Web Services/Yandex с использованием Apache Hadoop версии 3 на базе дистрибутива Arenadata Hadoop Community Edition (Cloudera Data Platform (CDP) Private Cloud) или Apache Hadoop, а также программного обеспечения управления кластером Arenadata Cluster Manager ADCM (Cloudera Manager) Примечание: с 1 июля 2022 года данный курс проводится по дистрибутиву Hadoop версии 3 Arenadata Hadoop Community Edition. Для корпоративного формата обучения возможна выделенная программа по любой версии дистрибутива Hadoop (версия 2/3, Arenadata, ванильный Apache Hadoop, Cloudera- уточняйте у менеджера).
Выберите форму обучения,
чтобы увидеть актуальные даты:
РАСПИСАНИЕ ЗАНЯТИЙ
|
|||||||||||||||||||
Бауманская
Содержание курса
- Введение в Big Data
- Что такое BigData. Понимание проблемы Big Data
- Эволюция систем распределенных вычислений Hadoop
- Принципы формирования Data Lake и pipelines
- Схемы организации Data Lakesс использованием кластеров Hadoop, NoSQL и платформ потоковой обработки данных
- Архитектура Apache Hadoop
- Hadoopсервисы и основные компоненты. Name node. DataNode.
- YARNсервис-планировщик
- Демоны HDFS
- Отказоустойчивость и высокая доступность
- Hadoop Distributed File System
- Архитектура Блоки HDFS.
- Основные команды работы с HDFS.
- Операции чтения и записи, назначения HDFS.
- Дисковые квоты. Поддержка компрессии
- Основные форматы хранения данных TXT, XML, JSON, AVRO, ORC, Parquet, Sequenceфайлы
- Импорт (загрузка) данных на HDFS
- Организация Tieringдля хранения данных
- Архивное хранение HDFS
- Локальное чтение и распределенное кэширование
- Map Reduce
- Ведение в MapReduce. Компоненты MapReduce. Работа программMapReduce. YARN MapReduce 3
- Ограничения и параметры MapReduceи YARN
- Управление запуском пользовательских задач (jobs) под MapReduce
- Дизайн кластера Hadoop
- Сравнение дистрибутивов и версий Hadoop2/3 (Arenadata Hadoop, Cloudera Distributed Hadoop CDP, Apache Hadoop): различия и ограничения
- Требования программного и аппаратного обеспечения
- Планирование кластера
- Масштабирование кластера Hadoop.
- Сравнение Cloudрешений для Hadoop. Amazon EMR/ Yandex Cloud
- Миграция данных и репликация данных
- Установка кластера Arenadata Hadoop
- Оптимизация OS для узлов кластера
- Установка Hadoop-кластера с использованием ADCM
- Выбор начальной конфигурации
- Начальная конфигурация HDFSи MapReduce
- Файлы логов и конфигураций
- Установка Hadoopклиентов
- Установка Hadoopкластера в облаке
- Автоматические варианты установки
- Установка и настройка кластера Hadoop в изолированном окружении (offline).
- Операции обслуживания кластера Hadoop
- Дисковая подсистема
- Квоты
- Остановка, запуск, перезапуск (Graceful Shutdown)
- Управление узлами
- Управление обновлениями и создание локального репозитория
- Оптимизация и управление ресурсами
- Поиск узких мест
- Производительность. Файловая система.Data Node и Data layout и партиционирование, bucketing
- Планировщики: FIFO scheduler. Планировщик емкости (Capacity Scheduler). Гранулярное управление ресурсами (Fair Scheduler). Защита очередей и доминантное управление ресурсами DRF.
- Особенности управления ресурсами для разных дистрибутивов
- Управление кластером Hadoop с использованием Arenadata Cluster Manager (Cloudera Manager)
- Основные операции и задачи c использованием ADCM (ClouderaManager)
- Мониторинг кластера. Работа с логами и сервисами
- Диагностика и разрешение проблем с ADCM
- Обзор Apache Zookeeper
- Безопасность Apache Hadoop
- Безопасность по умолчанию
- Многопользовательский режим
- Аутентификация и авторизация с использованием Active Directory(Microsoft), REALM MIT/FreeIPA: Kerberos, keytabs, principals. Установка и конфигурирование Kerberosв Hadoop
- Обзор возможностей компонент безопасности Apache Ranger, Apache Knox, Apache Atlas
- Резервное копирование и аварийное восстановление
- Репликация данных и Конфигурирование высокой доступности NameNode (HA)
- Best practices Cloudera/ Arenadata
- Troubleshooting
- Data Node
- Name Node
- Восстановление Name Node
- Инструментарий Apache Hadoop экосистемы
- Графический интерфейс сервиса HUE/Zeppelin
- Основы Apache Zookeeper
- Введение в Hadoop SQL: Apache Hive, понятие Hive-таблицы, установка Hive
- Использование ApacheSqoop — установка и выполнение базовых операций
- Обзор и назначение компонент: Apache Spark, Apache Solr, Apache HBase, Apache Phoenix, Apache Airflow, Apache Flink
Примерный список практических занятий:
- Установка кластера и настройка Arenadata Cluster Manager(ADCM)
- Настройка оффлайн репозитория для установки кластераArenadata Hadoop и RHEL/Centos
- Ручная установка 3х-узлового кластера Hadoopверсии 3 с дистрибутива Arenadata Cluster Manager (ADCM) в облаке Amazon Web Services с использованием ADCM
- Базовые операции с кластером Hadoopи файловые операции HDFS.
- Управление ресурсами и запуском задач с использованием YARN, Map Reduce/Tez.
- Управление кластером с использованием Arenadata Cluster Manager (развертывание сервисов, репликация, мониторинг, alerting и т.д.)
- Настройка кластера мониторинга
- Конфигурирование системы аутентификации Kerberosдля кластера Hadoop под управление Arenadata Cluster Manager (опционально, по возможности)
- Установка и выполнение базовых операций в Apache Hive, Apache Sqoop
- Выполнение задач в веб-интерфейсе HUE/Apache Zeppelin
- HA высокая доступность (High Availablility) NameNode ( опционально) и YARN (ресурс-менеджер).
Слушатели
Курс предназначен для системных администраторов, архитекторов, DevOps-инженеров и разработчиков Big Data, которые хотят освоить прикладные навыки установки, конфигурирования, обслуживания, управления и администрирования кластера Hadoop на базе дистрибутивов Arenadata Hadoop и Arenadata Cluster Manager (ADCM).
Предварительная подготовка
- Знание базовых команд и опыт работы в Linux (обязательно)
- Опыт работы с любым текстовым редактором vi, nano