Обработка больших данных

О книге

Автор книги - Джейд Картер. Произведение относится к жанрам самоучители, программирование, информатика и вычислительная техника. Оно опубликовано в 2024 году. Книге не присвоен международный стандартный книжный номер.

Аннотация

Книга является пособием для изучения технологий больших данных, охватывая основные и продвинутые аспекты работы с данными в распределенных системах. Начав с основ, она объясняет значение БД, их эволюцию и экосистему Hadoop, включая компоненты и инструменты: HDFS, MapReduce, Hive, Pig, HBase, Sqoop и Flume.

Автор раскрывает архитектуру и принципы работы Apache Hadoop, а также примеры использования MapReduce и работу с данными в HDFS, Apache Spark, описывая его основные компоненты, такие как RDD, DataFrames, Spark SQL, Spark Streaming, MLLib и GraphX, и предоставляет практические примеры установки и настройки.

Раздел, посвященный Apache Kafka, рассматривает основы архитектуры, проектирование и настройка кластеров, а также интеграция с другими системами.

Практические примеры и проекты предлагают возможность применить полученные знания, анализируя данные, разрабатывая потоковые приложения и интегрируя технологии Hadoop, Spark и Kafka в единую систему.

Читать онлайн Джейд Картер - Обработка больших данных

Слово от автора

В современном мире данных существует огромное количество информации, которая поступает к нам со всех сторон. Начиная от записей в социальных сетях и заканчивая данными с промышленных сенсоров, объемы информации, с которыми нам приходится работать, растут с невиданной скоростью. Именно в этом контексте технологии больших данных выходят на первый план, открывая перед нами новые возможности для анализа, прогнозирования и принятия решений.

Эта книга родилась из моего стремления помочь вам не просто понять, но и эффективно применять технологии больших данных в ваших проектах и бизнесе. Я постарался охватить весь спектр тем, начиная с основ и заканчивая продвинутыми техниками и реальными примерами. Мы начнем с изучения того, какие преимущества могут дать большие данные вашей организации и с какими вызовами вам предстоит столкнуться. Затем мы детально разберем архитектуру и экосистему Apache Hadoop – одной из ключевых платформ для работы с большими данными. Вы узнаете, как развернуть и настроить кластер Hadoop, и научитесь решать практические задачи с его помощью.

Особое внимание в книге уделено Apache Spark, который позволяет значительно ускорить обработку данных и предлагает широкий спектр инструментов для работы с потоками данных, машинным обучением и графовыми вычислениями. Мы также погрузимся в мир Apache Kafka – платформы, которая революционизировала подход к потоковой передаче данных, предоставляя мощные инструменты для интеграции и обработки данных в реальном времени.

Эта книга предназначена для того, чтобы стать вашим проводником в мире больших данных. Независимо от того, являетесь ли вы новичком или опытным специалистом, вы найдете здесь ценные знания и практические примеры, которые помогут вам достичь новых высот в вашем деле. Я надеюсь, что она вдохновит вас на эксперименты и открытия в этой захватывающей области.

С уважением,

Джейд Картер

Глава 1. Введение в Технологии Больших Данных

– Определение и значение больших данных
– История и эволюция технологий больших данных
– Обзор экосистемы Hadoop и сопутствующих технологий

Определение и значение больших данных:

Большие данные (Big Data) – это наборы данных, которые настолько велики или сложны, что традиционные методы обработки данных не справляются с ними. Эти данные включают структурированную, полуструктурированную и неструктурированную информацию, которую можно анализировать, чтобы выявлять тенденции, закономерности и другие полезные сведения.

Рекомендации для вас