Подписаться
Читать в телеграм
Попробую кратко ответить на эти вопросы с позиции партнера, давно занимающегося технологиями Oracle. Понятие Big Data появилось в статье журнала «Nature» относительно недавно и сразу же стало модным. Как и во всякое модное понятие, в него вкладывается разный смысл. Одно из первых значений термина Big Data – описание перехода количества данных в некое новое качество. В этом новом качестве хранить и обрабатывать данные традиционными способами уже невозможно, и для работы с ними необходимы новые, инновационные методы.
Big Data Appliance встраивается в цепочку «Big Data Appliance– Exadata–Exalytics», обеспечивающую полный цикл обработки Big Data: от «сырых» неструктурированных данных через реляционную базу к витринам конечных пользователей
Oracle Exadata задала новое направление в развитии продуктов Oracle – оптимизированные программно-аппаратные комплексы Engineered Systems. Все решения этого направления, проходящего под девизом Hardware and Software, Engineered to Work Together, являются исключительно инновационными. В случае с Exadata специально разработанное для решения задач баз данных Exadata Software позволяет переносить часть SQL-логики на систему хранения данных, что невозможно в традиционных архитектурах «сервер БД–сеть– массив». В этом смысле Exadata, несомненно, способна хранить и обрабатывать Big Data новым, нетрадиционным, экстремально быстрым способом.
Второе значение, часто вкладываемое в термин Big Data, – это архитектурные решения, построенные по принципу Shared Nothing. В такой архитектуре каждый узел хранит свою часть данных, при этом координаторы обеспечивают так называемую массивно-параллельную обработку (MPP) данных всеми узлами сразу. При этом принцип Shared Nothing может быть реализован как в технологии NoSQL, так и с помощью реляционных СУБД (IBM Netezza, EMC Greenplum, Teradata).
С точки зрения серверов баз данных, в основе Oracle Exadata лежат Oracle Real Application Clusters – кластерные технологии, основанные на принципе Shared Everything. Узлы Exadata видят общие диски, а их память синхронизируется достаточно сложным механизмом Cache Fusion, таким образом, получается, что узлы делят между собой и память, и диски. При этом серверы хранения Exadata при определенных условиях могут работать независимо, т.е. подобно MPP. Неоспоримым преимуществом Shared Everything является гибкость в распределении данных и прозрачность добавления/удаления узлов, в то время как Shared Nothing отличает абсолютная масштабируемость (например, чтобы снизить время обработки данных в два раза, нужно просто добавить вдвое больше узлов). Время покажет, какой из двух подходов более оптимален для Big Data, но уже сейчас можно точно сказать, что Exadata реализует ассоциируемый с понятием Big Data принцип Shared Nothing только на уровне хранения.
Наконец, самая узкая и, наверное, самая популярная трактовка понятия Big Data – широкий класс решений, выросших на основе методологии Map/Reduce. Эта методология, в первую очередь связанная с реализацией Hadoop, позволяет массивно и параллельно обрабатывать неструктурированные «сырые» данные NoSQL-способом. Такая трактовка Big Data не распространяется на Exadata, в основе которой лежит Oracle Database (наверное, самая известная и широко распространенная SQL база данных).
Поэтому в Engineered Systems, новом продуктовом семействе Oracle, появился программно-аппаратный комплекс, сбалансированный и оптимизированный именно под Map/Reduce решения – Oracle Big Data Appliance. В качестве Hardware этот комплекс использует традиционную для Engineered Systems архитектуру на основе процессоров Intel. В ресурсы каждого из 18 узлов Big Data Appliance входят два 6-ядерных процессора Intel Xeon, 48 Гб памяти и двенадцать 3 Тб SAS дисков (общая емкость 648 Тб). Для объединения узлов в кластер используется самое быстрое на сегодняшний день решение – InfiniBand.
В качестве Software используются Oracle Linux, Oracle HotSpot JVM, Apache Hadoop (Cloudera Distribution), аналитический язык R (Open Source) и Oracle NoSQL Database (на основе Berkeley DB).
Итак, согласно позиционированию этого решения, Big Data Appliance – это не просто оптимизированный программно-аппаратный комплекс для «Больших Данных» от Oracle. Это решение встраивается в цепочку «Big Data Appliance–Exadata– Exalytics», обеспечивающую полный цикл обработки Big Data: от «сырых» неструктурированных данных через реляционную базу к витринам конечных пользователей.
