SlideShare a Scribd company logo
Инфраструктура хранения
для универсальной платформы
KADME WhereOil
Всеволод Шабад, «СетьПроект»
2

Ключевые функции KADME Whereoil
Функции работы с данными
•загрузка
•(до)атрибутирование
•хранение
•поиск
•выдача
Режимы работы
•ручной
•автоматический
Хранение
•локально
•распределённо
3

Комплекс универсальных требований
Функциональность
Производительность
Надёжность
Масштабируемость
Безопасность
Экономичность
4

Особенности требований KADME
Огромные объемы данных
Территориальная распределённость
Множество смежных систем
•в том числе, очень странных и древних
5

KADME: функциональные требования
Хранение:
•баз данных
•файлов
Доступ:
•блочный
•файловый (CIFS)
•файловый (NFS)
Авторизация доступа:
•Active Directory
•LDAP
Целостное резервное копирование
•мгновенные снимки, группы консистентности
6

KADME: требования производительности
Быстрый произвольный доступ
•БД, мелкие файлы
Быстрый последовательный доступ
•крупные файлы (сейсмика)
•баз данных
•файлов
Снимки без потерь производительности

Конкретные цифры зависят от конкретного
заказчика!
7

KADME: требования надёжности
Устойчивость к отказам «железа»
Устойчивость к отказам ЦОДа в целом
Устойчивость к отказам носителей информации
Устойчивость к ошибкам персонала
Допустимые потери данных и допустимые
простои сервиса зависят от конкретного
заказчика!
8

KADME: требования масштабируемости
Готовность к росту:
•объемов данных
•размеров отдельных файлов
•количества файлов
•количества сайтов
•скоростей работы
•количества смежных систем
•количества пользователей
Нелинейный рост стоимости и сложности по
мере роста требований!
9

KADME: требования безопасности
Возможность разграничения доступа
•authentication
•authorization
•accounting
Возможность криптозащиты данных
Возможность криптозащиты каналов связи
У разных заказчиков и в разных странах
и требования разные!
10

KADME: требования экономичности
Низкая стоимость создания системы
Низкая стоимость расширения системы
Низкая стоимость хранения данных
11

Возможности СХД NetApp FAS
Функциональность:
•унифицированный доступ
•SAN FC, iSCSI --- СУБД
•NAS (NFS 4.1, SMB 3.0) --- файлы
•авторизация доступа:
•Active Directory
•LDAP
•Kerberos
•целостное резервное копирование
•мгновенные снимки
•без потери производительности
•целостные на уровне приложений (SQL,
Oracle, Exchange, …)
•группы консистентности (через NetApp ZAPI)
12

Возможности СХД NetApp FAS
Производительность:
•быстрый произвольный доступ
•оптимизация записи
(WAFL, RAID-DP)
•оптимизация чтения
(FlashCache)
•быстрый
последовательный
доступ
•снимки без потерь
производительности
13

Возможности СХД NetApp FAS
Надёжность:
•дублированы все компоненты
•кластеризация (до 24 контроллеров)
•репликация SnapMirror (sync, async, semi-sync)
•RAID-DP (допустимы двойные отказы дисков)
•disk scrubbing
•NFS 4.1, SMB 3.0 (NAS), ALUA (FC)
•развитые средства резервного копирования
•SnapMirror (снимки)
•SnapVault (+хранилище снимков)
•SnapProtect (+ленты, + агенты для
приложений)
IDC --- надёжность 99,999%
14

Возможности СХД NetApp FAS
Расширяемость:
•2200→3200→6200,
общая ОС, общие полки
•до 24 узлов
в кластере
•до 1440 дисков на 1600000
пару контроллеров 1400000
•до 15 тыс. дисков 1200000
1000000
на кластер
800000
•ёмкость до 69 ПБ
600000
на кластер
400000
•файлы размером
200000
до 20 ПБ
0

NFS IOPS

4

8

12

16

20

24
15

Возможности СХД NetApp FAS
Безопасность:
•возможности разграничения доступа
•authentication
•Active Directory, LDAP, Kerberos
•authorization
•accounting
•делегирование администрирования (MultiStore)
•криптозащита данных на дисках
•криптозащита каналов связи (SSH, SSL)
•«песочница» (FlexClone)
16

Возможности СХД NetApp FAS
Экономичность:
•RAID-DP (надёжность RAID-6,
производительность RAID-10)
•дедупликация
•компрессия
•мгновенные снимки
17

Преимущества перед EMC Isilon
Эффективность хранения:
•RAID-DP, компрессия, дедупликация
Производительность NFS IOPS
(максимальные конфигурации):
•1’112’705 (EMC Isilon)
•1’512’784 (NetApp FAS) +36%
Масштабируемость и экономичность
•см. следующий слайд
Полноценная поддержка клиентов MS Windows
•в т. ч. Active Directory и SMB 3.0
Непрерывность работы во всех ситуациях
18

Масштабируемость и экономичность

NetApp
FAS
EMC
Isilon

250 000
NFS IOPS
дисков ТБ
288
48
672

500 000
NFS IOPS
дисков ТБ
576
96

172.3 1344

1 000 000
NFS IOPS
дисков ТБ
1152
192

344.5 3360

864

Из http://www.spec.org/sfs2008/results/sfs2008nfs.html
19

Что лучше — лента или диск?
Надёжность хранения
Стоимость носителя
Возможность дедупликации и компрессии
Количество и размер объектов восстановления
Скорость чтения и записи (max/min)
Риск потери и компрометации носителя
Наличие каналов связи между площадками
Нагрузка на перекрытия
20

Вместе мы — сила!
21

Действуем?

http://www.netproject.ru

More Related Content

PDF
HPC file systems (160761)
PDF
Программно-технические комплексы для работы с геолого-геофизическими данными
PDF
СХД для обработки сейсмики: сравнительный обзор
PDF
Возможности повышения производительности вычислительных кластеров
PDF
Мощнее или умнее? Возможности оптимизации ИТ-инфраструктуры для сейсмики
PDF
Андрей Николаенко, IBS. NVMf: 5 млн IOPS по сети своими руками
 
PPTX
Flashcache в mamba.ru / Яковлев Александр Юрьевич (ЗАО Мамба)
PPTX
Тюним память и сетевой стек в Linux: история перевода высоконагруженных серве...
HPC file systems (160761)
Программно-технические комплексы для работы с геолого-геофизическими данными
СХД для обработки сейсмики: сравнительный обзор
Возможности повышения производительности вычислительных кластеров
Мощнее или умнее? Возможности оптимизации ИТ-инфраструктуры для сейсмики
Андрей Николаенко, IBS. NVMf: 5 млн IOPS по сети своими руками
 
Flashcache в mamba.ru / Яковлев Александр Юрьевич (ЗАО Мамба)
Тюним память и сетевой стек в Linux: история перевода высоконагруженных серве...

What's hot (20)

PPTX
Технологии хранения для больших проектов / Сергей Платонов (RAIDIX)
PPTX
За счет чего Tarantool такой оптимальный / Денис Аникин (Mail.Ru)
PPTX
DNS в условиях хостинг-провайдера / Константин Новаковский (Selectel)
PDF
Что особенного в СУБД для данных в оперативной памяти / Константин Осипов (Ta...
PDF
Хранение данных на виниле / Константин Осипов (tarantool.org)
PDF
Аппаратная и программно-аппаратная дедупликация от EMC
PPTX
Эволюция программно-аппаратного обеспечения хранения фотографий в Badoo / Дми...
PDF
Современная операционная система: что надо знать разработчику / Александр Кри...
PDF
Использование Hadoop в Badoo, Валерий Старынин (Badoo)
PDF
nginx.CHANGES.2015 / Игорь Сысоев, Валентин Бартенев (Nginx)
PPTX
DataCore case studies
PPTX
Chronicle Map — key-value хранилище для трейдинга на Java / Левентов Роман (C...
PPTX
Максим Исаев, IBS. Практика использования комплекса Veritas NetBackup для мод...
 
PPTX
Чем заняться вечером, если я знаю сколько будет ++i + ++i / Андрей Бородин (Y...
PDF
Нереляционный SQL
PDF
Загрузка больших объемов данных для бизнес-аналитики
PDF
Дмитрий Новиков - Tarantool в Badoo
PPTX
Mysql vs postgresql
PDF
Путь от монолита на PHP к микросервисам на Scala / Денис Иванов (2GIS)
PDF
С чего начать внедрение Hadoop в компании. Доклад Алексея Еремихина (Badoo).
Технологии хранения для больших проектов / Сергей Платонов (RAIDIX)
За счет чего Tarantool такой оптимальный / Денис Аникин (Mail.Ru)
DNS в условиях хостинг-провайдера / Константин Новаковский (Selectel)
Что особенного в СУБД для данных в оперативной памяти / Константин Осипов (Ta...
Хранение данных на виниле / Константин Осипов (tarantool.org)
Аппаратная и программно-аппаратная дедупликация от EMC
Эволюция программно-аппаратного обеспечения хранения фотографий в Badoo / Дми...
Современная операционная система: что надо знать разработчику / Александр Кри...
Использование Hadoop в Badoo, Валерий Старынин (Badoo)
nginx.CHANGES.2015 / Игорь Сысоев, Валентин Бартенев (Nginx)
DataCore case studies
Chronicle Map — key-value хранилище для трейдинга на Java / Левентов Роман (C...
Максим Исаев, IBS. Практика использования комплекса Veritas NetBackup для мод...
 
Чем заняться вечером, если я знаю сколько будет ++i + ++i / Андрей Бородин (Y...
Нереляционный SQL
Загрузка больших объемов данных для бизнес-аналитики
Дмитрий Новиков - Tarantool в Badoo
Mysql vs postgresql
Путь от монолита на PHP к микросервисам на Scala / Денис Иванов (2GIS)
С чего начать внедрение Hadoop в компании. Доклад Алексея Еремихина (Badoo).
Ad

Viewers also liked (6)

PDF
О компании СетьПроект (краткий обзор)
PDF
About NetProject (brief profile)
PDF
Infrastructure optimization for seismic processing (eng)
PDF
2015 Upload Campaigns Calendar - SlideShare
PPTX
What to Upload to SlideShare
PDF
Getting Started With SlideShare
О компании СетьПроект (краткий обзор)
About NetProject (brief profile)
Infrastructure optimization for seismic processing (eng)
2015 Upload Campaigns Calendar - SlideShare
What to Upload to SlideShare
Getting Started With SlideShare
Ad

Similar to Инфраструктура хранения для KADME Whereoil (20)

PDF
IBS at IBM Fast Data (Moscow, 2014)
PDF
Net Аpp. Лучший фундамент для облака
PDF
9 vinogradov
PPTX
130413 net app-сюртуков
PDF
Extreme cloud storage on free bsd (Андрей Пантюхин)
PDF
Подходы к построению хранилищ данных в крупных организациях
PDF
Белнетэксперт - СХД
PDF
Системы хранения NetApp
PDF
Extreme Cloud Storage on FreeBSD, Андрей Пантюхин
PDF
Software Defined Storage
PDF
МОДЕРНИЗАЦИЯ ВАШЕЙ СТРАТЕГИИ УПРАВЛЕНИЯ ДАННЫМИ
PDF
NetApp Tech Leadership
PPTX
Pustovit presentation
PDF
Cохранить замещая. IBS и Huawei // Максим Исаев (IBS) на InterLab Forum 2015
 
PDF
All Flash системы хранения – примеры из реального опыта
PPTX
Netapp prezz
PDF
Isilapp — Extreme Cloud Storage on FreeBSD
PDF
Дмитрий Еманов — Под капотом серверного ПО
PPTX
СХД DEPO Storage 4600 для консолидации данных в современной IT-инфраструктуре
PDF
Центр обработки данных в Мегафон
IBS at IBM Fast Data (Moscow, 2014)
Net Аpp. Лучший фундамент для облака
9 vinogradov
130413 net app-сюртуков
Extreme cloud storage on free bsd (Андрей Пантюхин)
Подходы к построению хранилищ данных в крупных организациях
Белнетэксперт - СХД
Системы хранения NetApp
Extreme Cloud Storage on FreeBSD, Андрей Пантюхин
Software Defined Storage
МОДЕРНИЗАЦИЯ ВАШЕЙ СТРАТЕГИИ УПРАВЛЕНИЯ ДАННЫМИ
NetApp Tech Leadership
Pustovit presentation
Cохранить замещая. IBS и Huawei // Максим Исаев (IBS) на InterLab Forum 2015
 
All Flash системы хранения – примеры из реального опыта
Netapp prezz
Isilapp — Extreme Cloud Storage on FreeBSD
Дмитрий Еманов — Под капотом серверного ПО
СХД DEPO Storage 4600 для консолидации данных в современной IT-инфраструктуре
Центр обработки данных в Мегафон

More from Vsevolod Shabad (20)

PDF
AI Safety and Security - the basement of customer trust
PDF
Slash Incident Resolution Time - From 30 Days to 1
PDF
Почему нужно бояться искусственного интеллекта и как это правильно делать
PDF
Опыт разработки стратегии ИБ и киберзащиты производственной инфраструктуры в...
PDF
Agile-подходы в ИБ
PDF
State regulation of information protection in the cloud - international and K...
PDF
How can a successful SOC2-compliant ISMS be built without power, money and a...
PDF
Государственное регулирование защиты данных в облаках - международный и каза...
PDF
Первые шаги нового CISO
PDF
С широко закрытыми глазами - риск-ориентированный подход к миграции в облака
PDF
Public clouds - tasty but scary
PDF
Building a cybersecurity strategy for growing companies (IDC Day 2022 - Tashk...
PDF
Public clouds: to love passionately, to be afraid, or to hate (IDC Security D...
PDF
Как повысить результативность борьбы с фродом: опыт "Халык Банка"
PDF
Как оценить пользу от ИБ и увязать с нею инвестиции в безопасность
PDF
Проекты по обеспечению непрерывности бизнеса: ЧТО, ЗАЧЕМ, КАК и ПОЧЕМУ ТАК ДО...
PDF
ITIL, SCRUM, Kanban in Cybersecurity
PDF
Обработка спйсмоданных: возможности оптимизации ИТ-инфраструктуры
PDF
Гидродинамическое моделирование: возможности оптимизации ИТ-инфраструктуры
PDF
Как получать больше, платить меньше и спокойно спать по ночам
AI Safety and Security - the basement of customer trust
Slash Incident Resolution Time - From 30 Days to 1
Почему нужно бояться искусственного интеллекта и как это правильно делать
Опыт разработки стратегии ИБ и киберзащиты производственной инфраструктуры в...
Agile-подходы в ИБ
State regulation of information protection in the cloud - international and K...
How can a successful SOC2-compliant ISMS be built without power, money and a...
Государственное регулирование защиты данных в облаках - международный и каза...
Первые шаги нового CISO
С широко закрытыми глазами - риск-ориентированный подход к миграции в облака
Public clouds - tasty but scary
Building a cybersecurity strategy for growing companies (IDC Day 2022 - Tashk...
Public clouds: to love passionately, to be afraid, or to hate (IDC Security D...
Как повысить результативность борьбы с фродом: опыт "Халык Банка"
Как оценить пользу от ИБ и увязать с нею инвестиции в безопасность
Проекты по обеспечению непрерывности бизнеса: ЧТО, ЗАЧЕМ, КАК и ПОЧЕМУ ТАК ДО...
ITIL, SCRUM, Kanban in Cybersecurity
Обработка спйсмоданных: возможности оптимизации ИТ-инфраструктуры
Гидродинамическое моделирование: возможности оптимизации ИТ-инфраструктуры
Как получать больше, платить меньше и спокойно спать по ночам

Инфраструктура хранения для KADME Whereoil

  • 1. Инфраструктура хранения для универсальной платформы KADME WhereOil Всеволод Шабад, «СетьПроект»
  • 2. 2 Ключевые функции KADME Whereoil Функции работы с данными •загрузка •(до)атрибутирование •хранение •поиск •выдача Режимы работы •ручной •автоматический Хранение •локально •распределённо
  • 4. 4 Особенности требований KADME Огромные объемы данных Территориальная распределённость Множество смежных систем •в том числе, очень странных и древних
  • 5. 5 KADME: функциональные требования Хранение: •баз данных •файлов Доступ: •блочный •файловый (CIFS) •файловый (NFS) Авторизация доступа: •Active Directory •LDAP Целостное резервное копирование •мгновенные снимки, группы консистентности
  • 6. 6 KADME: требования производительности Быстрый произвольный доступ •БД, мелкие файлы Быстрый последовательный доступ •крупные файлы (сейсмика) •баз данных •файлов Снимки без потерь производительности Конкретные цифры зависят от конкретного заказчика!
  • 7. 7 KADME: требования надёжности Устойчивость к отказам «железа» Устойчивость к отказам ЦОДа в целом Устойчивость к отказам носителей информации Устойчивость к ошибкам персонала Допустимые потери данных и допустимые простои сервиса зависят от конкретного заказчика!
  • 8. 8 KADME: требования масштабируемости Готовность к росту: •объемов данных •размеров отдельных файлов •количества файлов •количества сайтов •скоростей работы •количества смежных систем •количества пользователей Нелинейный рост стоимости и сложности по мере роста требований!
  • 9. 9 KADME: требования безопасности Возможность разграничения доступа •authentication •authorization •accounting Возможность криптозащиты данных Возможность криптозащиты каналов связи У разных заказчиков и в разных странах и требования разные!
  • 10. 10 KADME: требования экономичности Низкая стоимость создания системы Низкая стоимость расширения системы Низкая стоимость хранения данных
  • 11. 11 Возможности СХД NetApp FAS Функциональность: •унифицированный доступ •SAN FC, iSCSI --- СУБД •NAS (NFS 4.1, SMB 3.0) --- файлы •авторизация доступа: •Active Directory •LDAP •Kerberos •целостное резервное копирование •мгновенные снимки •без потери производительности •целостные на уровне приложений (SQL, Oracle, Exchange, …) •группы консистентности (через NetApp ZAPI)
  • 12. 12 Возможности СХД NetApp FAS Производительность: •быстрый произвольный доступ •оптимизация записи (WAFL, RAID-DP) •оптимизация чтения (FlashCache) •быстрый последовательный доступ •снимки без потерь производительности
  • 13. 13 Возможности СХД NetApp FAS Надёжность: •дублированы все компоненты •кластеризация (до 24 контроллеров) •репликация SnapMirror (sync, async, semi-sync) •RAID-DP (допустимы двойные отказы дисков) •disk scrubbing •NFS 4.1, SMB 3.0 (NAS), ALUA (FC) •развитые средства резервного копирования •SnapMirror (снимки) •SnapVault (+хранилище снимков) •SnapProtect (+ленты, + агенты для приложений) IDC --- надёжность 99,999%
  • 14. 14 Возможности СХД NetApp FAS Расширяемость: •2200→3200→6200, общая ОС, общие полки •до 24 узлов в кластере •до 1440 дисков на 1600000 пару контроллеров 1400000 •до 15 тыс. дисков 1200000 1000000 на кластер 800000 •ёмкость до 69 ПБ 600000 на кластер 400000 •файлы размером 200000 до 20 ПБ 0 NFS IOPS 4 8 12 16 20 24
  • 15. 15 Возможности СХД NetApp FAS Безопасность: •возможности разграничения доступа •authentication •Active Directory, LDAP, Kerberos •authorization •accounting •делегирование администрирования (MultiStore) •криптозащита данных на дисках •криптозащита каналов связи (SSH, SSL) •«песочница» (FlexClone)
  • 16. 16 Возможности СХД NetApp FAS Экономичность: •RAID-DP (надёжность RAID-6, производительность RAID-10) •дедупликация •компрессия •мгновенные снимки
  • 17. 17 Преимущества перед EMC Isilon Эффективность хранения: •RAID-DP, компрессия, дедупликация Производительность NFS IOPS (максимальные конфигурации): •1’112’705 (EMC Isilon) •1’512’784 (NetApp FAS) +36% Масштабируемость и экономичность •см. следующий слайд Полноценная поддержка клиентов MS Windows •в т. ч. Active Directory и SMB 3.0 Непрерывность работы во всех ситуациях
  • 18. 18 Масштабируемость и экономичность NetApp FAS EMC Isilon 250 000 NFS IOPS дисков ТБ 288 48 672 500 000 NFS IOPS дисков ТБ 576 96 172.3 1344 1 000 000 NFS IOPS дисков ТБ 1152 192 344.5 3360 864 Из http://www.spec.org/sfs2008/results/sfs2008nfs.html
  • 19. 19 Что лучше — лента или диск? Надёжность хранения Стоимость носителя Возможность дедупликации и компрессии Количество и размер объектов восстановления Скорость чтения и записи (max/min) Риск потери и компрометации носителя Наличие каналов связи между площадками Нагрузка на перекрытия