Alexandr Serbul "The Rust language for a high-load network service - a quick start and fast flight"

Язык Rust для высоконагруженного
сетевого сервиса - быстрый старт и
стремительный полет
Александр Сербул
Head of Data Science, ООО «1С-Битрикс»

О чем поговорим
Делимся опытом. Никакой рекламы и философских выводов:
• Что происходит в IT и языках программирования «на самом деле»
• История проекта отправки push-уведомлений Битрикс24
• Как мы развивали архитектуру проекта: от bash-forks до
Rust/Tokio
• Одновременно поговорим о высоконагруженной работой с сетью
в php, java, python, nodejs, golang и почему мы взяли Rust
• Как быстро понять Rust и его сравнение с другими ЯП
• Как начать решать задачи на Rust как можно быстрее, Cargo
• Подводные камни в Rust и способы их преодоления
• Выводы, рекомендации для будущих проектов и нагруженных
сетевых архитектур

Что происходит
в IT и языках
программирования
«на самом деле» -
и что подарил миру Rust?

Как все начиналось…
• Архитектура фон Неймана и машина
Тьюринга
• Процедурные языки программирования
• Объектно-ориентированные языки
• Функциональные языки
• Гибридные языки программирования

Все не заладилось с самого начала…
Архитектура фон Неймана

Универсальный вычислитель…
Машина Тьюринга

Теорема Гёделя о неполноте…

Управление сложностью
- инкапсуляция (все лишнее – скрыто
поглубже)
- абстракция (сложное становится простым,
фасады)
- иерархии абстракций
- большое количество автотестов

Haskell: “Quicksort”
А могло же быть так: просто и сексуально

Чем все закончилось…
• Человечество – просиживает в соцсетях, в онлайн-играх и на
сайтах для взрослых
• Настоящее программирование – требует сильного
напряжения ума и, желательно, знания математики
• Взрослые люди – не хотят учиться, а это нужно для успеха в IT
• Языки программирования – создаются методом копирования
идей, борьба за разработчиков
• Думать и учить логически строгие ЯП типа Haskell - никто не
хочет

Войны технологий – усугубляют сложность
• Вместо сотрудничества – конкуренция на рынке
• Вместо «развития» языков (Scala, Rust), отмечается
«межвидовая мутация» (Node.js) и параллельное
изобретение велосипедов
• Масштабные религиозные войны: Java vs C#, PHP vs Python vs
Ruby
• Войны фреймворков: Angular vs React JS
• “Зачем делать просто, если можно сложно?”

Alexandr Serbul "The Rust language for a high-load network service - a quick start and fast flight"

«Шовинизм» в программировании
•Вы писали 5 лет на PHP… Но почему, за деньги
чтоль? – на работу не беру
•Вы только байтики умеете на C гонять? – в нашу
компанию вы не подходите
•Только Java/Spring, только своих… - и пофиг на
скорость, качество, результат
•С#/Windows forever
•Гошечка, милая гошечка…

Докладчик сошел с ума 
Все свободны.
Спасибо за внимание!

Выразительность языков программирования
С – переносимый
ассемблер
С++ - много мелких тонкостей и
«дыр», большое и противоречивое
наследство
Ассемблер
Java
Erlang
C#Scala Kotlin
Haskell
Akka/JVM
F#
Go
PHP
Groovy
Python
Ruby
Java ScriptLua

PHP
Выразительность языков программирования
С – переносимый
ассемблер
С++ - много мелких тонкостей и
«дыр», большое и противоречивое
наследство
Ассемблер
Java C#Scala Kotlin
Groovy
Python
Ruby
Java ScriptLua
Go
Rust Erlang
Haskell
Akka/JVM
F#

Выразительность в Rust
• Zero-cost (!) абстракции: итераторы, фильтры, мап-редьюсы …
• Автовывод типов
• Нет NULL, даже как концепции
• Алгебраические типы данных (ADT)
• Надежный pattern-matching по ADT
• Защита от «опасных» операций с массивами, числами (переполнения …);
“panic!”
• Компилятор дает надежные гарантии безопасности при работе с памятью
и автоматически освобождает ее – нет сборщика мусора
• Очень мощный и строгий макро-язык
• Нельзя напороться на «Undefined Behavior» (кроме как в unsafe
режиме, но это нужно прямо постараться)

Управление памятью
С
С++
Ассемблер
Java
Erlang
PHP
C#Scala
Kotlin
Groovy
Haskell
Python Ruby
Java ScriptLua
Akka/JVM
F#
Go

Управление памятью
С
С++
Ассемблер
Java
Erlang
PHP
C#Scala
Kotlin
Groovy
Haskell
Python Ruby
Java ScriptLua
Akka/JVM
F#
Go Rust

Управление памятью в Rust
•Владение объектами (ownership)
•Передача объектов между функциями (move) и
автоматический вызов «деструкторов» когда «пора»
•Заимствование объектов (borrowing) при передаче
по ссылке, в функции, ссылочная целостность
•Slices, lifetimes
•No dangling references

Как быстро понять Rust
и его сравнение
с другими ЯП

Философии
• Python
• JavaScript/Node.js
• TypeScript
• PHP
• Java/C#
• Scala/Kotlin
• C/C++
• Haskell/ML
• Rust

Как набить руку в Rust
• “Rust by example”: https://doc.rust-lang.org/stable/rust-by-example/
• “The Book”: https://doc.rust-lang.org/book/
• “The Rustonomicon”: https://doc.rust-lang.org/nomicon/
Первые 2 ссылки лучше пройти с руками в консоли 2-3 раза и
потом все открывается и дальше легко.
Самое непривычное для понимания: аффинные типы данных,
алгебраические типы данных. Полезен опыт изучения FP.
Последняя ссылка самая сложная и тяжелая, но ее можно … не
читать 

Владение – копирование запрещено

Владение – копирование разрешено

Аффинные типы данных - проникли гораздо
глубже
• Концепции: ownership, move, borrowing – активно
применяются в многопоточном программировании и в
других местах (итераторы и др.)
• Забыть освободить Mutex – невозможно, не скомпилируется

• Поработать с инвалидированным итератором – невозможно,
не скомпилируется 
• Появилось больше времени на решение бизнес-задач

Начало работы с Rust
• «Непробиваемый» компилятор
• Rust-plugin IntelliJ IDEA

Сборка бинарника

Менеджмент проекта, toolchain
• Cargo.toml
• Cargo.lock
• “cargo build --release”
• “rustup update”

Автотестирование
• Unit tests
• Integration tests
• “cargo test”

Unsafe Rust
И да, сторонние пакеты из Cargo могут содержать блоки «unsafe» и вызывать неопределенное поведение, но это случается на
порядки реже, чем в связках python/c++ и т.п.

Итоги «плюшек» в Rust
• Пишешь быстро, как на python/php – автовывод типов
• Очень строгая типизация без NULLs с ADT/PM* – а не как
структурная в Golang/TypeScript или слабая динамическая в
PHP/JS или «строгая»-динамическая в Python
• Мощные гарантии компилятора: безопасная работа с
памятью, авто-очистка памяти
• Нет неопределенного поведения и прочих сюрпризов –
«безопасный» язык, как Python/PHP**
• Скорость как у C/C++!
* - алгебраические типы данных/сопоставление по шаблону
** - сюрпризы возможны в unsafe-режиме языка, но их на порядки меньше

Как мы развивали
архитектуру проекта:
от bash-forks до rust/tokio

Пуши - технологии
• Apple Push Notification service (APNs) - June 17, 2009; >=
iOS 3.0, >= OS X v10.7 (Lion); max message - 256 B
https://developer.apple.com/notifications/
• Google Cloud Messaging for Android (GCM) –
June 27, 2012; >= Android 2.2; max message - 4 KB
http://developer.android.com/google/gcm/
ранее - Android Cloud to Device Messaging (C2DM)

Идеи в основе архитектуры
1. Провайдер регистрируется в APNs, GCM и получает
клиентский SSL/TLS-сертификат (ключ и т.п.)
2. Провайдер обслуживает запросы многих мобильных
приложений и идентифицирует себя в APNs, GCM с
помощью сертификата
• Нам нужно поддерживать 10к – 100к и больше мобильных
приложений

Провайдер 1,
Приложение
Провайдер N,
Приложение
«Супер» Провайдер
Клиентские SSL/TLS
сертификаты, ключи

APNS - протокол
• Бинарный протокол
• 2 формата: простой и расширенный
• Пишем/читаем SSL/TLS сокет
• Возвращает инфу о невалидных токенах устройств

GCM - протокол
• JSON/plain text
POST -> https://android.googleapis.com/gcm/send
Запрос:
Content-Type:application/json
Authorization:key=*aSyB-1uEai2WiUapxCs2Q0GZYzPu7Udno5aA
{
"registration_ids" : ["APA91bHun4MxP5egoKMwt2KZFBaFUH-1RYqx..."],
"data" : {
...
},
}
Ответ:
{ "multicast_id": 108,
"success": 1,
"failure": 0,
"canonical_ids": 0,
"results": [
{ "message_id": "1:08" }
]
}

Универсальный транспорт
Пакет BCM
Октеты в base64.
TWFuIGlzIGRpc3;2;NoZWQsIG5vdC;1;
ZXZlcmFuY2Ugb2YgZ…;3;…
[0-9]{1} – переключатель
формата: GCM, APNs …
Push-сообщение
Raw bytes, Json, txt, xml, …
SSL/TLS
клиентский
сертификат
APNS,
Ключ GCM

nginx
Идентификация и проксирование
сообщения в SQS
PHP-процесс
Long Pooling, получение и парсинг сообщения,
отправка Push на устройство
PHP-процесс
PHP-процесс
nginx
nginx
Итоговая архитектура (2013)

Недостатки архитектуры
• Синхронная работа с сокетами при отправке push-
уведомлений в GCM/APNs
• За счет скриптовых языков – высокая нагрузка на CPU
1) Итерация 1: PHP форкает системный процесс отправки push
2) Итерация 2: PHP начал работать с сокетами сам
Нагрузка:
до 1000 SQS-сообщений в секунду
до 1000-15 000 отправляемых пуш-уведомлений в секунду

Нагрузка, железо
Нагрузка:
до 1000 SQS-сообщений в секунду
до 1000-15 000 отправляемых пуш-уведомлений в секунду
• На PHP кластер жил за 6-8 серверах с 16-32 CPU и 16-32 ГБ ОЗУ и нагрузка
постоянно росла
• На Rust - нагрузку пушей Битрикс24 держит один сервер 4 CPU 8 ГБ ОЗУ
(процесс, он один, занимает 3.5 ГБ в ОЗУ)
TCP - не кешируются, ключи на диске - не кешируются. Это еще сильнее
снизит нагрузку.

Проект на Rust - обзор
• Стандартные зависимости в Cargo
• Сетевая асинхронная “монадическая” библиотека с корутинами – Tokio
• Немного танцев с бубнами с TLS, но исходники помогли быстро
• При росте нагрузки резко начались segfaults, но быстро полечились через
увеличение ulimit ОС, видимо, наступили на ограничение стека на
процесс и наступала нирвана
• Никаких проблем, падений, анализов coredump
• Никаких утечек памяти, Rust использует стандартные: malloc или jemalloc
или можно выбрать
• Никаких тюнингов GC и нагрузок от сборщика мусора 

Проект на Rust - обзор

Проект на Rust - тесты
• Сразу пишутся тесты
• За счет ADT/PM, отсутствия NULLs, Enums
– тесты больше занимаются делом
• В самом языке много вкусных
функциональных библиотек с Zero-cost
abstraction (итераторы, диапазоны,
фильтры, мап-редьюсы)
• В Tokio тоже монадически-
функциональный подход

Проект на Rust – Pattern Matching

Проект на Rust – присваивание из PM

Проект на Rust – “Option” monad

Проект на Rust – TCP monads

Проект на Rust – monadic network error handling

Zero-cost - функциональщина

ООП? Traits!
• Развитого ООП, как в
Java/C# - нет и не
планируется. А зачем?
• Структурки и методы,
навешанные на них
• Но за счет строгой
типизации, ADT/PM,
аффинных типов и
сильных гарантий
компилятора – этого
хватает

А что если взять …
•Node.js
•Python – корутины
•Golang - горутины
•Java/Netty
•Erlang
•Haskell
•С++

Итоги
• Rust только кажется сложным. За сложностью скрывается строгость,
простота и элегантность
• Язык привносит несколько очень мощных и непривычных концепций,
направленных на надежное программирование, в т.ч. системное
• Компилятор дает очень высокие гарантии по работе с памятью и многие
другие (переполнения, доступ за пределы массива …) и его нужно
«преодолевать»
• На языке легко писать, причем быстро и сразу без ошибок
• Алгебраические типы данных, строгий pattern-matching и отсутствие NULLs
хорошо структурируют код и сильно ускоряют разработку
• В Cargo «из коробки» много готовых модулей, бери и используй
• Скорость решения сравнима с C, потребление ОЗУ без сборщика мусора
минимально.

Спасибо за
внимание!
Вопросы?
Александр Сербул
@AlexSerbul
Alexandr Serbul
serbul@1c-bitrix.ru

Alexandr Serbul "The Rust language for a high-load network service - a quick start and fast flight"

Recommended

More Related Content

What's hot (20)

Similar to Alexandr Serbul "The Rust language for a high-load network service - a quick start and fast flight" (20)

More from Fwdays (20)

Alexandr Serbul "The Rust language for a high-load network service - a quick start and fast flight"