Что такое распределенная система
В компьютерных системах принято говорить о двух моделях конкуррентного выполнения:
- Shared-memory concurrency: потоки программы исполняются на одном компьютере и экземпляре ОС, имеют доступ к общему адресному пространству памяти. Общий доступ к данным облегчает конкуррентное выполнение, для координации используются locks, semaphores, или атомарные инструкции вроде compare-and-swap.
- Distributed systems - координация между компьютерами, у каждого своя ОС и своя память. Коммуникация осуществляется сообщениями по сетевому каналу.
Распределенная система обладает свойствами:
- Содержит в себе множество узлов (nodes) - это могут быть компьютеры, серверы, телефоны
- Эти узлы связываются через ненадежный сетевой канал
- Эти узлы выполняют общую задачу
Преимущества распределенных систем
Основная идея существования распределенных систем в том, чтобы иметь возможность выдержать отказ в какой-либо части этих систем с продолжением ее работы.
Несколько преимуществ, присущих распределенной системе:
- Надежность. Хорошо спроектированная распределенная система более надежна. Мы можем перенести перезагрузку узла или его выход из строя без остановки работы системы.
- Доступность. Если система обслуживает пользователей по всему миру, к одному ее серверу у людей будет разная скорость доступа. Серверы распределенной системы могут размещаться по миру, обеспечивая более быстрый доступ.
- Производительность. Некоторые задачи обработки данных попросту слишком большие для выполнения на одном компьютере. Участники распределенных систем совмещают мощности и делят между собой задачи.
Сбои в распределенных системах
В теории распределенных систем проблема в системе (отказ сети, краш процесса или целого узла) называется fault. Причем отказ зачастую является недетерминированным из-за особенностей среды.
Одна из главных задач в теории распределенных систем - это сделать их отказоустойчивыми (fault tolerant). Владение теорией распределенных систем может помочь на практике избежать потенциальных багов и сбоев, которые могут приводить к большим потерям данных.
Также одной из практических целей распределенных систем - убедиться, что система полноценно выдает нужную производительность, особенно по мере расширения и увеличения нагрузки (scalabiliy).
Сеть в распределенных системах
В теории распределенных систем исследователи абстрагируются от деталей сети. Для системы это все «байты, посылаемые по проводу». Коммуникация абстрагируется для нужд изучения - есть две ноды, между ними канал для сообщений.
Что действительно важно и нужно понимать о канале между участниками системы, так это:
- latency - задержка, временная разница между отправкой и получением сообщения
- bandwidth - пропускная способность канала, объем данных за определенный юнит времени
О надежности сетевых каналов в теории распределенных систем можно рассуждать на примере протокола TCP. Он считается надежным, так как по своей механике устанавливает соединение перед передачей сообщения, в ходе транспорта он может переотправить утерянные пакеты и собрать их в нужном порядке на другой стороне.
Но если кто-нибудь выдернет наш Ethernet-кабель и при передаче будет потеряно слишком много пакетов, TCP завершит работу и вернет timeout error. То есть налицо ненулевая вероятность ошибки при передаче сообщения, и тогда с точки зрения теории распределенных систем TCP уже не такой «надежный».
Доступность системы и fault tolerance
Доступностью системы (uptime) называют отношение времени доступности сервиса к общему времени.
▶ “Two nines” = 99% up = down 3.7 days/year
▶ “Three nines” = 99.9% up = down 8.8 hours/year
▶ “Four nines” = 99.99% up = down 53 minutes/year
▶ “Five nines” = 99.999% up = down 5.3 minutes/year
SLO - это цель доступности сервиса. SLA - это конкретное соглашение в форме контракта, которое фиксирует SLO и наказание за его недостижение.
Доступность системы может достигаться разными способами. Мы можем закидывать один хост железными мощностями, но риск его падения все равно далеко не нулевой. Fault tolerance стремится обойти такие риски через распределение работы между узлами системы. Это, кстати, позволяет делать rolling upgrades без остановок сервиса.
Fault tolerance - это свойство системы, при котором она как целое может работать даже с некоторым числом faults.
SPOF (single point of faiure) - в теории распределенных систем обозначает единую точку отказа. Ситуацию, когда отказ одной ноды или одного канала связи ведет к отказу всей системы.
У высокой доступности есть экономическая сторона и рациональность. Большие телефонные государственные линии спроектированы так, чтобы быть доступными на «пять девяток», но за десятилетия они почти не эволюционируют - они очень неповоротливые, а модернизация дорогая. Большинству систем, скорее всего, будет непрактично держать доступность выше «трех девяток», потому что возврат инвестиций от задач по достижению такой доступности кратко снижается.
Пример - Remote Procedure Calls (RPC)
Протокол RPC является примером внедрения распределенности в работу программ. Код на одном узле вызывает функцию на другом узле, не имея у себя ее непосредственной реализации.
Фреймворк через stub объявляет функцию, но вместо ее непосредственного исполнения выполняет кодирование аргументов (marshalling, чаще всего в форме JSON) и отправляет на удаленный узел для исполнения. На другой стороне происходит unmarshalling, исполнение, marshalling, и затем отправка ответа. Программа же считает это обычным вызовом локальной функции.
RPC играет важную роль в современных системах и является одной из основных частей микросервисной архитектуры, суть которой заключается в дроблении больших приложений на небольшие сервисы, которые связывают между собой посредством RPC. Такие сервисы можно масштабировать независимо друг от друга, достигая масштабируемости и надежности конкретных функций, облегчая rolling updates.
Преимущество RPC в его прозрачности. Удаленный вызов исполняется, как локальный - программа даже не знает, что связывается с кем-либо еще по сети. На практике это обещание прозрачности выполнить нельзя, потому что канал связи, как известно, ненадежный. Это добавляет массу сложностей и проблем в реализацию RPC. Например, что нам надо делать, если сообщение не доставлено? Можем ли мы переотправить вызов, идемпотентный ли он, что уже успело пройти на другой стороне, сколько попыток мы можем предпринять?