НОВОСТИ Простое создание Kubernetes-операторов с shell-operator: прогресс проекта за год

[Alvaros]

Kubernetes-операторы — удобный механизм для расширения возможностей этой контейнерной платформы, по праву снискавший широкое признание в среде инженеров эксплуатации и им сочувствующих. О том, как они устроены и работают, мы

You must be registered for see links

в уже далёком 2017-м. А в апреле прошлого года мы

You must be registered for see links

Open Source-проект

You must be registered for see links

, который значительно упростил процесс создания Kubernetes-операторов.

Для этого был разработан фреймворк, позволяющий запускать произвольные скрипты (на Bash, Python и т.п.) в случае наступления определённых событий в K8s-кластере.

За минувшее время shell-operator обрёл свою пользовательскую базу (см. подробности в конце статьи) и, конечно, новые возможности. По случаю недавнего релиза

You must be registered for see links

(о бета-статусе см. дальше) мы решили рассказать о том, к чему проект пришёл за время своего существования, с момента анонса первой публичной версии.

Об устройстве и назначении


Но начнем с краткого пояснения, как работает shell-operator и для чего в принципе он может понадобиться.

Shell-operator запускается в pod’е Kubernetes-кластера. Он представлен там как:

• Go-бинарник, который подписывается на события в K8s API и запускает хуки (передавая им подробности о случившемся);
• набор хуков, каждый из которых — скрипт на Bash, Python или любой другой исполняемый файл.

Хуки:

• сами определяют, какие события и для каких объектов им нужны;
• выполняют необходимые действия в случае наступления этих событий в K8s.

Таким образом, shell-operator — это прослойка между событиями в Kubernetes API и скриптами для их обработки.

Зачем вообще был создан shell-operator? Операторы — это стандарт для «правильной автоматизации» в рамках Kubernetes, однако их полноценная разработка (на Go с привлечением

You must be registered for see links

) не так проста. Наличие такого простого фреймворка, как shell-operator, значительно снижает порог вхождения в эту область, позволяя быстро и эффективно решать небольшие эксплуатационные задачи* внутри кластера. И, что не менее важно, делать это правильным путём.

О каких задачах идёт речь? Готовые примеры использования shell-operator можно найти в

You must be registered for see links

. У нас же, в компании «Флант», мы его применяем как библиотеку (да, так тоже можно было!). Он стал основой для

You must be registered for see links

, управляющего дополнительными компонентами в Kubernetes.

NB: Анонс этого Open Source-проекта (addon-operator) можно найти

You must be registered for see links

. А в докладе «

You must be registered for see links

» мы подробно рассказывали о причинах его появления, взаимосвязи с shell-operator и принципах функционирования.

Теперь — о главных изменениях, представленных в shell-operator за последний год.

Основные новшества


В первых версиях shell-operator для хука был доступен только один объект — тот, который связан с событием от кластера. Развитие хуков, используемых в рамках addon-operator, привело к тому, что хук подписывался на изменение объекта, но вызывал kubectl чтобы получить актуальный список других объектов. Чтобы убрать лишние вызовы kubectl и тем самым ускорить работу хуков, реализовано несколько возможностей получить доступ к актуальным спискам объектов:

• Режим
  You must be registered for see links
  + Event, когда хук при старте получает список актуальных объектов, а затем работает только с одним объектом. Этот режим включен по умолчанию — можно сказать, что получился аналог
  You must be registered for see links
  из operator-sdk.
• Режим с
  You must be registered for see links
  , когда хук получает полные актуальные списки объектов при каждом запуске. (Snapshot’ы используются для кэширования объектов Kubernetes, используемых в хуках.)
• Режим получения
  You must be registered for see links
  . Может использоваться в случаях, когда хук подписан на разные типы ресурсов, а реагировать на изменения нужно на основе актуальной информации о всех ресурсах независимо от того, что изменилось.
• Также появилась возможность следить за ресурсом, но не реагировать на его изменения, т.е. «накапливать snapshot». Например, хук может реагировать на изменения в
  You must be registered for see links
  и при этом получать актуальный объект ConfigMap без дополнительного вызова kubectl. (Для подробностей см. флаги executeHookOnSynchronization и executeHookOnEvent.)

Другие значительные нововведения:

• Благодаря переходу на использование
  You must be registered for see links
  Kubernetes в shell-operator стало возможным подписываться на любой существующий kind (тип ресурса в Kubernetes API), в том числе и Custom Resources.
• Хуки можно запускать в разных очередях (см. параметр queue). В дальнейшем для диагностики состояния очередей хуков была добавлена
  You must be registered for see links
  .
• Добавлена возможность подписываться на несколько имён ресурсов.
• Появилась подписка с «динамическими пространствами имен», которая позволяет следить за ресурсами в namespace’ах с указанными лейблами.
• Хуки получили возможность экспортировать
  You must be registered for see links
  для их дальнейшего scraping'а Prometheus'ом. Можно указать
  You must be registered for see links
  для этих метрик.
• Добавлен специальный
  You must be registered for see links
  , который упрощает написание хуков на shell.

Менее значимые изменения

• Хук может возвращать конфигурацию в YAML-формате (в дополнение к JSON).
• You must be registered for see links
  логирование в формате JSON на базе
  You must be registered for see links
  (см. LOG_TYPE в
  You must be registered for see links
  ).
• Добавлена настройка listen-address для возможности запуска в режиме hostNetwork: true.
• Появились настройки rate limit (qps, burst) для клиента Kubernetes API.
• Представлен флаг kube-server для указания адреса сервера Kubernetes API.
• Убраны различные блокировки для ускорения параллельной работы хуков.
• Выражения jqFilter теперь выполняются с помощью библиотеки
  You must be registered for see links
  , не требуя запуска отдельного процесса jq.
• You must be registered for see links
  zombie reaper, обрабатывающий сигнал SIGCHLD и устраняющий процессы-сироты, которые могут порождаться Bash-скриптами. Вместо внутренней реализации теперь используется внешняя —
  You must be registered for see links
  .
• Реализованы разные упрощения для подключения shell-operator как библиотеки.
• Обновлена версия kubectl (с 1.13 до 1.17.4) и сделана сборка на основе alpine-3.11.

Статус и планы


Проект shell-operator всё ещё официально имеет статус бета-версии. Несмотря на это, как уже отмечалось выше, мы весьма интенсивно используем его как основу для

You must be registered for see links

— инструмента, который постоянно эксплуатируется во множестве (100+) K8s-кластеров.

Для стабильного релиза shell-operator как публичного проекта мы планируем (как минимум):

• добавить e2e-тестирование (
  You must be registered for see links
  ),
• реализовать мульти-архитектурную сборку (
  You must be registered for see links
  ),
• обновить client-go до 0.18.0, внедрить context и окончательно разобраться с кэшированием объектов в client-go (
  You must be registered for see links
  ).

Признание сообществом


За прошедшее время мы увидели явный интерес сообщества к shell-operator:

• Проект упоминался не только в различных списках полезных утилит для Kubernetes (
  You must be registered for see links
  ,
  You must be registered for see links
  ), но и на специализированных вебинарах (
  You must be registered for see links
  ), митапах (
  You must be registered for see links
  ) и даже в
  You must be registered for see links
  .
• Он нашёл свое практическое применение в реальных проектах (самый интересный из известных нам — это
  You must be registered for see links
  для китайской K8s-платформы KubeSphere). На просторах GitHub можно найти множество простых операторов, реализованных на основе shell-operator (небольшую подборку из них мы приводили
  You must be registered for see links
  ).
• У проекта появились сторонние контрибьюторы: их вклад пока не очень велик, но мы приветствуем всех желающих поучаствовать.
• На
  You must be registered for see links
  собрано 600+ звёзд — конечно, будем рады и новым! ;-)

Спасибо за интерес к shell-operator! Задавайте вопросы, если они у вас появились.

P.S.


Читайте также в нашем блоге:

• «
  You must be registered for see links
  »;
• «
  You must be registered for see links
  »;
• «
  You must be registered for see links
  .