M9K blog: заметки с тегом linux

Как временно расширить ZFS-пул с помощью zvol из другого пула

Tue, 21 Jul 2026 09:36:32 +0000

Иногда ZFS-пул оказывается заполнен почти полностью, но переносить данные на другой файловый раздел неудобно или слишком долго.

Было два независимых пула:

zpool list

NAME    SIZE  ALLOC   FREE  FRAG  CAP  HEALTH
db     11.7T  8.99T  2.71T   18%  76%  ONLINE
limon  79.5G  77.0G  2.46G   90%  96%  ONLINE

Пул limon закончился, а в пуле db оставалось несколько терабайт свободного пространства.

Требовалось временно дать пулу limon около 10 ГБ, очистить логи и затем вернуть конфигурацию в исходное состояние.

Почему нельзя просто передать свободное место?

Свободное пространство принадлежит конкретному ZFS-пулу. Датасет одного пула не может непосредственно использовать место из другого пула.

Топология исходного пула

Пул limon состоял из одного раздела:

zpool status limon

pool: limon
state: ONLINE
config:

    NAME        STATE     READ WRITE CKSUM
    limon       ONLINE       0     0     0
      sdd1      ONLINE       0     0     0

Для последующего удаления временного vdev необходимо проверить поддержку функции device_removal:

zpool get feature@device_removal limon

В моём случае функция была включена:

NAME   PROPERTY                VALUE    SOURCE
limon  feature@device_removal  enabled  local

Также необходимо определить фактическое значение ashift существующего vdev.

Команда:

zpool get ashift limon

может показать:

limon  ashift  0  default

Значение 0 означает автоматический выбор для новых устройств и не показывает фактический ashift уже существующего vdev.

Реальное значение можно получить через zdb:

zdb -C limon | grep -E 'path|ashift'

Результат:

path: '/dev/sdd1'
phys_path: 'acpi-VMBUS:01-vmbus-3d4511ba2bac43a19298b9d3bddf7b27-lun-2'
ashift: 12

Таким образом, временный vdev тоже нужно добавлять с ashift=12.

Важное предупреждение

Описанный способ создаёт зависимость одного ZFS-пула от другого.

Пока временный zvol входит в пул limon:

пул db нельзя экспортировать;
zvol нельзя удалить;
сервер нельзя загружать без доступного пула db;
потеря пула db может привести к потере всего пула limon
Это аварийная временная мера, а не постоянная архитектура хранения.

Создание временного zvol

Чтобы не повторять изменяемые значения в командах, зададим переменные:

POOL_SOURCE="db"
POOL_TARGET="limon"
ZVOL_NAME="limon-temp-vdev"
ZVOL_SIZE="10G"
ZVOL_DATASET="${POOL_SOURCE}/${ZVOL_NAME}"
ZVOL_DEVICE="/dev/zvol/${ZVOL_DATASET}"
ASHIFT="12"
VOLBLOCKSIZE="16K"

Создаём обычный, неразреженный zvol:

zfs create -V "${ZVOL_SIZE}" -b "${VOLBLOCKSIZE}" -o compression=off "${ZVOL_DATASET}"

Проверяем созданный zvol:

zfs get volsize,volblocksize,refreservation,compression "${ZVOL_DATASET}"

Проверяем наличие блочного устройства:

udevadm settle
ls -l "${ZVOL_DEVICE}"
blockdev --getsize64 "${ZVOL_DEVICE}"

У обычного zvol параметр refreservation должен быть примерно равен его размеру. Это гарантирует, что необходимые 10 ГБ действительно зарезервированы в пуле db.

Проверка добавления без изменения пула

Сначала выполняем пробный запуск:

zpool add -n -o ashift="${ASHIFT}" "${POOL_TARGET}" "${ZVOL_DEVICE}"

В предполагаемой конфигурации исходный диск и временный zvol должны находиться на одном уровне:

limon
sdd1
/dev/zvol/db/limon-temp-vdev

Добавление временного пространства

Если пробная проверка не показывает ошибок, добавляем zvol:

zpool add -o ashift="${ASHIFT}" "${POOL_TARGET}" "${ZVOL_DEVICE}"

После этого проверяем состояние:

zpool status -P "${POOL_TARGET}"zpool list "${POOL_TARGET}"
zfs list "${POOL_TARGET}"

Дополнительно проверяем ashift обоих vdev:

zdb -C "${POOL_TARGET}" | grep -E 'path|ashift'

Оба top-level vdev должны иметь ashift=12. Разный ashift может помешать последующему удалению временного устройства.

После добавления zvol пул limon получит немного меньше 10 ГБ полезного пространства из-за внутренних накладных расходов ZFS.

Удаление временного vdev

Сначала проверяем возможность удаления:

zpool remove -n "${POOL_TARGET}" "${ZVOL_DEVICE}"

Параметр -n не выполняет полноценную симуляцию переноса данных. Он используется для оценки параметров операции, включая необходимый объём памяти для таблиц перенаправления.

Если ошибок нет, запускаем удаление с ожиданием завершения:

zpool remove -w "${POOL_TARGET}" "${ZVOL_DEVICE}"

Во время удаления ZFS переносит блоки с временного zvol обратно на исходный диск sdd1.

За процессом можно наблюдать в другом терминале:

watch -n 5 "zpool status ${POOL_TARGET}; zpool list ${POOL_TARGET}"

До полного завершения операции нельзя:

уничтожать zvol;
экспортировать пул db;
отключать устройство;
перезагружать систему без необходимости.

После успешного удаления проверяем, что в пуле остался только исходный vdev:

zpool status -P "${POOL_TARGET}"

В конфигурации должен снова отображаться только sdd1.

Удаление временного zvol

Только после успешного завершения zpool remove можно уничтожить zvol:

zfs destroy "${ZVOL_DATASET}"

Финальная проверка:

zpool status "${POOL_TARGET}"
zpool list "${POOL_TARGET}"
zfs list "${POOL_SOURCE}" "${POOL_TARGET}"

В терминале Linux пропал текст? Верните echo

Tue, 21 Jul 2026 08:40:59 +0000

Иногда терминал продолжает принимать команды, но перестаёт показывать вводимый текст. Печатаешь вслепую, нажимаешь Enter — команда выполняется. Выглядит как поломка терминала, но чаще всего просто отключён режим отображения ввода.

Вернуть его можно одной командой:

stty echo

После этого символы снова будут отображаться при вводе.

Обычно echo отключается после некорректно завершившейся программы, которая временно скрывала ввод — например, при запросе пароля. Если терминал выглядит совсем странно, можно выполнить более радикальный сброс:

stty sane

Скучная банальность, но именно такие мелочи особенно приятно случайно узнать после нескольких минут печати в пустоту.

ID Docker контейнеров — максимальных потребителей SWAP в Linux

Mon, 27 Apr 2026 02:48:52 +0000

for pid in $(ls /proc | grep -E '^[0-9]+$'); do     swap=$(grep VmSwap /proc/$pid/status 2>/dev/null | awk '{print $2}');          if [[ -n "$swap" && "$swap" -gt 0 ]]; then         cmd=$(tr '\0' ' ' < /proc/$pid/cmdline);          cgroup=$(cat /proc/$pid/cgroup 2>/dev/null);
        container_id=$(echo "$cgroup" | grep -Eo '[a-f0-9]{64}' | head -n1);
        if [[ -z "$container_id" ]]; then             container_id=$(echo "$cgroup" | grep -Eo 'docker-[a-f0-9]+' | sed 's/docker-//' | head -n1);         fi;          echo -e "$swap KB\tPID: $pid\tCID: ${container_id:-host}\tCMD: $cmd";     fi; done | sort -nr | head

Linux Passwordless oneliner

Mon, 25 Aug 2025 10:44:17 +0000

TARGET=user@host; PORT=22; [[ -r ~/.ssh/id_ed25519.pub ]] || ssh-keygen -t ed25519 -N "" -f ~/.ssh/id_ed25519; ssh -p "$PORT" "$TARGET" 'umask 077; mkdir -p ~/.ssh && cat > ~/.ssh/authorized_keys' < ~/.ssh/id_ed25519.pub && ssh -p "$PORT" "$TARGET" 'echo ">>> Root доступ подтверждён"'

CouchDB, Debian, AstraLinux, Docker и все-все-все

Thu, 14 Aug 2025 10:40:09 +0000

Возникла необходимость запустить Couchdb в контейнере, где базовая ось (и базовые же пакеты) должны быть очень-очень свежими, в противной случай контейнер не проходит встроенную проверку на безопасность.
Стандартный официальный образ собран на базе Debian 12.

FROM debian:bookworm-slim

Простая замена базового образа на

FROM debian:trixie-slim

приводит к тому, что контейнер не собирается по зависимостям.
Смотрим официальную репу в части зависимостей и видим прекрасное — libmozjs-78-0 (>= 78.15.0). Пробуем ставить свежую версию, которая есть в репах — не помогает, пакет couchdb принципиально требует libmozjs-78-0.

Ок, скрещиваем ежа и ужа.

У debian есть механизм apt-pinning. Это механизм, позволяющий задать приоритеты для версий пакетов из разных источников (репозиториев, release-веток, PPA), чтобы фиксировать версию, запрещать обновление или предпочитать конкретный источник.

Коротко приоритеты делятся на:

< 0 — никогда не устанавливать.
1..99 — ставить только при явном указании версии.
100 — приоритет уже установленной версии.
500 — дефолт для неприоритетных источников.
990 — приоритет для целевого релиза (-t), либо если явно указан release.
>1000 — разрешает понижение версии (downgrade) к закреплённой.

Добавляет в наш Dockerfile:

RUN echo "deb http://deb.debian.org/debian bookworm main" > /etc/apt/sources.list.d/bookworm.list && \
    echo "Package: *\nPin: release n=bookworm\nPin-Priority: 500" > /etc/apt/preferences.d/bookworm && \
    echo "Package: *\nPin: release n=trixie\nPin-Priority: 600" > /etc/apt/preferences.d/trixie && \
    echo "deb [signed-by=/usr/share/keyrings/couchdb-archive-keyring.gpg] https://apache.jfrog.io/artifactory/couchdb-deb/ bookworm main" \
            > /etc/apt/sources.list.d/couchdb.list && \
    apt-get update

Основная часть пакетов ставится из свежей репы, часть, которых в ней нет — из старых.

Curl over ssh-tls-tunnel

Thu, 14 Aug 2025 10:21:23 +0000

Есть ресурс resource.name, на который нужно ходить curl-ом с засылкой данных через JSON. Специфика ресурса такова, что он принимает соединения через TLS 1.3.
Есть сервер A server.name, на котором нет выхода на нужный ресурс, но есть Nginx, и есть ssh-доступ до сервера B
Есть сервер B, на котором есть выход на нужный ресурс, но сам сервер очень старый, и TLS на нём не проходит по требования resource.name.

printf '' | openssl s_client -connect 127.0.0.1:8443 -servername resource.name -tls1_3 -brief

Костылим:
На сервере A поднимаем туннель на внутренний порт:

ssh -fN -o ExitOnForwardFailure=yes -o ServerAliveInterval=60 -o ServerAliveCountMax=3 -L 8443:resource.name:443 user@serverB

На Nginx рисуем конфиг:

server {
        listen 9090;
        server_name         server.name;

        access_log  /site/logs/nginx/port_9090.log  main;
        error_log   /site/logs/nginx/port_9090.error.log;

location / {
        proxy_pass https://127.0.0.1:8443;

        proxy_set_header Host resource.name;
        proxy_ssl_server_name on;
        proxy_ssl_name resource.name;
        proxy_ssl_protocols TLSv1.3;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto https;
        proxy_connect_timeout 10s;
        proxy_read_timeout 60s;
        proxy_ssl_verify off;
}
}

Кидаемся тестовым запросом:

curl -v -X POST 'http://server.name:9090/resource' -H 'Content-Type: application/json' --data '{"login":"$LOGIN","password":"$PASSWORD"}'

Unzip без unzip

Thu, 14 Aug 2025 10:07:44 +0000

Есть сервер без выхода в сеть с древней ОС и мёртвыми репами. Нужно распаковать zip-архив — но утилиты нет.
Решаем вопрос python-ом:

python - <<'EOF'
import zipfile, os
archive = 'archive.zip'
target_dir = 'archive.zip'

if not os.path.exists(target_dir):
    os.makedirs(target_dir)

with zipfile.ZipFile(archive, 'r') as z:
    for name in z.namelist():
        z.extract(name, target_dir)
EOF

Перечитывание топологии диска в ВМ после расширения его в гипервизоре

Tue, 08 Apr 2025 08:04:53 +0000

echo 1 > /sys/class/scsi_device/0:0:0:0/device/rescan

ZFS на Oracle Linux 8.10

Thu, 06 Mar 2025 10:29:29 +0000

При установке ZFS на Oracle Linux 8.10 по официальной доке столкнулся с неочевидной ошибкой:

checking for kernel config option compatibility... done
checking whether CONFIG_MODULES is defined... no
configure: error:
*** This kernel does not include the required loadable module
*** support!
***
*** To build OpenZFS as a loadable Linux kernel module
*** enable loadable module support by setting
*** `CONFIG_MODULES=y` in the kernel configuration and run
*** `make modules_prepare` in the Linux source tree.
***
*** If you don’t intend to enable loadable kernel module
*** support, please compile OpenZFS as a Linux kernel built-in.
***
*** Prepare the Linux source tree by running `make prepare`,
*** use the OpenZFS `—enable-linux-builtin` configure option,
*** copy the OpenZFS sources into the Linux source tree using
*** `./copy-builtin `,
*** set `CONFIG_ZFS=y` in the kernel configuration and compile
*** kernel as usual.

Объяснение и решение проблемы нашёл тут

The root of the problem is with the GCC toolset used to build UEK7 kernel, which is different from the one used to build Redhat compatible version. RH kernel is built (using the default) GCC.

Решение:

dnf install -y gcc-toolset-11-annobin-plugin-gcc
. /opt/rh/gcc-toolset-11/enable
dkms install zfs/$VERSION

Python 2.7 на Debian 12

Thu, 06 Mar 2025 10:22:59 +0000

Потребовалось старым Ansible выполнить скрипты на свежайщем Debian 12. Столкнулся с тем, что в дистрибутиве окончательно выпилили поддержку Python 2.7. Пришлось сотворить Франкенштейна:

Добавляем в /etc/apt/sources.list:

deb http://archive.debian.org/debian/ stretch contrib main non-free

Обновляемся

sudo apt-get update

Делаем установку

sudo apt-get install python2.7

Делаем симлинк на бинарь

cd /usr/bin &&  ln -s python2.7 python

Удаляем добавленное в п.1 и повторно делаем пункт 2.

Основной потребитель swap на Linux-серверах

Tue, 04 Mar 2025 02:45:41 +0000

for file in /proc/*/status ; do awk '/VmSwap|Name/{printf $2 " " $3}END{ print ""}' $file; done | sort -k 2 -n -r | less

Взято отсюда

SED удалить комментарии из XML

Mon, 24 Feb 2025 04:28:21 +0000

Возникла задача сравнить два XML-файла конфигурации Clickhouse для выяснения, что же в ней не так. Беда конфигурации в том, что она содержит прям какое-то совершенное безумное количество закомментированных параметров, и сравнение «в лоб» превращается в муку. Почистим файлы SED-ом:

cat config.xml | sed '/<!--.*-->/d' | sed '/<!--/,/-->/d' | sed '/^[[:space:]]*$/d' > config_without_comments.xml

Bombardier

Fri, 24 Jan 2025 15:03:29 +0000

Максимальная простая и удобная тулза для тестирования нагрузки веб-приложений.
GitHub
Пример:

bombardier -c 125 -n 10000000 http://localhost:8080

OpenSSL view cert info

Mon, 15 Jul 2024 03:31:18 +0000

openssl x509 -noout -text -in 'cerfile.cer';

Add NonPassword Sudo to sudoers

Mon, 15 Jul 2024 03:14:19 +0000

echo "$USER ALL=(ALL:ALL) NOPASSWD: ALL" | sudo tee /etc/sudoers.d/$USER

Проверка работы FTPs с использованием сертификатов

Fri, 12 Jul 2024 05:47:00 +0000

curl -3 -k -v --ftp-ssl --tlsv1.2 --ftp-ssl-reqd --ftp-pasv --key client.key --cacert ca.crt --cert client.crt --user $USERNAME ftp://$IP:$PORT

Kerberos kinit: invalid UID in persistent keyring name while getting default ccache

Mon, 15 Apr 2024 05:37:14 +0000

Быстрофикс:

export KRB5CCNAME=`mktemp`

или отредактировать /etc/krb5.conf

[libdefaults]
# ...
# default_ccache_name = KEYRING:persistent:%{uid}
  default_ccache_name = /tmp/krb5cc_%{uid}

Bash Mkdir from list

Mon, 15 Apr 2024 04:56:44 +0000

#!/bin/bash
LIST=(elem1 elem2 elem3)
mkdir "${LIST[@]}"

Docker Service logs

Thu, 24 Nov 2022 02:49:18 +0000

Директории логов сервиса докер для разных ОС:

Ubuntu (old using upstart ) — /var/log/upstart/docker.log,
Ubuntu (new using systemd ) — sudo journalctl -fu docker.service,
Amazon Linux AMI — /var/log/docker,
Boot2Docker — /var/log/docker.log,
Debian GNU/Linux — /var/log/daemon.log,
CentOS — cat /var/log/message | grep docker,
CoreOS — journalctl -u docker.service,
Fedora — journalctl -u docker.service,
Red Hat Enterprise Linux Server — /var/log/messages | grep docker,
OpenSuSE — journalctl -u docker.service,
macOS — ~/Library/Containers/com.docker.docker/Data/log/vm/d‌ocker.log,
Windows — Get-EventLog -LogName Application -Source Docker -After (Get-Date).AddMinutes(-5) | Sort-Object Time.

Удаление файлов в директории по префиксам в цикле

Tue, 27 Oct 2020 15:11:27 +0000

Задача: удалить файлы в директории, содержащие определённый префикс, кроме последних N новых.

#!/bin/bash
name=(prefix1_*.type prefix2_*.type prefix3_*.type)
path="/home/test"
for value in "${name[@]}" 
do 
find "$path" -maxdepth 1 -type f -name "$value" | sort -rn | tail -n +6 | xargs rm -rf;
done