Лекция 2. Инструменты Linux

Инструменты LinuxТерминал, командная строка, обработка текста и диагностика
Вячеслав Федоров
Лекция 2
Разработка и применение ПО
в физических исследованиях
|
Изложение. Вторая лекция раздела о Linux посвящена инструментам повседневной работы: рабочему месту в терминале, основам командной строки, утилитам для поиска файлов и управления сессиями, консольным редакторам, потоковой обработке текста и диагностике системы. Символ на титуле — вертикальная черта конвейера, с помощью которой простые утилиты соединяются в цепочки.
Демонстрации. Слайды с розовым выделением слова «Демонстрация» отмечают места, где изложение прерывается для работы в терминале виртуальной машины lab. На каждом таком слайде справа проигрывается запись тех же команд, снятая на стенде, поэтому демонстрация видна и без живого терминала.

СодержаниеОт рабочего места до поиска неисправностей
01
Рабочее место
02
Командная строка
03
Полезные утилиты
04
Редактирование
05
Обработка текста
06
Диагностика
Изложение. Лекция состоит из шести частей. Сначала рассматривается обустройство рабочего места: слепая печать, эмулятор терминала, шрифт и командная оболочка. Затем — основы командной строки: поиск команд, справка man, управление процессами, перенаправление ввода-вывода и простейшие скрипты. Далее следуют утилиты общего назначения (find, xargs, tmux), консольные редакторы, потоковая обработка текста и, наконец, диагностика системы.

Цель лекцииКомандная строка как основной интерфейс к системе
Скорость повседневной работы определяется тем, какая доля действий выполняется командами, а не вручную: копирование файлов, просмотр журналов и обработка результатов расчётов укладываются в одну строку.
Изложение. Терминал является основным интерфейсом к системе, и от степени владения им зависит скорость всей повседневной работы. Операции, которые в графическом менеджере выполняются вручную и по одной, — копирование групп файлов, просмотр журналов, обработка результатов — в командной строке укладываются в одну команду. Запоминать все команды не требуется: достаточно знать о существовании подходящего инструмента, а подробности приведены в man.
Для физиков: на вычислительном кластере графический интерфейс, как правило, отсутствует, и командная строка является единственным способом работы с расчётами и данными.

Рабочее местоПечать, терминал, шрифт и оболочка
01
Рабочее место
Командная строка
Утилиты
Редакторы
Обработка текста
Диагностика
Изложение. Первая часть посвящена обустройству рабочего места: умению печатать вслепую, выбору эмулятора терминала и шрифта, а также командной оболочке — программе, которая принимает и выполняет команды.

Слепая
печать
01
Скорость набора растёт
02
Ошибок становится меньше
03
Внимание остаётся на экране, а не на клавиатуре
Важно
В первые месяцы после переучивания скорость набора временно снижается.
GNU Typist
консольный тренажёр; уроки и собственные тексты
apt install gtypist
monkeytype.com, keybr.com
онлайн-тренажёры, в том числе на текстах программ со скобками и знаками препинания
Изложение. Первым навыком является умение печатать, не глядя на клавиатуру. Освоение слепой печати занимает около двух недель тренировки; в первые месяцы после переучивания скорость набора временно ниже прежней, затем превышает её, число ошибок снижается, а внимание постоянно остаётся на экране.
GNU Typist (gtypist) представляет собой консольный тренажёр с уроками; он позволяет загружать и собственные тексты. Сайты monkeytype и keybr предлагают тренировку в браузере, в том числе на текстах программ, где часты скобки, точки с запятой и тильды.
Домашнее задание. Прохождение упражнения S3 в gtypist записывается скринкастом; на записи должны быть видны Raw speed, Adjusted speed и процент ошибок.

Эмулятор
терминала
Стандартный терминал, как правило, только отображает текст. Полноценный эмулятор дополнительно поддерживает:
01
вкладки и разделение окна на панели
02
копирование выделением
03
ссылки, открывающиеся по щелчку
04
плагины, темы, прозрачность


СистемаЭмулятор
macOSiTerm2
LinuxTerminator, Kitty, Konsole
Windows 10/11Windows Terminal
WindowsMobaXterm (условно бесплатный; SSH, X-сервер)

Изложение. Терминал, поставляемый в комплекте с системой, как правило, только отображает текст. Установка полноценного эмулятора занимает около получаса и упрощает дальнейшую работу: вкладки и панели позволяют одновременно видеть расчёт, журнал и редактор, а копирование выделением и ссылки по щелчку сокращают число действий. Рекомендации по системам приведены в таблице; для macOS стандартом де-факто является iTerm2.
Домашнее задание. Выбранный эмулятор указывается в отчёте с одной фразой, объясняющей выбор.

Система	Эмулятор
macOS	iTerm2
Linux	Terminator, Kitty, Konsole
Windows 10/11	Windows Terminal
Windows	MobaXterm (условно бесплатный; SSH, X-сервер)

Моноширинные
шрифты
Source Code Pro
0O o 1lI
{}[]() ;:
E = mc^2; x[i] = 0
Inconsolata
0O o 1lI
{}[]() ;:
E = mc^2; x[i] = 0
JetBrains Mono
0O o 1lI
{}[]() ;:
E = mc^2; x[i] = 0
Все символы имеют одинаковую ширину: колонки вывода не смещаются, а ноль и буква O, единица и строчная l различимы. К этой группе относится и Anonymous Pro; сравнение шрифтов приведено на programmingfonts.org.
Изложение. В моноширинном шрифте все символы имеют одинаковую ширину, поэтому колонки, выведенные командой, не смещаются, а отступы в коде различимы визуально. Шрифт, пригодный для терминала, кроме того, делает различимыми сходные по начертанию символы: ноль и заглавную O, единицу, строчную l и заглавную I. На слайде показаны три свободных шрифта; последний, JetBrains Mono, использован и в этой презентации. Сайт programmingfonts.org позволяет сравнить шрифты на одном тексте.

Терминал и
оболочка
Клавиатура и экран
Эмулятор терминала
Псевдотерминал /dev/pts/N
Оболочка bash
Программа ls, grep…
Пояснение
Терминал только отображает символы и передаёт нажатия клавиш. Строку разбирает и выполняет оболочка; приглашение root@lab:~# тоже выводит она.
Для физика
Команды одинаково работают в любом терминале: на ноутбуке, по ssh на кластере и в окне tmux.
Изложение. Терминал и оболочка — разные программы. Эмулятор терминала отрисовывает окно, отображает символы и передаёт нажатия клавиш через псевдотерминал /dev/pts/N. Оболочка (shell) читает строку из псевдотерминала, разбирает её, находит и запускает нужную программу, а затем выводит приглашение для следующей команды. Поэтому смена терминала не меняет поведения команд, а смена оболочки меняет синтаксис.

Командные
оболочки
01
bash
есть почти на любой машине, доступной по ssh; переносимые скрипты пишутся под него
02
zsh
развитое дополнение и плагины, фреймворк Oh My Zsh; оболочка по умолчанию в macOS
03
fish
подсказки и подсветка без настройки; синтаксис несовместим с POSIX sh
Пояснение
Выбор оболочки: при работе со многими удалёнными серверами — bash, на собственной рабочей машине — zsh или fish; скрипты пишутся для bash или POSIX sh.
Изложение. Оболочка представляет собой интерпретатор команд. bash (Bourne-Again SHell) присутствует почти на любой машине, доступной по ssh, поэтому переносимые скрипты пишутся под него. zsh предоставляет развитое дополнение и обширный набор плагинов, настройку упрощает фреймворк Oh My Zsh; с версии macOS 10.15 zsh является оболочкой по умолчанию. fish обеспечивает подсказки по истории и подсветку без дополнительной настройки, но его синтаксис несовместим с POSIX-оболочками: скрипт, написанный для bash, в fish не запустится.

Демонстрация:
оболочка
01
Оболочка текущего сеанса
02
Процесс оболочки: ps -p $$
03
Допустимые оболочки: /etc/shells
04
Псевдотерминал и тип терминала
Что наблюдается
Сеанс обслуживает bash на псевдотерминале /dev/pts/N; в /etc/shells рядом с bash и dash перечислены screen и tmux.
root@lab — запись со стенда
Демонстрация. Все команды выполняются в виртуальной машине lab от имени root (sudo -i). Переменная $SHELL хранит оболочку пользователя, ps -p $$ показывает процесс текущей оболочки ($$ — его PID). Файл /etc/shells перечисляет допустимые оболочки входа: bash, dash, sh, а также screen и tmux; после подготовки стенда к ним добавляются zsh и fish, отсутствующие в записи. Команда tty выводит псевдотерминал сеанса (/dev/pts/N), переменная $TERM — тип терминала, по которому программы определяют доступные цвета и управляющие последовательности.
Запись справа снята на стенде в окне tmux, поэтому $TERM в ней — xterm-256color, а номер псевдотерминала может отличаться от живого показа.

Командная строкаПоиск команд, справка, процессы и потоки
02
Рабочее место
Командная строка
Утилиты
Редакторы
Обработка текста
Диагностика
Изложение. Вторая часть посвящена основам работы в командной строке: поиску и запуску команд, справочной системе man, управлению процессами, перенаправлению ввода-вывода и простейшим скриптам.

Поиск и запуск
команды
ls -l /etc
Разбор: argv = ls, -l, /etc
Проверка встроенных: cd, [, echo
Поиск по $PATH слева направо
execve /usr/bin/ls
Расположение команды:
type cd ls [
which -a python3
which находит только файлы, type — также встроенные команды.


ФлагОбычное значение
-h, --helpкраткая справка
-v, --versionверсия или подробный вывод
-y, -fбез подтверждения
--конец флагов, далее аргументы

Изложение. Команда в оболочке почти всегда является именем исполняемого файла. Оболочка разбивает строку на слова (argv), проверяет, не является ли первое слово встроенной командой (cd, [, echo и другие), и, если нет, ищет файл с таким именем в каталогах из переменной $PATH слева направо. Первый найденный файл запускается системным вызовом execve; сам execve по $PATH не ищет, поиск выполняет оболочка, а найденные пути кешируются (команда hash).
which показывает только файлы, а type — и встроенные команды, и функции, и псевдонимы, поэтому ответ type точнее. which -a выводит все копии команды в $PATH, что позволяет обнаружить собственную сборку, установленную рядом с системной версией.
Флаги команд не стандартизированы жёстко, но существуют соглашения (POSIX Utility Syntax Guidelines, GNU --help и --version): -h или --help выводит справку, -v — версию или подробный вывод, -y и -f отменяют подтверждение, -- отделяет флаги от аргументов.

Флаг	Обычное значение
-h, --help	краткая справка
-v, --version	версия или подробный вывод
-y, -f	без подтверждения
--	конец флагов, далее аргументы

Демонстрация:
поиск команд
01
Каталоги поиска: $PATH
02
Тип команд cd, ls и [
03
Все копии [ в $PATH
04
Исполняемый файл /usr/bin/[
05
Аргументы процесса cron в /proc
Что наблюдается
cd и [ — встроенные команды bash, хотя файл /usr/bin/[ существует; командная строка процесса хранится в /proc/PID/cmdline.
root@lab — запись со стенда
Демонстрация. echo $PATH | tr : '\n' выводит каталоги поиска по одному в строке. type cd ls [ сообщает, что cd и [ встроены в bash, а ls находится в /usr/bin. which -a [ находит два файла, /usr/bin/[ и /bin/[ (в Ubuntu /bin — ссылка на /usr/bin), однако bash их не вызывает, выполняя собственную встроенную команду. ls берёт имя '/usr/bin/[' в кавычки, поскольку оно содержит специальный символ. Последняя команда выводит аргументы процесса cron из /proc/PID/cmdline, где они разделены нулевыми байтами; рядом находится /proc/PID/environ с переменными окружения процесса.

Справка
man


РазделСодержание
1команды пользователя
2системные вызовы
3функции библиотек
5форматы файлов: fstab, passwd
7обзоры: signal, regex
8администрирование

Внутри man (пейджер less):

КлавишаДействие
/словопоиск
n, Nследующее, предыдущее
g, Gначало, конец
qвыход
man 7 signal
MANPAGER=cat man ls
Изложение. Основным источником сведений о команде является man. К нему обращаются раньше, чем к поисковой системе: man устанавливается вместе с командой и описывает именно ту версию, которая установлена в системе, а не версию, описанную на форуме. Справка разбита на разделы: одно имя может встречаться в нескольких, например signal(2) — системный вызов, а signal(7) — обзор сигналов; номер раздела указывается перед именем.
Страница открывается в пейджере less: поиск — косая черта и слово, n и N — к следующему и предыдущему совпадению, g и G — в начало и в конец. Переменная MANPAGER задаёт другой пейджер; MANPAGER=cat выводит справку целиком. Ключ -P 'less +/СЛОВО' открывает страницу сразу на нужном месте.

Раздел	Содержание
1	команды пользователя
2	системные вызовы
3	функции библиотек
5	форматы файлов: fstab, passwd
7	обзоры: signal, regex
8	администрирование

Клавиша	Действие
/слово	поиск
n, N	следующее, предыдущее
g, G	начало, конец
q	выход

Демонстрация:
справка man
01
Краткие описания: whatis
02
Поиск по описаниям: man -k
03
Обзор сигналов: man 7 signal
04
Поиск в less: /Standard signals
05
Выход: q
Что наблюдается
whatis и man -k показывают номер раздела рядом с именем; поиск в less переносит прямо к таблице стандартных сигналов.
root@lab — запись со стенда
Демонстрация. whatis ls fstab выводит однострочные описания и номера разделов; man -k '^signal' ищет по описаниям всех страниц (то же делает apropos). man 7 signal открывает обзор сигналов; поиск /Standard signals переносит к таблице стандартных сигналов, которая понадобится при рассмотрении сигналов. Клавиша q закрывает страницу.

Редактирование
строки


КлавишиДействие
Ctrl+A, Ctrl+Eв начало, в конец строки
Alt+B, Alt+Fна слово назад, вперёд
Ctrl+Wудаление слова слева
Ctrl+U, Ctrl+Kудаление до начала, до конца
Ctrl+Yвставка удалённого
Ctrl+Lочистка экрана

Пояснение
Alt называется Meta: на macOS это Option, который в настройках терминала включается как Meta.
Для физика
Длинная команда запуска расчёта правится в строке, а не набирается заново.
Изложение. Строку команды редактирует библиотека readline, общая для bash и многих других программ. Ctrl+A и Ctrl+E переносят курсор в начало и конец строки, Alt+B и Alt+F — на слово назад и вперёд, Ctrl+W удаляет слово слева, Ctrl+U и Ctrl+K — всё до начала и до конца строки, Ctrl+Y вставляет последнее удалённое. Клавиша Alt в терминологии readline называется Meta; на macOS ей соответствует Option, который включается как Meta в настройках терминала.
Страницу man bash рекомендуется прочитать целиком хотя бы один раз: в ней описаны и встроенные команды, и все эти сочетания.

Клавиши	Действие
Ctrl+A, Ctrl+E	в начало, в конец строки
Alt+B, Alt+F	на слово назад, вперёд
Ctrl+W	удаление слова слева
Ctrl+U, Ctrl+K	удаление до начала, до конца
Ctrl+Y	вставка удалённого
Ctrl+L	очистка экрана

Сигналы и
задания


КлавишиЧто происходит
Ctrl+CSIGINT: прерывание
Ctrl+\SIGQUIT: завершение с дампом памяти
Ctrl+ZSIGTSTP: приостановка
Ctrl+Dне сигнал: конец ввода (EOF)

На переднем плане
Ctrl+Z
Остановлено
bg — продолжение в фоне, fg — возврат
В фоне
jobs — список заданий; fg %1, bg %1, kill %1 — по номеру; stty -a — назначение клавиш.
Изложение. Сочетания клавиш посылают процессу переднего плана сигналы, устройство которых рассматривается в следующей лекции. Ctrl+C посылает SIGINT (прерывание), Ctrl+\ — SIGQUIT (завершение с дампом памяти), Ctrl+Z — SIGTSTP (приостановка). Оба сигнала завершения программа может перехватить: например, JVM по SIGQUIT печатает дамп потоков и продолжает работу; не перехватывается только SIGKILL. Ctrl+D сигналом не является: драйвер терминала завершает текущее чтение, и программа получает конец ввода.
Приостановленное задание не завершено. Встроенная команда bg продолжает его в фоне, fg возвращает на передний план; обе посылают SIGCONT. jobs выводит задания оболочки с номерами. Назначение клавиш выводит stty -a, а stty с аргументами изменяет его.

Клавиши	Что происходит
Ctrl+C	SIGINT: прерывание
Ctrl+\	SIGQUIT: завершение с дампом памяти
Ctrl+Z	SIGTSTP: приостановка
Ctrl+D	не сигнал: конец ввода (EOF)

Демонстрация:
задания
01
Клавиши терминала: stty -a
02
Запуск sleep 300
03
Ctrl+Z: остановка задания
04
jobs и bg: работа в фоне
05
fg и Ctrl+C: прерывание задания
Что наблюдается
Остановленное задание не завершено: после bg оно работает в фоне, после fg снова получает терминал и прерывается по Ctrl+C.
root@lab — запись со стенда
Демонстрация. stty -a показывает назначение клавиш: intr = ^C, quit = ^\, susp = ^Z, eof = ^D. sleep 300 запускается на переднем плане; Ctrl+Z приостанавливает его, и оболочка сообщает «[1]+ Stopped». jobs выводит задание, bg продолжает его в фоне (состояние Running), fg возвращает на передний план, Ctrl+C прерывает. При живом показе дополнительно запускается sleep 300 &, окно терминала закрывается, и в новом окне pgrep sleep подтверждает, что процесс завершён сигналом SIGHUP.

Потоки
ввода-вывода
0 · stdin
1 · stdout
2 · stderr
cat file
stdout
Канал: буфер в памяти ядра
stdin
grep err
Пояснение
Конвейер передаёт только stdout: сообщения об ошибках выводятся на экран, минуя фильтр. |& передаёт оба потока.
Изложение. У каждой запущенной программы открыты три потока: стандартный вход stdin (дескриптор 0), стандартный выход stdout (1) и поток ошибок stderr (2). Конвейер (pipe) соединяет stdout одной программы со stdin другой через буфер в памяти ядра; ни одной из программ не требуются сведения о конвейере, поэтому простые утилиты соединяются в цепочки произвольной длины.
Конвейер передаёт только stdout: сообщения об ошибках первой программы выводятся на экран, минуя фильтр. Сочетание |& (то же, что 2>&1 |) передаёт оба потока.
Запись cat file | grep err избыточна (grep читает файл самостоятельно), однако в однострочниках она позволяет легко заменить начало цепочки.

Перенаправление
вывода


ЗаписьСмысл
cmd > fstdout в файл с перезаписью
cmd >> fstdout в конец файла
cmd 2> fstderr в файл
cmd &> fоба потока в файл
cmd > f 2>&1оба потока в файл
cmd < fstdin из файла

Важно
Порядок перенаправлений существен: в cmd 2>&1 > f в файл попадёт только stdout, а ошибки останутся на экране.
Специальные файлы:
/dev/null — поглощает запись
/dev/zero — нули
/dev/urandom — случайные байты
Для физика
Долгий расчёт: ./sim > result.dat 2> errors.log — ошибки собираются в отдельном файле и не теряются среди выходных данных.
Изложение. Перенаправление изменяет назначение потоков программы. > записывает stdout в файл, перезаписывая его, >> дописывает в конец, 2> направляет в файл stderr, &> — оба потока. Запись 2>&1 означает «направить stderr туда же, куда в этот момент направлен stdout». Перенаправления применяются слева направо, поэтому порядок важен: cmd > f 2>&1 отправляет в файл оба потока, а cmd 2>&1 > f — только stdout, тогда как ошибки остаются на экране.
Специальные файлы: /dev/null поглощает всё записанное, /dev/zero выдаёт нули, /dev/urandom — криптографически стойкие случайные байты. Такие файлы применяются для проверок: например, нули архиватор сжимает почти полностью, а случайные байты практически не сжимаются.
Для физиков: вывод долгого расчёта направляется так, чтобы результаты и ошибки попадали в разные файлы.

Запись	Смысл
cmd > f	stdout в файл с перезаписью
cmd >> f	stdout в конец файла
cmd 2> f	stderr в файл
cmd &> f	оба потока в файл
cmd > f 2>&1	оба потока в файл
cmd < f	stdin из файла

Демонстрация:
перенаправление
01
Вывод и ошибки в разные файлы
02
Строки в файле и текст ошибки
03
Оба потока в конвейер
04
Порядок: 2>&1 > /dev/null
05
16 случайных байт
06
Файл из нулей: dd
Что наблюдается
При 2>&1 > /dev/null в /dev/null направляется только stdout, а ошибка остаётся на экране: перенаправления применяются слева направо.
root@lab — запись со стенда
Демонстрация. ls /etc /nonexistent > out.txt 2> err.txt разделяет потоки: в out.txt попадает список каталога (194 строки), в err.txt — сообщение об ошибке. С 2>&1 | wc -l в конвейер передаются оба потока (195 строк). Команда ls /etc /nonexistent 2>&1 > /dev/null показывает значение порядка перенаправлений: вывод исчезает, а ошибка остаётся на экране. head -c 16 /dev/urandom | xxd выводит 16 случайных байт в шестнадцатеричном виде; dd if=/dev/zero of=zero.img bs=1M count=10 создаёт файл из 10 МиБ нулей.

Дополнение и
история
Tab
одно нажатие дополняет команду, файл, флаг;
два — показывают варианты;
правила дополнения устанавливаются пакетом bash-completion.
История ~/.bash_history
Ctrl+R — поиск по подстроке, повторное нажатие — более раннее совпадение;
!! — предыдущая команда, sudo !! — она же с sudo;
!$ — последний аргумент предыдущей команды;
history | grep слово.
Пояснение
Команда с пробелом в начале не попадает в историю (в .bashrc Ubuntu задано HISTCONTROL=ignoreboth); history -a сразу дописывает историю в файл.
Изложение. Автодополнение по Tab сокращает набор и исключает опечатки: одно нажатие дополняет команду, имя файла или флаг, двойное показывает все варианты. Правила дополнения для конкретных команд устанавливаются пакетом bash-completion вместе с программами; у новой версии, собранной вручную, их может не оказаться.
История хранится в ~/.bash_history и пополняется при выходе из оболочки. Ctrl+R запускает поиск по подстроке в любом месте строки, повторное нажатие переходит к более старому совпадению. !! подставляет предыдущую команду (sudo !! повторяет её с sudo), !$ — последний аргумент предыдущей команды. На общих серверах, где под одной учётной записью работают несколько человек, нужная команда часто находится в общей истории.

Демонстрация:
история
01
Команда с аргументом /var/log
02
!$ — последний аргумент
03
Последние записи истории
04
Ctrl+R: поиск по подстроке
Что наблюдается
bash показывает развёрнутую команду перед выполнением; Ctrl+R находит команду по подстроке в любом месте строки.
root@lab — запись со стенда
Демонстрация. После ls -ld /var/log команда echo !$ разворачивается в echo /var/log — bash выводит развёрнутый вид перед выполнением. history | tail -n 3 показывает последние записи с номерами. Ctrl+R и набранная подстрока ls -ld находят прежнюю команду; Enter выполнил бы её, Ctrl+G отменяет поиск. При живом показе дополнительно набирается команда с опечаткой в имени файла, которая исправляется без повторного набора — стрелкой вверх и Ctrl+W.

Циклы, условия,
подоболочки
for i in $(seq 1 10); do ./sim --seed $i > run$i.dat; done
du -sh /var/* | while read size path; do …; done
if [ "$(wc -l < f.txt)" -gt 3 ]; then …; fi
(cd /tmp; …)  — подоболочка
x=$(date +%s)  — подстановка вывода
Пояснение
[ — это команда (встроенная и /usr/bin/[), поэтому пробелы вокруг скобок обязательны.
Для физика
Серия из ста расчётов с параметрами из файла запускается циклом в одну строку. Скрипт длиннее двух-трёх десятков строк целесообразно переписать на Python.
Изложение. Оболочка является полноценным, хотя и неудобным, языком программирования. ; разделяет команды, for перебирает слова (в том числе вывод seq), while read читает вывод другой команды построчно, if проверяет код возврата команды. $(команда) подставляет вывод команды в строку; ( команда; команда ) выполняется в подоболочке — дочерней копии оболочки со своими переменными и каталогом, так что cd внутри скобок родительский каталог не меняет.
[ является командой, а не синтаксисом: в bash она встроенная, но существует и файл /usr/bin/[. Отсюда требование ставить пробелы вокруг скобок. Для чисел используются -gt, -ge, -eq; внутри [[ ]] знаки < и > сравнивают строки.
Для физиков: цикла достаточно, чтобы выполнить расчёт по сотне наборов параметров без редактора. Скрипт длиннее двух-трёх десятков строк целесообразно переписать на Python: поддерживать его на bash труднее.

Демонстрация:
циклы
01
Цикл for по seq
02
Самые большие каталоги /var
03
while read: разбор вывода
04
Смена каталога в подоболочке
05
Подоболочка и переменные родителя
06
Условие через [
Что наблюдается
cd и присваивания внутри ( ) не влияют на родительскую оболочку; [ -d /etc ] возвращает код 0, и && выполняет вторую команду.
root@lab — запись со стенда
Демонстрация. Цикл for перебирает числа, выводимые seq 1 3. du -sh /var/* | sort -h | tail -n 3 находит три самых больших каталога. while read size path разбирает каждую строку вывода du на две переменные. (cd /etc; pwd); pwd показывает, что смена каталога внутри скобок не влияет на родительскую оболочку, x=1; (x=2); echo $x — что не влияет и присваивание. [ -d /etc ] && echo … выполняет вторую команду, только если первая завершилась успешно.

Полезные утилитыПоиск файлов, параллельный запуск, сессии
03
Рабочее место
Командная строка
Утилиты
Редакторы
Обработка текста
Диагностика
Изложение. Третья часть посвящена утилитам, необходимым почти в каждой задаче: поиску файлов по условиям, параллельному запуску команд и сохранению сессии при обрыве связи с сервером.

Поиск файлов:
find
find <где> <условия> <действие>


УсловиеЗначение
-name '*.dat'имя по шаблону
-type f / -type dфайл / каталог
-size +100Mбольше 100 МиБ
-mtime -1изменён за сутки
-exec cmd {} +запуск команды для найденных файлов
-print0имена через нулевой байт

Для физика
find ~/runs -name '*.root' -mtime -1 — выходные файлы расчётов за последние сутки.
Важно
-delete удаляет найденное без подтверждения, поэтому команда сначала выполняется без него.
Изложение. find обходит дерево каталогов и отбирает файлы по условиям: имени (-name, шаблон в кавычках, чтобы его не развернула оболочка), типу (-type f — файлы, -type d — каталоги), размеру (-size +100M), времени изменения (-mtime -1 — за последние сутки). К найденному применяется действие: -exec cmd {} + передаёт файлы команде группами, -print0 выводит имена через нулевой байт для безопасной передачи в xargs, -delete удаляет. Перед добавлением -delete команда выполняется без него, и список найденного просматривается.
Для физиков: find ~/runs -name '*.root' -mtime -1 находит выходные файлы расчётов за последние сутки.

Условие	Значение
-name '*.dat'	имя по шаблону
-type f / -type d	файл / каталог
-size +100M	больше 100 МиБ
-mtime -1	изменён за сутки
-exec cmd {} +	запуск команды для найденных файлов
-print0	имена через нулевой байт

xargs и
параллельный запуск
find … -print0
xargs -0 -P4 -n1 md5sum
md5sum файл1
md5sum файл2
md5sum файл3
md5sum файл4


ФлагЗначение
-n Nдо N аргументов на запуск
-P NN процессов одновременно; 0 — без ограничения
-0имена через нулевой байт
-I{}подстановка строки на место {}

Пояснение
Выигрыш ограничен числом ядер (nproc) и скоростью диска. GNU parallel дополнительно сохраняет порядок вывода, ведёт журнал заданий и запускает задания по ssh.
Изложение. xargs превращает строки со стандартного входа в аргументы другой команды. -n N передаёт до N аргументов на запуск, -P N запускает до N процессов одновременно (0 — без ограничения), -0 читает имена, разделённые нулевым байтом, и применяется в паре с find -print0; без этих ключей имена с пробелами разбиваются на части. -I{} подставляет строку на место {} и сам ограничивает запуск одной строкой.
Выигрыш от -P растёт с числом процессов, пока задача ограничена процессором; обработка, ограниченная диском, выходит на насыщение раньше. Число ядер сообщает nproc; часто достаточно -P4, чтобы не занимать весь процессор. GNU parallel является более мощной альтернативой: группирует вывод, сохраняет порядок (--keep-order), ведёт журнал заданий и запускает их по ssh.

Флаг	Значение
-n N	до N аргументов на запуск
-P N	N процессов одновременно; 0 — без ограничения
-0	имена через нулевой байт
-I{}	подстановка строки на место {}

Демонстрация:
find и xargs
01
Файлы *.conf в /etc
02
Число найденных файлов
03
Пять sleep подряд: 0+1+2+3+4 = 10 с
04
Те же sleep параллельно: 4 с
Что наблюдается
Последовательный запуск длится сумму времён, параллельный — время самого долгого задания.
root@lab — запись со стенда
Демонстрация. find /etc -type f -name '*.conf' находит конфигурационные файлы (на стенде их 116). Затем сравниваются два способа выполнить sleep 0, 1, 2, 3 и 4 секунды: цикл while read выполняет их по очереди за 10 с (сумма), а xargs -P0 -n1 sleep запускает все одновременно и завершается за 4 с (самое долгое задание). Тот же опыт с GNU parallel выполняет команда time parallel -j0 sleep ::: 0 1 2 3 4.

Сессии:
tmux и screen


Действиеtmuxscreen
новая сессияtmux new -s calcscreen -S calc
отключениеCtrl+B, DCtrl+A, D
список сессийtmux lsscreen -ls
подключениеtmux a -t calcscreen -r calc
разделение окнаCtrl+B, % или "Ctrl+A, S или |

Для физика
Расчёт на кластере запускается внутри tmux: обрыв ssh его не прерывает, а к сессии можно позднее подключиться с другой машины.
Пояснение
watch -d -n1 'wc -l result.dat' в соседней панели показывает, как растёт файл результатов.
Изложение. Расчёт, запущенный по ssh, завершается вместе с обрывом связи: при закрытии терминала процессу приходит SIGHUP. Мультиплексоры терминала screen и tmux решают эту задачу: сессия работает на сервере независимо от подключения, пользователь отключается от неё (detach) и подключается снова (attach) в любой момент, в том числе с другой машины. Кроме того, мультиплексор делит окно на панели и поддерживает несколько окон в одной сессии. В tmux команды начинаются с префикса Ctrl+B, в screen — с Ctrl+A.
tmux удобнее в настройке, screen чаще оказывается предустановленным на старых системах. Для iTerm2 существует режим tmux -CC: окна и панели tmux отображаются как собственные вкладки терминала, в том числе при работе по ssh.
watch -d -n1 'команда' выполняет команду раз в секунду и подсвечивает изменившиеся символы. В соседней панели watch с wc -l по файлу результатов заменяет индикатор выполнения.

Действие	tmux	screen
новая сессия	tmux new -s calc	screen -S calc
отключение	Ctrl+B, D	Ctrl+A, D
список сессий	tmux ls	screen -ls
подключение	tmux a -t calc	screen -r calc
разделение окна	Ctrl+B, % или "	Ctrl+A, S или \|

Демонстрация:
tmux
01
Сессия calc с watch в фоне
02
Список сессий: tmux ls
03
Экран сессии без подключения
04
Завершение сессии
Что наблюдается
Сессия работает без подключённого терминала: capture-pane показывает экран watch, который обновляется каждую секунду.
root@lab — запись со стенда
Демонстрация. tmux new -d -s calc 'watch -n1 date' создаёт сессию calc сразу в отключённом состоянии (-d) и запускает в ней watch. tmux ls выводит список сессий, tmux capture-pane -p печатает содержимое экрана сессии без подключения к ней. После kill-session сервер tmux завершается, и tmux ls сообщает, что сервер не запущен.
При живом показе та же последовательность выполняется интерактивно и по ssh. С хост-машины выполняется вход на lab по ssh, внутри запускаются tmux new -s calc и watch -d -n1 date, затем Ctrl+B, D отключает от сессии. После закрытия окна терминала и повторного входа команда tmux a -t calc возвращает к работающей сессии.
Запись снята внутри другого сервера tmux, поэтому на слайде показана неинтерактивная форма команд.

РедактированиеКонсольные редакторы: vim, vimdiff, vimtutor
04
Рабочее место
Командная строка
Утилиты
Редакторы
Обработка текста
Диагностика
Изложение. Четвёртая часть посвящена консольным редакторам. Рано или поздно потребуется править конфигурацию на сервере без графической оболочки, поэтому хотя бы одним консольным редактором необходимо владеть. Выйти из незнакомого редактора, открывшегося вместо привычного, обязан уметь каждый.

Режимы
vim
Вставка
Нормальный
Визуальный
Командная строка
i, a, o — вход
Esc — выход
v, V — вход
Esc — выход
«:» — вход
Enter, Esc — выход


КлавишиДействие
i, a, oвставка перед курсором, после, с новой строки
Escвозврат в нормальный режим
:w, :qсохранение, выход
:wq, :q!сохранение с выходом; выход без сохранения
/слово, nпоиск и следующее совпадение
u, Ctrl+Rотмена, повтор
dd, yy, pудаление строки, копирование, вставка
:%s/a/b/gзамена a на b во всём файле

Изложение. vim (Vi IMproved) присутствует почти на любой машине, а там, где его нет, обычно есть vi. Главное отличие от привычных редакторов — режимы. В нормальном режиме клавиши являются командами: перемещение, удаление, копирование, поиск. Клавиши i, a, o переводят в режим вставки, где набирается текст; Esc возвращает в нормальный режим. Двоеточие открывает командную строку редактора: :w сохраняет файл, :q выходит, :wq делает и то и другое, :q! выходит без сохранения. v и V включают визуальный режим выделения символов и строк.
Первой запоминается последовательность выхода без сохранения: Esc, затем :q! и Enter; она позволяет покинуть редактор, не изменив файл.
Для физиков: конфигурация задачи и скрипт запуска на кластере правятся на месте в vim, без копирования файлов на рабочую машину и обратно.

Клавиши	Действие
i, a, o	вставка перед курсором, после, с новой строки
Esc	возврат в нормальный режим
:w, :q	сохранение, выход
:wq, :q!	сохранение с выходом; выход без сохранения
/слово, n	поиск и следующее совпадение
u, Ctrl+R	отмена, повтор
dd, yy, p	удаление строки, копирование, вставка
:%s/a/b/g	замена a на b во всём файле

Освоение
vim
01
vimtutor
встроенный учебник: около 30 минут упражнений в терминале
02
vimdiff file1 file2
сравнение двух файлов в соседних окнах с подсветкой различий
03
Режим vim в IDE
расширения Vim для VS Code и сред JetBrains
04
Сборки Neovim
LazyVim, AstroNvim, NvChad: подсветка, дополнение, LSP
Stack Overflow Developer Survey 2023, доля респондентов
22 %
Vim
12 %
Neovim
9 %
nano
Допускался выбор нескольких ответов, поэтому доли не суммируются.
Изложение. Основы vim изложены во встроенном учебнике vimtutor: около получаса упражнений в терминале. vimdiff file1 file2 открывает два файла рядом с подсветкой различий и применяется для просмотра изменений в конфигурации. При работе в графической среде разработки переход в терминал не обязателен: расширения Vim для VS Code и сред JetBrains предоставляют те же команды редактирования. Готовые сборки Neovim (LazyVim, AstroNvim, NvChad) превращают редактор в среду разработки с подсветкой, дополнением и LSP.
По опросу Stack Overflow 2023 года vim используют около 22 % респондентов, Neovim — около 12 %, nano — около 9 %. Допускался выбор нескольких ответов, поэтому доли не суммируются.
Emacs — другой мощный редактор со своей философией и своими сторонниками. Система контроля версий git рассматривается в отдельной лекции; редактор для сообщения коммита задаётся настройкой core.editor или переменной EDITOR, а без них в Ubuntu открывается nano, в исходной сборке git — vi.

Демонстрация:
vim
01
Открытие файла: vim notes.txt
02
i — режим вставки
03
Набор строки
04
Esc и :wq — сохранение и выход
05
Проверка: cat notes.txt
Что наблюдается
Внизу экрана vim показывает режим (-- INSERT --) и позицию курсора; после :wq строка записана в файл.
root@lab — запись со стенда
Демонстрация. vim notes.txt открывает новый файл; строка состояния внизу сообщает [New]. Клавиша i включает режим вставки (-- INSERT --), набирается строка, Esc возвращает в нормальный режим, :wq и Enter сохраняют файл и закрывают редактор; cat notes.txt подтверждает, что строка записана.
При живом показе файл дополнительно открывается снова, строка удаляется командой dd, редактор закрывается без сохранения через :q!, и cat подтверждает, что файл не изменился; затем запускается vimtutor.

Обработка текстаgrep, sed, awk и конвейеры
05
Рабочее место
Командная строка
Утилиты
Редакторы
Обработка текста
Диагностика
Изложение. Пятая часть посвящена потоковой обработке текста. Журналы, выходные файлы расчётов и таблицы данных в Linux являются текстом, и небольшие утилиты, соединённые конвейером, позволяют фильтровать, считать и преобразовывать их одной командной строкой.

Утилиты
потоковой обработки
Каждая выполняет одну операцию над потоком строк; соединяются они конвейером.
grep
строки, подходящие под регулярное выражение
awk
язык для обработки текста по колонкам
sed
потоковый редактор: замена и удаление
cut
выбор колонок по разделителю
head
первые N строк
tail
последние N строк; tail -f — дописываемые
tr
замена и удаление символов
wc
число строк, слов и байтов
sort
сортировка строк: -n, -r, -k, -t
uniq
удаление соседних повторов; -c — счётчик
Изложение. Каждая из утилит выполняет над потоком строк одну операцию, а конвейер соединяет их в цепочку. grep отбирает строки по регулярному выражению, awk представляет собой язык для обработки текста по колонкам, sed — потоковый редактор, выполняющий замену и удаление по мере чтения потока. cut вырезает колонки по разделителю, head и tail выводят начало и конец потока (tail -f показывает строки, дописываемые в файл в настоящий момент), tr заменяет и удаляет символы, wc считает строки, слова и байты, sort сортирует строки, uniq удаляет соседние повторы.
Разбор журнала, извлечение колонки чисел, подсчёт уникальных значений укладываются в одну строку, набранную по ходу работы. Как только разбор становится частью повторяемой обработки данных, его лучше переписать на Python: цепочку из пяти awk и sed через месяц невозможно ни прочитать, ни отладить.

Конвейер:
частотная таблица
Самый частый код ответа в журнале веб-сервера access.log (поле 9)
awk '{print $9}'
404
200
404
500
404
200
sort
200
200
404
404
404
500
uniq -c
2 200
3 404
1 500
sort -rn
3 404
2 200
1 500
head -n 1
3 404
Для физика
Тот же приём строит распределение дискретной величины: cut -d, -f3 events.csv | sort -n | uniq -c — число событий по номерам каналов.
Изложение. Классическая задача разбора журнала — частотная таблица: какой код ответа веб-сервер возвращает чаще всего. В формате журнала nginx по умолчанию код ответа является девятым полем строки. awk выводит это поле, sort располагает одинаковые значения подряд, uniq -c объединяет соседние повторы и добавляет перед каждым значением счётчик, sort -rn упорядочивает по убыванию счётчика, head -n 1 оставляет первую строку. Под каждой командой показан её вывод для журнала из шести строк.
Порядок sort | uniq -c обязателен: uniq сравнивает только соседние строки, и без сортировки несоседние повторы не объединяются.
Для физиков: тот же приём строит распределение дискретной величины, например номеров каналов детектора в файле событий.

grep и
регулярные выражения


ШаблонСовпадает с
.любым символом
*предыдущим символом 0 и более раз
^, $началом, концом строки
[0-9]одним символом из класса
x+, x?1 и более раз, 0 или 1 раз (-E)
a|ba или b (-E)
\.точкой как символом



ФлагЗначение
-iбез учёта регистра
-vстроки без совпадения
-cчисло совпавших строк
-nномера строк
-rрекурсивно по каталогу
-oтолько совпавшая часть
-E, -Fрасширенные выражения; фиксированная строка

grep -rn 'TODO' src/
grep -E '^(ERROR|WARN)' app.log
grep -v '^#' app.conf
Изложение. grep является наиболее часто применяемой утилитой обработки текста: он выводит строки, в которых найдено совпадение с регулярным выражением. Точка обозначает любой символ, звёздочка — повтор предыдущего символа ноль и более раз, ^ и $ — начало и конец строки, квадратные скобки — класс символов. С флагом -E доступны расширенные выражения: +, ?, альтернатива | и группировка скобками без обратной косой черты. Шаблон заключается в одинарные кавычки, чтобы оболочка не раскрыла в нём * и $.
Флаги: -i — без учёта регистра, -v — строки без совпадения, -c — число строк, -n — номера строк, -r — рекурсивный поиск по каталогу, -o — только совпавшая часть строки, -F — поиск фиксированной строки без регулярных выражений.
ripgrep (команда rg) выполняет рекурсивный поиск значительно быстрее и по умолчанию пропускает файлы из .gitignore, но устанавливается отдельно.

Шаблон	Совпадает с
.	любым символом
*	предыдущим символом 0 и более раз
^, $	началом, концом строки
[0-9]	одним символом из класса
x+, x?	1 и более раз, 0 или 1 раз (-E)
a\|b	a или b (-E)
\.	точкой как символом

Флаг	Значение
-i	без учёта регистра
-v	строки без совпадения
-c	число совпавших строк
-n	номера строк
-r	рекурсивно по каталогу
-o	только совпавшая часть
-E, -F	расширенные выражения; фиксированная строка

sed
и
awk
sed — потоковый редакторsed 's/admin/user/g' f
замена всех вхождений в каждой строке
sed -n '10,20p' f
вывод строк с 10-й по 20-ю
sed '/^#/d' f
удаление строк-комментариев
sed -i.bak 's/a/b/' f
правка файла на месте с сохранением копии
awk — язык обработки колонокawk '{print $1, $NF}' f
первое и последнее поле строки
awk -F, '$3 > 100' f
строки, где третья колонка больше 100
awk '{s += $10} END {print s}' f
сумма десятой колонки
awk 'NR % 10 == 0' f
каждая десятая строка
Пояснение
NF — число полей строки, $NF — последнее поле, $(NF-1) — предпоследнее; NR — номер строки. Блок END выполняется один раз, после последней строки.
Изложение. sed (stream editor) применяет команды редактирования к каждой строке потока. Чаще всего используется замена s/шаблон/замена/, где флаг g заменяет все вхождения в строке, а не только первое; команда p с ключом -n выводит выбранные строки, d удаляет строки, подходящие под адрес. Ключ -i правит файл на месте; с суффиксом (-i.bak) сохраняется копия исходного файла.
awk разбивает каждую строку на поля по пробелам (или по разделителю из -F) и выполняет для неё программу вида «условие {действие}». $1 — первое поле, NF — число полей, $NF — последнее поле, NR — номер строки. Блок END выполняется один раз после обработки всех строк; в нём выводятся суммы и средние.
Для физиков: awk считает сумму, среднее или максимум по колонке файла данных одной строкой, без загрузки файла в Python.

Демонстрация:
разбор журнала
01
Начало системного журнала
02
Число строк с упоминанием systemd
03
Самые частые источники записей
Что наблюдается
Конвейер из шести команд строит частотную таблицу источников: больше всего записей оставляет systemd.
root@lab — запись со стенда
Демонстрация. На стенде нет веб-сервера, поэтому вместо журнала nginx разбирается системный журнал /var/log/syslog. head -n 2 | cut -c 1-60 показывает начало двух строк: метку времени, имя машины и источник сообщения. grep -c systemd считает строки, в которых встречается systemd. Третья команда повторяет конвейер с предыдущих слайдов: awk выводит третье поле (источник с PID в квадратных скобках), cut -d[ -f1 отрезает PID, sort | uniq -c считает повторы, sort -rn упорядочивает по убыванию, head -n 5 оставляет пять самых частых источников.
При живом показе дополнительно выполняется tail -f /var/log/syslog | grep --line-buffered CRON до очередного запуска cron: ключ --line-buffered не позволяет grep в середине конвейера накапливать вывод в буфере.

Демонстрация:
данные расчёта
01
Ряд sin + шум в файле run.csv
02
Первые строки и их число
03
Среднее и отклонение: awk
04
Максимум: sort -g
05
Табуляция вместо запятой: sed
Что наблюдается
Статистика по тысяче строк считается одной командой awk; sort -g находит максимум 1,0962 в строке 394.
root@lab — запись со стенда
Демонстрация. Первая команда создаёт файл данных, аналогичный выходному файлу расчёта: seq выдаёт номера от 1 до 1000, awk для каждого печатает номер и значение синуса с равномерным шумом (srand(42) фиксирует генератор, поэтому числа воспроизводимы). head и wc проверяют результат. Вторая команда awk накапливает сумму и сумму квадратов второй колонки и в блоке END выводит число строк, среднее (0,0798) и стандартное отклонение (0,7011). sort -t, -k2 -g сортирует по второй колонке как по числам с плавающей точкой, и tail -n 1 даёт максимум. sed заменяет запятую табуляцией, например для программы, ожидающей формат TSV.
Для физиков: так проверяется выходной файл расчёта до построения графиков — число строк, диапазон значений, отсутствие пропусков.

Тренажёры и
квест
01
grep, sed, awk exercisesИнтерактивные задачи в терминале с проверкой ответа (learnbyexample).
pipx install grepexercises
также sedexercises и awkexercises
02
The Command Line MurdersДетективный квест: улики ищутся среди тысяч текстовых файлов только командами терминала.
git clone https://github.com/veltman/clmystery
входит в домашнее задание
Важно
В Ubuntu 23.04 и новее pip install в системный Python запрещён (PEP 668): программы на Python устанавливаются с помощью pipx.
Изложение. Навык обработки текста закрепляется только практикой. Интерактивные тренажёры grepexercises, sedexercises и awkexercises (автор — Sundeep Agarwal, проект learnbyexample) предлагают задачи прямо в терминале и проверяют ответ. The Command Line Murders — детективный квест: в каталоге с тысячами текстовых файлов требуется найти убийцу, пользуясь только утилитами командной строки. Квест входит в домашнее задание.
В Ubuntu 23.04 и новее pip install в системный Python запрещён (PEP 668, ошибка externally-managed-environment); программы на Python устанавливаются через pipx, который создаёт для каждой отдельное виртуальное окружение.

ДиагностикаМетод, процессор, память, диск, сеть
06
Рабочее место
Командная строка
Утилиты
Редакторы
Обработка текста
Диагностика
Изложение. Последняя часть посвящена ситуации, когда система работает не так, как ожидалось: расчёт стал необъяснимо медленным, место на диске закончилось, сервис не отвечает. Системы мониторинга и экспортёры метрик установлены почти везде, однако могут отказать вместе с наблюдаемой системой; в этом случае диагностика выполняется утилитами, запускаемыми вручную.

Порядок
диагностики
01
Процессорзагрузка и очередь готовых задач
uptime, top, vmstat
02
Памятьзапас свободной памяти и обмен со swap
free -h, vmstat
03
Дисксвободное место и загрузка устройства
df -h, iostat -x
04
Сетьсвязность и объём передаваемых данных
ping, ss, ethtool
Пояснение
Метод USE (Б. Грегг): для каждого ресурса проверяются использование, насыщение и ошибки.
Для физика
Замедление расчёта проверяется последовательно: top — загрузка процессора, free — использование swap, iostat — загрузка диска.
Изложение. Общий принцип диагностики — движение сверху вниз по подсистемам: процессор, память, диск, сеть. На каждом шаге принимается решение, находится ли узкое место здесь или на следующем уровне, и каждое предположение подтверждается измерением на работающей системе, а не догадкой.
Брендан Грегг формализовал этот обход как метод USE: для каждого ресурса проверяются использование (utilization — доля времени, когда ресурс занят), насыщение (saturation — очередь работы, которую ресурс не успевает обслужить) и ошибки (errors).
Для физиков: при замедлении расчёта top показывает, занят ли процессор или процесс ожидает диск (столбец wa), free — используется ли swap, iostat — ограничено ли чтение данных скоростью диска.

Карта
инструментов
Приложения
ps, top, htop, pidstat, perf
Системные вызовы
strace, ltrace, lsof
Файловые системы
df, du, lsof +L1
Диски
iostat -x, iotop, smartctl
Сеть
ss, tcpdump, ethtool, ping, mtr
Процессор и память
vmstat, mpstat, free
Ядро
dmesg -T, sysctl, /proc
Пояснение
Полные схемы Б. Грегга: наблюдение, статическая конфигурация, нагрузочное тестирование, настройка — brendangregg.com/linuxperf.html.
Systems PerformanceB. Gregg, 2-е изд., 2020: справочник по всему, что в Linux измеримо.
Изложение. Брендан Грегг составил карты инструментов, на которых каждая подсистема ядра подписана утилитами, которыми она измеряется. Слайд повторяет главную из них (Linux Observability Tools) в упрощённом виде: от приложений через системные вызовы и файловые системы к дискам, сети, процессору, памяти и ядру. Всего карт четыре: наблюдение за работающей системой, статическая конфигурация, нагрузочное тестирование и настройка параметров ядра. Первую из них рекомендуется распечатать и держать рядом с рабочим местом.
Книга того же автора «Systems Performance: Enterprise and the Cloud» (2-е издание, 2020) является справочником по всему, что в Linux измеримо.

Демонстрация:
ресурсы машины
01
Ядра и процессор: nproc, lscpu
02
Память: free -h
03
Место на дисках: df -h
04
Средняя загрузка: uptime
05
Процессор и память во времени: vmstat
06
Ввод-вывод по устройствам: iostat
Что наблюдается
У lab 2 ядра и 3,8 ГиБ памяти, корень заполнен на 35 %; столбец id в vmstat близок к 100 — система простаивает.
root@lab — запись со стенда
Демонстрация. nproc выводит число доступных ядер, lscpu — архитектуру и модель процессора. В виртуальной машине стенда поле Model name пусто, а BIOS Model name сообщает тип виртуальной машины QEMU; в облачной виртуальной машине в этом поле выводится модель процессора хоста. free -h показывает память: available — сколько можно выделить без вытеснения, buff/cache — страничный кеш, который ядро отдаст по требованию. df -h выводит занятое и свободное место по файловым системам. uptime даёт среднюю загрузку за 1, 5 и 15 минут, которую сравнивают с числом ядер. vmstat 1 3 выводит три отчёта с интервалом в секунду: первая строка — средние с момента загрузки, последующие — текущие значения; r — очередь готовых к выполнению процессов, si и so — обмен со swap, us, sy, id, wa — доли времени процессора. iostat -d показывает операции в секунду (tps) и объём чтения и записи по устройствам; долю занятости диска выводит iostat -x.
Эти сведения составляют часть домашнего задания: в нём они собираются на машине с Ubuntu по ssh, а скорость и загрузка сетевого интерфейса определяются самостоятельно.

Процессор и
память


ПоказательГдеЧто означает
load averageuptime, topготовые к выполнению и ждущие диска задачи за 1, 5, 15 мин
us, sy, watop, vmstatвремя процессора: программы, ядро, ожидание ввода-вывода
%CPUtop, ps100 % — одно ядро целиком
availablefree -hпамять, доступная без вытеснения
si, sovmstatобмен со swap: признак нехватки памяти

Пояснение
Внутри top: 1 — по ядрам, P и M — сортировка по процессору и памяти, c — полная команда, d — интервал обновления.
Для физика
Расчёт в 4 потока: у процесса 400 %, а строка %Cpu(s) на 32-ядерной машине покажет около 12 %.
Изложение. Средняя загрузка (load average) — число процессов, готовых к выполнению или ждущих завершения ввода-вывода, усреднённое за 1, 5 и 15 минут; её сравнивают с числом ядер. Строка %Cpu(s) в top делит время процессора на пользовательский код (us), ядро (sy), простой (id) и ожидание ввода-вывода (wa). Столбец %CPU у процесса отсчитывается от одного ядра: 100 % означает одно ядро целиком, поэтому многопоточный процесс может показывать 400 % и больше. В free главный показатель — available, память, которую можно выделить без вытеснения; buff/cache ядро отдаёт по требованию. Ненулевые si и so в vmstat означают постоянный обмен со swap — признак нехватки памяти.
Клавиши top: 1 — загрузка по ядрам, P и M — сортировка по процессору и по памяти, c — полная командная строка, d — интервал обновления (по умолчанию 3 с, для диагностики обычно задаётся 1 с). htop показывает загрузку каждого ядра цветными полосами. atop записывает состояние системы в файл (atop -w файл 60) и проигрывает его (atop -r файл, t и T — вперёд и назад), что позволяет исследовать сбой уже после того, как он произошёл.

Показатель	Где	Что означает
load average	uptime, top	готовые к выполнению и ждущие диска задачи за 1, 5, 15 мин
us, sy, wa	top, vmstat	время процессора: программы, ядро, ожидание ввода-вывода
%CPU	top, ps	100 % — одно ядро целиком
available	free -h	память, доступная без вытеснения
si, so	vmstat	обмен со swap: признак нехватки памяти

Демонстрация:
top и htop
01
Снимок top в пакетном режиме
02
htop: загрузка по ядрам и память
03
Выход из htop: q
Что наблюдается
Верхние строки top повторяют uptime и free; htop показывает каждое ядро отдельной полосой.
root@lab — запись со стенда
Демонстрация. top -b -n 1 выводит один снимок в пакетном режиме, пригодном для конвейера и файла; ключ -w 80 ограничивает ширину. Верхние строки повторяют uptime (средняя загрузка), число задач по состояниям, распределение времени процессора и память, ниже следует таблица процессов. htop показывает то же интерактивно: полосы загрузки каждого ядра, память, список процессов с полной командной строкой; F5 переключает вид дерева, F6 выбирает столбец сортировки, q закрывает программу.
При живом показе в соседнем окне запускается нагрузка, например yes > /dev/null; процесс находится в top по клавише P и завершается командой kill по PID.

Диск и
сеть


КомандаПоказывает
df -hместо по файловым системам
df -ihзанятые иноды
du -sh /var/log/*размер каталогов
iostat -x 1загрузку дисков (%util)
lsof +L1удалённые, но открытые файлы



КомандаПоказывает
ping -c 3 hostсвязность и задержку
mtr -T -P 443 hostмаршрут и потери
ss -tlnpслушающие порты
ss -sсводку по сокетам
ethtool eth0скорость и параметры интерфейса
tcpdump -nn host Xпакеты с узлом X

Важно
Свободное место исчерпано, а du не находит занятого: файл удалён, но ещё открыт процессом. lsof +L1 показывает такие файлы; место освобождается после их закрытия.
Изложение. Для дисков: df -h показывает занятое и свободное место по файловым системам, df -ih — иноды, которые могут закончиться раньше места (об этом шла речь в первой лекции). du -sh /var/log/* | sort -h находит каталог, занявший место. iostat -x 1 раз в секунду выводит расширенную статистику: %util — доля времени, когда устройство было занято, await — среднее время обслуживания запроса. Для SSD и NVMe, обрабатывающих запросы параллельно, %util = 100 % ещё не означает насыщения.
Для сети: ping проверяет связность и задержку, mtr совмещает traceroute и ping и показывает потери на каждом узле маршрута; -T -P 443 отправляет пробные пакеты TCP на порт 443, которые проходят там, где ICMP блокируется. ss -tlnp выводит слушающие TCP-порты с процессами, ss -s — сводку по сокетам (рост их числа указывает на утечку). ethtool eth0 показывает скорость и параметры сетевого интерфейса, tcpdump перехватывает пакеты; на загруженном сервере tcpdump запускается только с фильтром и на конкретном интерфейсе.

Команда	Показывает
df -h	место по файловым системам
df -ih	занятые иноды
du -sh /var/log/*	размер каталогов
iostat -x 1	загрузку дисков (%util)
lsof +L1	удалённые, но открытые файлы

Команда	Показывает
ping -c 3 host	связность и задержку
mtr -T -P 443 host	маршрут и потери
ss -tlnp	слушающие порты
ss -s	сводку по сокетам
ethtool eth0	скорость и параметры интерфейса
tcpdump -nn host X	пакеты с узлом X

Демонстрация:
сеть
01
ping до шлюза виртуальной сети
02
mtr по TCP на порт 443
03
tcpdump: рукопожатие TCP при запросе curl
Что наблюдается
Видны три пакета рукопожатия [S], [S.], [.], затем клиент отправляет 517 байт — приветствие TLS (ClientHello).
root@lab — запись со стенда
Демонстрация. Машина в записи подключена к виртуальной сети 10.0.2.0/24: шлюз 10.0.2.2, собственный адрес 10.0.2.15. ping -c 3 отправляет три эхо-запроса ICMP шлюзу виртуальной сети и выводит время до ответа. mtr -r -c 3 -T -P 443 выполняет трассировку пробными пакетами TCP на порт 443 и печатает отчёт. tcpdump -i eth0 -c 6 -nn 'tcp port 443' запускается в фоне, после чего curl обращается к сайту книги: в выводе видны три пакета рукопожатия TCP между адресом машины и сервером (флаги [S], [S.] и [.]), затем пакет [P.] длиной 517 байт — приветствие TLS (ClientHello) — и первые данные от сервера.
В записи трассировка короче обычной из-за сетевых настроек стенда: узел после шлюза не отвечает (???), до GitHub Pages всего три узла, а ответ приходит примерно через миллисекунду. В обычной сети mtr покажет десяток узлов и задержки в единицы и десятки миллисекунд.

Трассировка:
strace и lsof
stracestrace -c cmd
сводка системных вызовов
strace -e trace=openat cmd
открываемые файлы
strace -fp PID
подключение к процессу, -f — все потоки
lsoflsof -p PID
файлы и сокеты процесса
lsof -i :22
процесс, открывший порт
lsof +L1
удалённые, но открытые файлы
Ядроdmesg -T
сообщения ядра с датой и временем
journalctl -k
те же сообщения из журнала systemd
sysctl -a | grep name
параметры ядра
Важно
strace останавливает процесс на каждом системном вызове и замедляет его в несколько раз.
Для физика
Программа не находит конфигурацию и не сообщает об этом: strace -e trace=openat показывает все пути, по которым она ищет файл.
Изложение. strace перехватывает системные вызовы процесса через механизм ptrace и печатает их с аргументами и результатами. strace -c выводит сводку: какие вызовы выполнялись, сколько раз и сколько времени заняли; -e trace=openat оставляет только открытие файлов; -p PID подключается к уже работающему процессу, -f следует за его потоками и дочерними процессами. Чтение вывода strace требует навыка: основное внимание обращается на вызовы, вернувшие ошибку (-1 ENOENT, EACCES), и на вызовы, в которых процесс долго ждёт.
lsof выводит открытые файлы: lsof -p PID — файлы и сокеты процесса, lsof -i :порт — процесс, открывший порт, lsof +L1 — удалённые, но ещё открытые файлы. По сути, lsof представляет собой интерфейс к сведениям из /proc. dmesg -T выводит сообщения ядра с календарным временем: отказы дисков, срабатывания OOM killer, ошибки драйверов; sysctl -a выводит параметры ядра.

Демонстрация:
strace, ss и lsof
01
Сводка системных вызовов ls
02
Файлы, открываемые cat
03
Слушающие порты: ss -tlnp
04
Владелец порта 22: lsof
Что наблюдается
ls выполняет около 150 системных вызовов; порт 22 открыт процессом systemd, так как в Ubuntu 24.04 ssh запускается по сокету.
root@lab — запись со стенда
Демонстрация. strace -c ls /etc выводит сводку системных вызовов: в записи около 150 вызовов, 18 из них вернули ошибку; вывод самой ls отброшен в /dev/null, а сводка strace печатается в stderr. strace -e trace=openat cat /etc/hostname 2>&1 | tail -n 3 оставляет последние строки: открытие /etc/hostname, содержимое файла и код завершения (открытия библиотек отрезаны tail). ss -tlnp выводит слушающие TCP-порты с процессами: sshd на порту 22 и локальный DNS-резолвер systemd-resolved на порту 53. lsof -i :22 показывает, что порт открыт также процессом systemd с PID 1: в Ubuntu 24.04 сервер ssh активируется по сокету (ssh.socket), и слушающий сокет открывает systemd.
При живом показе strace -p дополнительно подключается к работающему процессу, например к sleep 1000 в соседнем окне, и показывает единственный вызов, в котором процесс ожидает.

Профилирование:
perf
01
perf top -F 99
профиль системы в реальном времени: функции, занимающие процессор
02
perf record -e cpu-clock -g -- cmd
запись выборок со стеками вызовов в perf.data
03
perf report
отчёт по функциям: [k] — ядро, [.] — пользовательский код
apt install linux-tools-$(uname -r)
Важно
В виртуальной машине аппаратных счётчиков обычно нет: событие cycles недоступно, используется программное cpu-clock.
Пояснение
Без отладочных символов вместо имён функций видны адреса; имена восстанавливаются установкой пакетов -dbgsym или сборкой с -g.
Изложение. perf — профилировщик, входящий в состав ядра Linux. perf top -F 99 в реальном времени показывает, в каких функциях система проводит процессорное время; частота 99 Гц выбрана так, чтобы выборки не совпадали по фазе с периодическими событиями. perf record записывает выборки в файл perf.data, ключ -g сохраняет стеки вызовов; perf report открывает отчёт, где [k] помечает функции ядра, а [.] — пользовательского кода. perf устанавливается пакетом linux-tools для работающего ядра.
В виртуальной машине аппаратные счётчики процессора обычно недоступны, и perf record без аргументов завершится ошибкой на событии cycles; достаточно программного события cpu-clock. Если отказывает и оно, доступ ограничен параметром kernel.perf_event_paranoid.

curl
из командной строки
curl -sI URL
только заголовки ответа
curl -v URL
весь обмен, включая установку TLS
curl -s -o /dev/null -w '%{http_code}\n' URL
только код ответа
curl -H 'Accept: application/json' URL
дополнительный заголовок запроса
curl -X POST -d @body.json URL
запрос с телом из файла
Пояснение
-w выводит переменные измерений запроса: код ответа, размеры, времена этапов. Их список — в man curl, раздел --write-out.
Важно
Запросы в цикле к стороннему сервису выполняются с паузой, иначе они создают на него заметную нагрузку.
Изложение. curl выполняет из командной строки запросы по HTTP и десяткам других протоколов и применяется для воспроизводимых запросов с точно заданными заголовками, телом и методом. -I запрашивает только заголовки, -v выводит весь обмен, включая установку TLS, -H добавляет заголовок, -d передаёт тело запроса, -o /dev/null отбрасывает тело ответа, -s отключает индикатор выполнения. Ключ -w (--write-out) выводит после запроса заданные переменные: код ответа, размеры, времена отдельных этапов соединения; их полный список приведён в man curl.
Инструменты разработчика в браузере копируют любой запрос как команду curl (Copy as cURL). При этом браузер может работать по HTTP/3, тогда как curl по умолчанию использует HTTP/2 или HTTP/1.1.
Запросы в цикле к стороннему сервису выполняются с паузой, иначе они создают на него заметную нагрузку.
Автор curl Даниэль Стенберг провёл мастер-класс по программе длительностью около 3 ч 40 мин (ссылка в источниках).

Демонстрация:
curl
01
Заголовки ответа: curl -sI
02
Код ответа и полное время: -w
Что наблюдается
Сайт книги отвечает HTTP/2 200 за 0,37 с; времена отдельных этапов запроса выводятся той же опцией -w.
root@lab — запись со стенда
Демонстрация. curl -sI запрашивает только заголовки страницы книги: протокол HTTP/2, код 200, сервер GitHub.com, тип содержимого и дата изменения. Вторая команда отбрасывает тело ответа и через -w выводит код ответа и полное время запроса (time_total).
Демонстрация намеренно ограничена двумя переменными: однострочник из домашнего задания, который раз в секунду выводит метку времени, код ответа, времена установки TCP- и TLS-соединения, первого байта и полное время, составляется самостоятельно по разделу --write-out в man curl.

Заключение01
Слепая печать и полноценный эмулятор терминала повышают скорость всей последующей работы.
02
Справка man описывает именно установленную версию команды; к ней обращаются раньше, чем к поисковой системе.
03
Долгие расчёты запускаются в tmux: обрыв связи их не прерывает.
04
grep, sed, awk и sort в конвейере заменяют разовую программу; повторяемая обработка переносится на Python.
05
Диагностика выполняется сверху вниз по подсистемам, и каждое предположение подтверждается измерением.
Мерилом является не число выученных команд, а число действий, выполняемых одной строкой вместо ручной работы.
Изложение. Осваивать всё сразу не требуется. Рекомендуемый порядок: сначала слепая печать и полноценный терминал, затем привычка обращаться к man вместо поисковой системы, затем tmux, позволяющий не терять расчёты на кластере при обрыве связи, и уже после этого grep, awk и sed. Каждый следующий инструмент осваивается на реальной задаче, а не заранее и впрок. Мерилом является не число выученных команд, а то, сколько действий, прежде выполнявшихся вручную, теперь выполняется одной строкой.
Следующая лекция, «Внутренности Linux», посвящена процессам, сигналам и межпроцессному взаимодействию.

Домашнее заданиеНастройка рабочего места
01
Эмулятор терминала и одна фраза, объясняющая выбор
02
PS1 вида login@your-login-at-nsu: тремя цветами
03
asciinema для записи скринкастов
Практика: запись в asciinema
01
gtypist, упражнение S3
02
The Command Line Murders
03
Машина с Ubuntu по ssh: ядра, память, диск, IOPS, сеть
04
Однострочник на curl, раз в секунду
05
perf record и perf report; (*) zstd с отладочными символами
Требования к сдаче
На записи виден результат, а не только набор команды
gtypist: Raw speed, Adjusted speed и процент ошибок
curl: несколько строк вывода со всеми шестью полями
Мониторинг: ответы на все пять вопросов
(*) запись perf report и имя самой нагруженной функции с файлом исходников
Репозиторий: github.com/phys-dev/linux-tools-task · глава «Инструменты Linux»
Изложение. Домашнее задание состоит из двух частей. В первой обустраивается рабочее место: устанавливается эмулятор терминала (в отчёте указывается выбор и одна фраза, объясняющая его), приглашение PS1 оформляется в виде login@your-login-at-nsu: тремя цветами, устанавливается asciinema. Во второй части каждое упражнение записывается скринкастом asciinema: прохождение упражнения S3 в gtypist, решение The Command Line Murders, мониторинг машины с Ubuntu по ssh (ядра и модель процессора, память, место на диске, загрузка диска по IOPS, скорость и загрузка сетевого интерфейса), однострочник на curl, который раз в секунду выводит метку времени, код ответа, времена установки TCP- и TLS-соединения, первого байта и полное время, и запись perf record с просмотром perf report. Задание со звёздочкой состоит в сборке zstd с отладочными символами, снятии профиля с процесса сжатия и поиске в исходниках самой нагруженной функции.
Отличие от исходного курса: вместо машины в облаке подходит любая виртуальная машина с Ubuntu, доступная по ssh, в том числе локальная.

Типичные
ошибки
01
Команды скопированы со слайдов
типографские тире и кавычки (–P10, “cmd”) оболочка не понимает
02
Цвета в PS1 без \[ и \]
bash неверно вычисляет длину приглашения, и курсор при редактировании смещается
03
perf record в ВМ без -e cpu-clock
аппаратное событие cycles недоступно, запись завершается ошибкой
04
Сжатие из /dev/urandom не прервано
cat /dev/urandom | zstd … работает бесконечно, out.zst растёт
05
На записи нет результата
gtypist закрыт до статистики, у однострочника видна одна строка
06
ethtool не сообщает Speed
у виртуального интерфейса скорость часто не определена; в отчёте объясняется, как получен ответ
Изложение. На слайде приведены ошибки, наиболее часто допускаемые при выполнении задания. Команды, скопированные из документов с типографскими тире и кавычками, не работают: оболочка воспринимает –P10 как имя файла, поэтому команды набираются вручную. Непечатаемые последовательности цвета в PS1 заключаются в \[ и \], иначе bash неверно считает длину приглашения, и при редактировании длинной строки курсор оказывается не на своём месте. В виртуальной машине perf record использует программное событие cpu-clock. Команда cat /dev/urandom | zstd … из задания со звёздочкой не завершается сама: профиль снимается, пока она работает, затем сжатие прерывается Ctrl+C, а out.zst удаляется. На каждой записи должен быть виден результат. У виртуального сетевого интерфейса ethtool может не сообщить скорость (Speed: Unknown); это ожидаемо, и в отчёте объясняется, каким способом получен ответ.

Источники1
Книга курса: глава «Инструменты Linux»
phys-dev.github.io/soft-dev-book
2
Лекция «Инструменты Linux», КИТ 2024, Young&&Yandex; И. Жидков
youtube.com/watch?v=PI4bkN-m0oI
3
Gregg B. Systems Performance: Enterprise and the Cloud. – 2nd ed. – Addison-Wesley, 2020
brendangregg.com/linuxperf.html
4
Стенберг Д. Мастер-класс по curl
youtube.com/watch?v=V5vZWHP-RqU
5
The Command Line Murders
github.com/veltman/clmystery
6
Интерактивные упражнения по grep, sed и awk
learnbyexample.github.io/interactive-grep-sed-awk-exercises
7
Страницы руководства: bash(1), signal(7), xargs(1), tmux(1), curl(1), perf-record(1)
Изложение. Основой лекции служат глава книги курса «Инструменты Linux» и лекция «Инструменты Linux» курса КИТ 2024 (Young&&Yandex). Для самостоятельного изучения диагностики рекомендуется книга Б. Грегга и его карты инструментов, для curl — мастер-класс автора программы. Для практики обработки текста — квест The Command Line Murders и интерактивные упражнения learnbyexample. Статистика по редакторам взята из Stack Overflow Developer Survey 2023 (survey.stackoverflow.co/2023).

Спасибо за вниманиеВопросы
phys-dev.github.io/soft-dev-book
^D
Изложение. Символ на последнем слайде — Ctrl+D, конец ввода: оболочка, получив его на пустой строке, завершает работу. Лекция завершается ответами на вопросы по её содержанию и по домашнему заданию.