Что полезного можно найти в системных логах

Пора поговорить про удобную работу с логами, тем более что в Windows есть масса неочевидных инструментов для этого. Например, Log Parser, который порой просто незаменим.

В статье не будет про серьезные вещи вроде Splunk и ELK (Elasticsearch + Logstash + Kibana). Сфокусируемся на простом и бесплатном.

До появления PowerShell можно было использовать такие утилиты cmd как find и findstr. Они вполне подходят для простой автоматизации. Например, когда мне понадобилось отлавливать ошибки в обмене 1С 7.7 я использовал в скриптах обмена простую команду:

findstr “Fail” *.log >> fail.txt

Она позволяла получить в файле fail.txt все ошибки обмена. Но если было нужно что-то большее, вроде получения информации о предшествующей ошибке, то приходилось создавать монструозные скрипты с циклами for или использовать сторонние утилиты. По счастью, с появлением PowerShell эти проблемы ушли в прошлое.

Основным инструментом для работы с текстовыми журналами является командлет Get-Content, предназначенный для отображения содержимого текстового файла. Например, для вывода журнала сервиса WSUS в консоль можно использовать команду:

Get-Content -Path ‘C:Program FilesUpdate ServicesLogFilesSoftwareDistribution.log’ | Out-Host -Paging

Для вывода последних строк журнала существует параметр Tail, который в паре с параметром Wait позволит смотреть за журналом в режиме онлайн. Посмотрим, как идет обновление системы командой:

>Get-Content -Path “C:WindowsWindowsUpdate.log” -Tail 5 -Wait

Смотрим за ходом обновления Windows.

Если же нам нужно отловить в журналах определенные события, то поможет командлет Select-String, который позволяет отобразить только строки, подходящие под маску поиска. Посмотрим на последние блокировки Windows Firewall:

Select-String -Path “C:WindowsSystem32LogFilesFirewallpfirewall.log” -Pattern ‘Drop’ | Select-Object -Last 20 | Format-Table Line

Смотрим, кто пытается пролезть на наш дедик.

При необходимости посмотреть в журнале строки перед и после нужной, можно использовать параметр Context. Например, для вывода трех строк после и трех строк перед ошибкой можно использовать команду:

Select-String ‘C:WindowsClusterReportsCluster.log’ -Pattern ‘ err ‘ ‑Context 3

Оба полезных командлета можно объединить. Например, для вывода строк с 45 по 75 из netlogon.log поможет команда:

Get-Content ‘C:Windowsdebugnetlogon.log’ | Select-Object -First 30 -Skip 45

Журналы системы ведутся в формате .evtx, и для работы с ними существуют отдельные командлеты. Для работы с классическими журналами («Приложение», «Система», и т.д.) используется Get-Eventlog. Этот командлет удобен, но не позволяет работать с остальными журналами приложений и служб. Для работы с любыми журналами, включая классические, существует более универсальный вариант ― Get-WinEvent. Остановимся на нем подробнее.

Для получения списка доступных системных журналов можно выполнить следующую команду:

Get-WinEvent -ListLog *

Вывод доступных журналов и информации о них.

Для просмотра какого-то конкретного журнала нужно лишь добавить его имя. Для примера получим последние 20 записей из журнала System командой:

Get-WinEvent -LogName ‘System’ -MaxEvents 20

Последние записи в журнале System.

Для получения определенных событий удобнее всего использовать хэш-таблицы. Подробнее о работе с хэш-таблицами в PowerShell можно прочитать в материале Technet about_Hash_Tables.

Для примера получим все события из журнала System с кодом события 1 и 6013.

Get-WinEvent -FilterHashTable @{LogName=’System’;ID=’1′,’6013′}

В случае если надо получить события определенного типа ― предупреждения или ошибки, ― нужно использовать фильтр по важности (Level). Возможны следующие значения:

• 0 ― всегда записывать;
• 1 ― критический;
• 2 ― ошибка;
• 3 ― предупреждение;
• 4 ― информация;
• 5 ― подробный (Verbose).

Собрать хэш-таблицу с несколькими значениями важности одной командой так просто не получится. Если мы хотим получить ошибки и предупреждения из системного журнала, можно воспользоваться дополнительной фильтрацией при помощи Where-Object:

Get-WinEvent -FilterHashtable @{LogName=’system’} | Where-Object -FilterScript {($_.Level -eq 2) -or ($_.Level -eq 3)}

Ошибки и предупреждения журнала System.

Аналогичным образом можно собирать таблицу, фильтруя непосредственно по тексту события и по времени.

Подробнее почитать про работу обоих командлетов для работы с системными журналами можно в документации PowerShell:

• Get-EventLog.
• Get-WinEvent.

PowerShell ― механизм удобный и гибкий, но требует знания синтаксиса и для сложных условий и обработки большого количества файлов потребует написания полноценных скриптов. Но есть вариант обойтись всего-лишь SQL-запросами при помощи замечательного Log Parser.

Утилита Log Parser появилась на свет в начале «нулевых» и с тех пор успела обзавестись официальной графической оболочкой. Тем не менее актуальности своей она не потеряла и до сих пор остается для меня одним из самых любимых инструментов для анализа логов. Загрузить утилиту можно в Центре Загрузок Microsoft, графический интерфейс к ней ― в галерее Technet. О графическом интерфейсе чуть позже, начнем с самой утилиты.

О возможностях Log Parser уже рассказывалось в материале «LogParser — привычный взгляд на непривычные вещи», поэтому я начну с конкретных примеров.

Для начала разберемся с текстовыми файлами ― например, получим список подключений по RDP, заблокированных нашим фаерволом. Для получения такой информации вполне подойдет следующий SQL-запрос:

SELECT
extract_token(text, 0, ‘ ‘) as date,
extract_token(text, 1, ‘ ‘) as time,
extract_token(text, 2, ‘ ‘) as action,
extract_token(text, 4, ‘ ‘) as src-ip,
extract_token(text, 7, ‘ ‘) as port
FROM ‘C:WindowsSystem32LogFilesFirewallpfirewall.log’
WHERE action=’DROP’ AND port=’3389′
ORDER BY date,time DESC

Посмотрим на результат:

Смотрим журнал Windows Firewall.

Разумеется, с полученной таблицей можно делать все что угодно ― сортировать, группировать. Насколько хватит фантазии и знания SQL.

Log Parser также прекрасно работает с множеством других источников. Например, посмотрим откуда пользователи подключались к нашему серверу по RDP.

Работать будем с журналом TerminalServices-LocalSessionManagerOperational.

Не со всеми журналами Log Parser работает просто так ― к некоторым он не может получить доступ. В нашем случае просто скопируем журнал из %SystemRoot%System32WinevtLogsMicrosoft-Windows-TerminalServices-LocalSessionManager%4Operational.evtx в %temp%test.evtx.

Данные будем получать таким запросом:

SELECT
timegenerated as Date,
extract_token(strings, 0, ‘|’) as user,
extract_token(strings, 2, ‘|’) as sourceip
FROM ‘%temp%test.evtx’
WHERE EventID = 21
ORDER BY Date DESC

Смотрим, кто и когда подключался к нашему серверу терминалов.

Особенно удобно использовать Log Parser для работы с большим количеством файлов журналов ― например, в IIS или Exchange. Благодаря возможностям SQL можно получать самую разную аналитическую информацию, вплоть до статистики версий IOS и Android, которые подключаются к вашему серверу.

В качестве примера посмотрим статистику количества писем по дням таким запросом:

SELECT
TO_LOCALTIME(TO_TIMESTAMP(EXTRACT_PREFIX(TO_STRING([#Fields: date-time]),0,’T’), ‘yyyy-MM-dd’)) AS Date,
COUNT(*) AS [Daily Email Traffic]
FROM ‘C:Program FilesMicrosoftExchange ServerV15TransportRolesLogsMessageTracking*.LOG’
WHERE (event-id=’RECEIVE’) GROUP BY Date ORDER BY Date ASC

Если в системе установлены Office Web Components, загрузить которые можно в Центре загрузки Microsoft, то на выходе можно получить красивую диаграмму.

Выполняем запрос и открываем получившуюся картинку…

Любуемся результатом.

Следует отметить, что после установки Log Parser в системе регистрируется COM-компонент MSUtil.LogQuery. Он позволяет делать запросы к движку утилиты не только через вызов LogParser.exe, но и при помощи любого другого привычного языка. В качестве примера приведу простой скрипт PowerShell, который выведет 20 наиболее объемных файлов на диске С.

$LogQuery = New-Object -ComObject “MSUtil.LogQuery”
$InputFormat = New-Object -ComObject “MSUtil.LogQuery.FileSystemInputFormat”
$InputFormat.Recurse = -1
$OutputFormat = New-Object -ComObject “MSUtil.LogQuery.CSVOutputFormat”
$SQLQuery = “SELECT Top 20 Path, Size INTO ‘%temp%output.csv’ FROM ‘C:*.*’ ORDER BY Size DESC”
$LogQuery.ExecuteBatch($SQLQuery, $InputFormat, $OutputFormat)
$CSV = Import-Csv $env:TEMP’output.csv’
$CSV | fl
Remove-Item $env:TEMP’output.csv’
$LogQuery=$null
$InputFormat=$null
$OutputFormat=$null

Ознакомиться с документацией о работе компонента можно в материале Log Parser COM API Overview на портале SystemManager.ru.

Благодаря этой возможности для облегчения работы существует несколько утилит, представляющих из себя графическую оболочку для Log Parser. Платные рассматривать не буду, а вот бесплатную Log Parser Studio покажу.

Интерфейс Log Parser Studio.

Основной особенностью здесь является библиотека, которая позволяет держать все запросы в одном месте, без россыпи по папкам. Также сходу представлено множество готовых примеров, которые помогут разобраться с запросами.

Вторая особенность ― возможность экспорта запроса в скрипт PowerShell.

В качестве примера посмотрим, как будет работать выборка ящиков, отправляющих больше всего писем:

Выборка наиболее активных ящиков.

При этом можно выбрать куда больше типов журналов. Например, в «чистом» Log Parser существуют ограничения по типам входных данных, и отдельного типа для Exchange нет ― нужно самостоятельно вводить описания полей и пропуск заголовков. В Log Parser Studio нужные форматы уже готовы к использованию.

Помимо Log Parser, с логами можно работать и при помощи возможностей MS Excel, которые упоминались в материале «Excel вместо PowerShell». Но максимального удобства можно достичь, подготавливая первичный материал при помощи Log Parser с последующей обработкой его через Power Query в Excel.

Приходилось ли вам использовать какие-либо инструменты для перелопачивания логов? Поделитесь в комментариях.

Для чего тестировщику менять ширину канала?

• Чтобы эффективно распределить траффик между всеми тестовыми устройствами
• Протестировать скорость передачи данных (ПРАВИЛЬНЫЙ)
• Моделировать проблемы с сетевым подключением

Что полезного можно найти в системных логах?

• Вывод данных
• Информацию о выполнении программ
• Сообщения об ошибках (ПРАВИЛЬНЫЙ)

Чем POST отличается от GET?

• GET для получения, POST для обновления (ПРАВИЛЬНЫЙ)
• GET для получения, POST для создания
• GET для обновления, POST для создания

Чем тестирование отличается от отладки?

• Предметно: поиском бага и причины бага (ПРАВИЛЬНЫЙ)
• Объемом и глубиной
• Ничем

Какое минимальное количество тестовых конфигураций необходимо, если локалей две: ru и en, поддерживаемые браузеры Chrome и Safari, а поддерживаемые версии iOS 9 и 10?

• 6
• 8 (ПРАВИЛЬНЫЙ)
• 4

Зачем тестировщику консоль в браузере?

• Для запуска тестов
• Для дебага (ПРАВИЛЬНЫЙ)
• Для дополнительной информации

Как называется список рекомендаций от Apple, в котором содержатся советы по созданию приложений?

• UIKit Guidelines
• Design Guidelines
• Human Interface Guidelines (ПРАВИЛЬНЫЙ)

Какой из протоколов не является защищенным?

• HTTPS
• SSH
• FTP (ПРАВИЛЬНЫЙ)

Как можно посмотреть содержимое
icmp-пакетов?

• Используя веб-прокси
• С помощью tcpdump (ПРАВИЛЬНЫЙ)
• Через dumpcap

 Что полезного для тестирования хранится в системных логах?

• Сообщения об ошибках (ПРАВИЛЬНЫЙ ОТВЕТ)
• Информация о выполнении программ
• Исходный код программ

В каких случаях тестирование является динамическим?

• В обоих перечисленных случаях (ПРАВИЛЬНЫЙ)
• При тестировании белого ящика
• При тестировании чёрного ящика

Что не используют для измерения объемов памяти?

• Кибибит
• Килобит (ПРАВИЛЬНЫЙ)
• Киобит

Что из перечисленного является устойчивым названием одного из элементов пользовательского интерфейса?

• TV button (ПРАВИЛЬНЫЙ)
• Radio button
• Music button

Какой из этих тестов негативный?

• Тестировщик заходит в бар и заказывает кружку пива
• Проникает в бар и заказывает 2 кружки пива
• Забегает в бар и заказывает 0 кружек пива (ПРАВИЛЬНЫЙ)

Чем тестирование производительности отличается от нагрузочного тестирования?

• Это одно и тоже
• Нагрузочное — при максимальных нагрузках, производительности — время отклика при различных нагрузках (ПРАВИЛЬНЫЙ)
• Тестирование производительности проводится при различных нагрузках, нагрузочное — при изменении нагрузки

Для чего нужно нагрузочное тестирование?

• Для анализа изменения состояния приложения под нагрузкой (ПРАВИЛЬНЫЙ)
• Для тестирования приложения во время его загрузки
• Для тестирования приложения во время загрузки данных с сервера

В чем отличие локализации от интернационализации?

• Интернационализация — поддержка стандартов, локализация — перевод на языки регионов
• Интернационализация — адаптация продукта для использования везде, локализация — в конкретных регионах (ПРАВИЛЬНЫЙ)
• Интернационализация — перевод строк на английский, локализация на другие языки

Что такое регрессионное тестирование?

• Тестирование, направленное на обнаружение вызванных внесенными изменениями багов в уже существующей функциональности (ПРАВИЛЬНЫЙ ОТВЕТ)
• Тестирование, направленное на обнаружение новых багов во всей функциональности продукта
• Тестирование, направленное на обнаружение ошибок в добавленной функциональности

На чьей стороне исполняется JavaScript? — Клиента

Чем отличаются браузеры? — Движком

Что такое UX? — Опыт взаимодействия пользователя с приложением

Что из этого не является частью тестирования производительности? — Функциональное тестирование

Поздравляем! 
Пять правильных ответов у Вас в кармане, добро пожаловать в Программу бета-тестирования ВКонтакте.