Как эффективно отлаживать графический конвейер

Иван Корнев·08.05.2026·⏱5 мин

Отладка GPU требует комбинации визуального анализа кадров и метрик производительности. Для поиска узких мест (bottlenecks) используйте профайлеры вроде NVIDIA Nsight или AMD Radeon GPU Profiler, а для исправления артефактов в шейдерах — интерактивные отладчики с пошаговым выполнением кода, такие как RenderDoc или PIX. Ключ к успеху — изоляция проблемы: сначала определите, лимитированы вы пропускной способностью памяти, вычислительными блоками или заполнением (fill-rate), и только затем приступайте к правке кода шейдеров.

Оглавление

Выбор инструментов: профайлеры vs отладчики

Инструментарий делится на две категории: те, что измеряют скорость, и те, что проверяют корректность.

  1. Frame Capturers (Отладчики состояния): Позволяют «заморозить» кадр, inspectить ресурсы (текстуры, буферы) и выполнять шейдеры по шагам.

    • RenderDoc: Кросс-платформенный стандарт индустрии. Поддерживает Vulkan, DirectX 11/12, OpenGL. Идеален для проверки логики рендеринга.
    • PIX (Windows): Лучший выбор для DirectX 12. Глубокая интеграция с Windows, мощный анализ куч памяти и командных списков.
    • Xcode Graphics Debugger: Незаменим при разработке под macOS/iOS (Metal).

  2. Performance Profilers (Анализаторы производительности): Показывают тайминги, загрузку блоков GPU и причины стеллинга (stalling).

    • NVIDIA Nsight Graphics / Systems: Детальная информация по архитектуре GeForce. Показывает warp occupancy, latency hiding.
    • AMD Radeon GPU Profiler (RGP): Визуализация волн (waves) и инструкций на уровне железа RDNA.
    • Intel GPA: Хорош для интегрированной графики и ранних стадий оптимизации.

Начинайте с RenderDoc для проверки корректности картинки. Если FPS низкий, переключайтесь на vendor-specific профайлеры (Nsight/RGP), так как они дают доступ к аппаратным счетчикам.

Профилирование: поиск узких мест производительности

Профилирование отвечает на вопрос «Почему медленно?». Современный GPU — это массивно-параллельное устройство, где узким местом может быть не только вычисление, но и ожидание данных.

Основные типы瓶颈 (Bottlenecks)

  1. CPU-bound: Процессор не успевает формировать команды (draw calls).

    • Симптомы: Низкая загрузка GPU, высокий CPU time в треде рендеринга.
    • Решение: Инстансинг, пакетирование вызовов (batching), использование многопоточного записи командных буферов.

  2. GPU Compute-bound: Шейдеры слишком сложные, мало потоков выполняется параллельно.

    • Симптомы: Высокое время выполнения pixel/vertex shaders, низкий occupancy.
    • Решение: Упрощение математики, уменьшение регистров на поток, оптимизация ветвлений (branching).

  3. Memory/Bandwidth-bound: Медленная чтение/запись текстур или буферов.

    • Симптомы: Высокая загрузка шины памяти, stall из-за ожидания данных.
    • Решение: Сжатие текстур (BC/ASTC), использование mipmaps, оптимизация доступа к памяти (coalescing в compute shaders).

  4. Fill-rate/Latency bound: Перекрытие пикселей (overdraw) или задержки синхронизации.

    • Симптомы: Много полупрозрачных объектов, сложные blending операции.
    • Решение: Сортировка opaque объектов front-to-back, ранний Z-test (Early-Z), уменьшение overdraw.

Процесс анализа кадра

  1. Сделайте захват кадра в нагруженной сцене.
  2. Посмотрите на Timeline: какой этап занимает больше всего времени?
  3. Изучите Heatmaps: визуализация overdraw или длительности выполнения пикселей.
  4. Проверьте State Binding: нет ли лишних переключений контекстов (pipeline state changes) внутри одного кадра.

Дебаг шейдеров: от артефактов к исправлению

Когда картинка выглядит неправильно (черные полигоны, мерцание, неверное освещение), нужен пошаговый дебаг.

Методика «Цветовой кодировки» (Debug Colors)

Если интерактивный дебагер недоступен, выводите промежуточные данные напрямую во фреймбуфер:

  • Выведите нормали в RGB (output.color = float4(normal * 0.5 + 0.5, 1)). Синий цвет должен преобладать для поверхностей, смотрящих в камеру.
  • Выведите UV-координаты. Градиент от черного к белому покажет растяжение текстур.
  • Выведите глубину (Depth). Помогает найти проблемы с z-fighting или неправильной проекцией.

Пошаговая отладка в RenderDoc/PIX

  1. Выбор пикселя: Кликните на проблемную область экрана.
  2. History View: Проследите цепочку draw call'ов, которые повлияли на этот пиксель.
  3. Shader Debugging:
    • Запустите выполнение шейдера для выбранного пикселя.
    • Используйте breakpoints внутри кода HLSL/GLSL.
    • Следите за значениями переменных в реальном времени. Обратите внимание на NaN (Not a Number) и Inf — они часто возникают при делении на ноль или извлечении корня из отрицательного числа.

Внимание к оптимизациям компилятора. В релизных билдах компилятор может выбросить неиспользуемые переменные или переставить инструкции. Для дебага шейдеров всегда используйте конфигурацию с отключенной агрессивной оптимизацией или специальные debug-флаги драйвера.

Типичные проблемы шейдеров

  • Неверные матрицы: Объект улетел в бесконечность или сплющился. Проверьте порядок умножения матриц (Row-major vs Column-major).
  • Проблемы с нормализацией: После интерполяции векторы (нормали, касательные) могут терять единичную длину. Всегда делайте normalize() во фрагментном шейдере перед использованием в освещении.
  • Precision errors: На мобильных устройствах (OpenGL ES/Metal) использование highp обязательно для позиций, иначе возникнет «дрожание» геометрии (jittering).

Типичные ошибки и способы их устранения

АртефактВероятная причинаРешение
Черные объектыОшибка компиляции шейдера (тихо проигнорирована) или нулевые текстурыПроверьте логи компиляции, убедитесь, что дескрипторы текстур валидны
Мерцание (Z-fighting)Совпадение глубины двух поверхностейУвеличьте Near Plane камеры, используйте glPolygonOffset или bias в тенях
«Лестница» на краях (Aliasing)Отсутствие сглаживанияВключите MSAA, TAA или FXAA. Проверьте настройки сэмплеров текстур
Розовые/Шахматные текстурыMissing texture или неверный форматПроверьте пути к ассетам и поддержку формата текстуры на данном GPU
Артефакты тенейНеправильный Bias или разрешение карты тенейНастройте Normal Bias и Depth Bias, используйте PCF/VSM фильтры

FAQ: Частые вопросы по отладке графики

В: Почему профайлер показывает разное время на одном и том же кадре? О: GPU работает асинхронно. Время может зависеть от thermal throttling, фоновых процессов ОС или вариативности загрузки драйвера. Делайте серию замеров (например, 100 кадров) и смотрите на среднее значение (avg) и 99-й перцентиль (worst case).

В: Как отлаживать Compute Shaders? О: В RenderDoc выберите вкладку «Compute». Вы можете запустить шейдер для конкретной группы потоков (thread group). Важно проверять shared memory (groupshared) и барьеры синхронизации (GroupMemoryBarrierWithGroupSync), так как гонки данных (race conditions) здесь наиболее часты.

В: Что делать, если игра падает с ошибкой драйвера (TDR)? О: Это значит, что GPU выполнял задачу дольше установленного лимита времени (обычно 2 секунды на Windows). Разбейте тяжелые вычисления на несколько кадров или оптимизируйте самый долгий draw call. Используйте PIX для поиска конкретного места зависания.

В: Можно ли отлаживать шейдеры на мобильном устройстве? О: Да. Используйте Remote Profiling. Например, Snapdragon Profiler для Android или Xcode для iOS. Подключите устройство по USB, сделайте захват кадра на ПК и анализируйте его там. Прямой дебаг на устройстве сильно замедляет рендеринг.