Приходилось ли кастомизировать документацию

Да, приходилось. Использовал Sphinx для генерации документации из docstring в проектах. Кастомизировал тему (например, через html_theme = 'sphinx_rtd_theme'), добавлял логотип, настраивал навигацию.

Пример конфигурации conf.py:

extensions = ['sphinx.ext.autodoc', 'sphinx.ext.napoleon']
html_theme = 'sphinx_rtd_theme'
html_logo = '_static/logo.png'
html_static_path = ['_static']

Также использовал autodoc для автоматического включения docstring из кода. Для улучшения читаемости применял Google-стиль docstring:

def calculate(a, b):
    """Sum two numbers.

    Args:
        a (int): First number.
        b (int): Second number.

    Returns:
        int: Sum of a and b.
    """
    return a + b

Иногда подключал дополнительные расширения, например sphinx-autobuild для live-релоада.