Переносим кэш Python.

Всем привет. 

Уверен, что многие из вас, работая с GenAI, рано или поздно сталкивались с нехваткой свободного места на системном диске. 

Часто полагают, что проблема именно в самой генераторе, и что он непомерно "жрёт" дисковое пространство, но это не совсем так, большую часть места "съедает" кэш самого Python и устанавливаемые зависимости, коих для корректной работы любой нейросети используется достаточно большое количество. И в процессе, вы, поиграв с одной нейросетью, и даже удалив её и поставив другую в недоумении смотрите на цифры и не понимаете, куда же сегодня делось еще 10 Гб с диска "С".

Чтобы хоть частично решить эту проблему, мы можем изменить директорию, куда скачиваются устанавливаемые файлы зависимостей и в которой хранится кэш, и сделать это можно несколькими способами.

Лично я рекомендую использовать ВСЕ способы ВМЕСТЕ если вы пользуетесь портабельными версиями ИИ-генераторов. Ибо далеко не каждый генератор портабелен на все 100% и свой кэш может легко забрасывать на ваш системный диск. Особенно этим грешат сборки Spaces.

Способ 1. 

Измените переменную среды ТЕМР в своей ОС. Да, да, это банально, но частенько мы забываем что по умолчанию пользовательская "времянка" в Windows тоже указывает на системный диск.

Чтобы настроить переменные среды, нажмите правой кнопки мыши на Мой Компьютер - Свойства - Дополнительные параметры системы - в окне "Свойства системы" нажмите "Переменные среды". Нажмите на переменную, которую вы хотите изменить, нажмите "Изменить".

Способ 2. 

Задайте, или измените если она существует, переменную среды PIP_CACHE_DIR в своей ОС. После этого все операции установки пакетов с использованием PlP будут использовать указанную директорию для хранения кэша. Шаги те же что и в 1-м способе.

Способ 3. 

Задайте, или измените если она существует, переменную среды XDG_CACHE_HOME в своей ОС. Это наследие Linux с которым теперь приходиться сражаться и в Windows. Переменная XDG_CACHE_HOME является стандартом из XDG Base Directory Specification, который происходит из Linux-среды. Однако многие библиотеки Python, независимо от операционной системы (включая Windows), поддерживают эту переменную среды как способ определения места хранения кэша.

Способ 4. 

Задайте, или измените если он существует, глобальный кэш для PIP. Откройте командную строку прописав в ней команду:

..\python_embeded\python.exe -m pip config list

или

..\python_embeded\python.exe -m pip config get global.download-cache

..\python_embeded\python.exe -m pip config get global.cache-dir

Update ComfyUI Pytorch.

Всем привет.

Современный ComfyUI должен работать как минимум на версиях:

• pytorch version: 2.5.1+cu124
• xformers version: 0.0.28.post3

Ok, но дело в том что апдейт pytorch-a надо пользователю выполнить самому, потому его шаги будут следующие(автор алгоритма Antinoice).

Сначала удалим действующую версию pytorch:

  1) python.exe -m pip install xformers

  2) python.exe -m pip uninstall torch

Это процесс установки xformers, совместимого с Pytorch 2.5.1, и удаления torch для работы процессора, который устанавливается одновременно.

  3) python.exe -m pip uninstall torchvision

  4) python.exe -m pip uninstall torchaudio

Теперь сама установка:

Перейдем на сайт: https://pytorch.org/ и выберем интересующую нас конфигурацию pytorch как показано на картинке ниже:

Вы сформировали нужную нам команду для установки, копируем её.

Теперь перейдем в папку \python_embeded и в адресной строке папки наберем cmd и жмем Enter - откроется консоль командной строки.

В ней вставляем нашу команду установки pytorch:

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124

Также можно установить pytorch вручную:

  1) python.exe -m pip install torch --index-url https://download.pytorch.org/whl/cu124

  2) python.exe -m pip install torchvision --index-url https :/ /download.pytorch.org/whl/cu124

  3) python.exe -m pip install torchaudio --index-url https://download.pytorch.org/whl/cu124

Здесь также вы можете установить и библиотеки с onnx, и insightface:

  1) python.exe -m pip install onnx

  2) python -m pip install onnxruntime-gpu --upgrade

  3) python.exe -m pip install onnx insightface

Для завершения и применения настроек просто запустите Comfyui.

Если у вас видеокарта выше RTX3000 серии то рекомендуется использовать перекрестное внимание pytorch cross attention в параметрах запуска. Если видеокарты ниже этого уровня используем xformers.

После обновления pytorch также рекомендуется установить или обновить CuDNN. Здесь официальная инструкция от nvidia:

https://docs.nvidia.com/deeplearning/cudnn/latest/installation/windows.html

Ну вот и все, поздравляю. От себя добавлю - я все команды заношу в отдельный bat-файл, чтобы иметь историю своих ручных операций з ComfyUI.

Удачи.