Оптимизация ComfyUI.

Всем привет.

Все чаще меня удручает тот факт, что имеющаяся в моем распоряжении видавшая виды GTX 1080 чудовищно медленно обрабатывает workflow с SD3M/SDXL/Flux моделями - генерация картинки идёт со скоростью до 30 секунд на каждую итерацию, и, если учесть, что параметр «Steps» в пробном workflow установлен в значение «22», времени уходит неоправданно много.

Поэтому проведём небольшую оптимизацию ComfyUI - воспользуемся Python-модулем venv (virtual environments, очень полезная вещь между прочим), призванным, в частности, ускорять работу генеративных ИИ-моделей. В комплект поставки портативной версии ComfyUI он не входит, однако есть множество способов его установки, которые в итоге сводятся к развёртыванию полноценного окружения Python на локальном ПК - и активации необходимого модуля уже из этого окружения.

Среди истинных фанатов генеративного ИИ давно водится за правило иметь у себя несколько популярных генераторов как то AUTOMATIC1111, Forge, Fooocus и ComfyUI.

В этом случае для нас всё значительно проще: модуль venv уже развёрнут в AUTOMATIC1111, и всё, что требуется сделать для активации его при запуске рабочей среды ComfyUI, - это должным образом произвести его вызов. 

Скопируем наш run_nvidia_gpu.bat в новый, с именем, допустим, run_with_venv.bat. Исходный файл запуска весьма лаконичен — он просто вызывает портативно развёрнутую копию Python с параметром --windows-standalone-build:

.\python_embeded\python.exe -s ComfyUI\main.py --windows-standalone-build

pause

CapCut та AI.

Привіт всім.

Так, зовсім недавно популярний редактор CapCut мав в собі функції ШІ. Але це схоже був рекламний хід щоб надати цим функціям комерційну складову. Зараз нас про ці "смаколики" нас попереджають ось таким банером:

Шановні користyвачі CapCut! 

Дякуємо за вашу тривалу підтримку CapCut. 

Надання деяких із наших ШІ-функцій буде припинено 16 липня 2024 року. Після припинення ви не зможете зберегти будь-який створений за допомогою них контент. До дати припинення переконайтеся, що весь контент збережено, щоб уникнути втрат. 

Буде припинено надання таких функцій: 

1. ШІ-текст 

2. ШІ-стікери 

3. Відео за сценаріем 

4. ШІ-сценарист 

5. Деякі стилі й фотоефекти 

Ми вдячні за розуміння й перепрошуемо за будь-які завдані незручності, у разі виникнення будь-яких запитань або для отримання допомоги натисніть значок «Відryк» у правому верхньому куті, щоб надіслати відгук. 

Ще раз дякуємо за підтримку CapCut i бажаємо творчих успіхів! 

Що цікаво - ні приєднання до комьюніті CapCut, ні використання VPN не полегшують справу, тобто доступ до цих функцій ШІ закрито. Але є одне але - деякі пункти, наприкад 1,2 та 4й можно побачити відразу після інсталяції CapCut. І навіть спробувати ними скористатися.) До першого перезавантаження або оновлення. Судячи з того що я встиг побачити, CapCut використовував DALL-E.

Побачимось.

ComfyUI metadata у файлі відео.

Всім привіт.

Дещо новеньке для мене щодо ComfyUI. 

Ви напевно знаєте що ComfyUI дає змогу нам генерувати короткі відео за допомогою AnimateDiff або SVD. Так от, один АІ-гуру виклав в обмежений доступ нову інструкцію щодо генерації таких відео вже разом з популярною моделлю Flux. Ви напевно розумієте що в цьому випадку для неновачка вистачить самого workflow. Так от, і вже не вперше), я беру результат(demo) генерації з його персонального блогу, а це файл mp4, і бачу що автор знову забув видалити з нього метадані.

Так, це той самий workflow, який мені стане в нагоді для досліджень в ComfyUI. Не вірете, то ви можете завантажити файл mp4 так само як і jpeg, png або json через меню Load в GUI ComfyUI. Тому я вважаю що краще робити таку демонстрацію через Youtube, або все ж таки відключати збереження metadata у відповідних нодах відразу на початку експериментів.

Щасти вам і Слава Україні!

Фільтрація в Excel.

Всім привіт.

Ніби не планував писати сьогодні довідку, але воно забувається час від часу. 

Ось колега мене знову перепитує як включити фільтрацію по двох несуміжних стовбчиках в таблиці Excel. Нічого дивного, але це можливо тільки при виконанні деяких умов, тому маємо наступне:

1) фільтр на несуміжних стовбчиках має бути накладений на всі стовбчики які знаходяться між ними. Тільки так, а ви просто користуєтесь перемиканням по значенням фільтру тільки в тих стовбчиках які вам потрібні.

2) якщо вам не подобається перше рішення, то просто виконайте переміщення необхідного стовбчика ближче одне до одного. І все, тепер фільтр буде працювати на стовбчиках поруч.)

Щасти вам.

About ComfyUI API.

Hi all.

In today’s digital landscape, the ability to connect and communicate seamlessly between  applications and AI models has become increasingly valuable. Comfy  UI offers a  user-friendly interface that enables the creation of  API surfers, facilitating the interaction with other  applications and AI models to generate images or videos. While this process may initially seem daunting, it is relatively straightforward with a basic understanding of programming skills. In this blog post, we will explore the steps involved in setting up an API surfer using Comfy UI and delve into the potential it holds for expanding your creative possibilities. By the way, Stability Matrix uses ComfyUI as a backend system!

Enabling Developer Mode and Saving API Format

To begin creating your  API surfer, you will need to install the Comfy  UI manager. Once installed, access the settings menu by clicking on the gear icon. Within the settings, enable the developer mode option. This enables the functionality to save your  workflows as  API formats. By saving your  workflow diagrams in this format, Comfy UI can run them from the backend of the surfer, allowing for seamless integration with other applications.

Comfy UI as a Web Server

Comfy UI acts as a web server, providing a platform to utilize its features. Upon starting Comfy UI, various command prompts and files are loaded, configuring your system and installing custom notes. The web interface is accessed through a localhost link, enabling users to interact with Comfy  UI via their web browsers. As we proceed, we will connect and utilize the provided ComfyUI script examples:

Directory of D:\ComfyUI\script_examples

basic_api_example.py

websockets_api_example.py

More scripts about ComfyUI API you can take from here https://github.com/yushan777?tab=repositories

If you will use API via websocket so you have to install websocket-client  from https://github.com/websocket-client/websocket-client before.

Установка модели FLUХ.

Всем привет.

Говорят что нашумевшая новая модель FLUХ на уровне MJ а иногда и лучше. Интересует? 

Тогда ниже инструкция ниже для тех, кто хочет установить FLUХ локально. Пока только на ComfyUI (только вчера прикрутили ее к Forge). Модели весят прилично и железо должно быть адекватным.  Я пробовал на GTX 1080 Ti VRAM 11Gb и ОЗУ 32 ГБ. Не летает, но работать можно.

ВНИМАНИЕ: на сегодня автором FLUХ файлы sft переименованы в safetensors.

Пошаговая инструкция по установке.

1. Ставим енкодер t5xxl_fp16.safetensors - если оперативной памяти от 32 Гб и больше.

Ставим енкодер t5xxl_fp8_e4m3fn.safetensors  - если оперативной памяте меньше 32 ГБ, но не менее 8 Гб.

Качаем их отсюда https://huggingface.co/comfyanonymous/flux_text_encoders/tree/main

и размещаем сюда: ComfyUI/models/clip/

 2. Ставим VAE

Качаем отсюда https://huggingface.co/black-forest-labs/FLUX.1-schnell/blob/main/ae.sft (окол 300 мгб)

и размещаем сюда: ComfyUI/models/vae/ folder

3. Ставим саму модель FLUХ.

⚡️МОДЕЛЬ Flux Dev (не менее 20-ти шагов генерации, медленнее но качественнее).

Скачиваем модель Flux Dev https://huggingface.co/black-forest-labs/FLUX.1-dev/tree/main (24 ГБ)

и размещаем сюда: flux1-dev.sft в папку: ComfyUI/models/unet/

ИЛИ

⭐️ МОДЕЛЬ Flux Schnel это дистиллированная модель (не менее 4-х шагов генерации).

Качаем здесь https://huggingface.co/black-forest-labs/FLUX.1-schnell/blob/main/flux1-schnell.sft

и размещаем сюда: ComfyUI/models/unet/

Совет: если у вас в процессе заканчивается ОЗУ то вы можете установить weight_dtype в узле “Load Diffusion Model” (модель распределения нагрузки) на fp8, что снизит использование памяти вдвое, но может немного снизить качество. Хотя я бы не спешил на вашем месте - у меня так же заканчивалось ОЗУ, но Windows умеет работать с swap-файлом и все разрулили сама.

Также можно добавить ключик --lowvram в строку запуска ComfyUI в файл "run_nvidia_gpu.bat".

Примеры самого процесса найдете здесь

https://github.com/comfyanonymous/ComfyUI_examples/tree/master/flux

Удачи.

Use Everywhere.

Всім привіт.

Мені подобається ComfyUI, але для мене це постійна боротьба між збереженням порядку на робочому просторі та можливістю швидкого доступу до налаштувань всіх нод процесу.

Ось, наприклад, мій основний робочий процес SDXL base & Upscaler.

Використовуючи Bus Node (вузол від WAS), це допомагає організовувати речі. Але, як ви можете собі уявити, якщо я дивлюся на попередній перегляд зображень, необхідність повернутися до вузлів підказок означає прокручування назад ліворуч, і це може застаріти.

Хоча я можу приховати з’єднання та розташувати вузли як завгодно, можливість перегляду потоку керування іноді допомагає. Тому використовуйте вузли Use Everywhere (UE) для «широкомовної передачі» даних на будь-який непідключений вхід, який відповідає типу даних і необов’язковим правилам. Подумайте про це з точки зору використання кабелю Ethernet під ногами проти Wi-Fi .

Щоб показати вам, що я маю на увазі, давайте розглянемо простий робочий процес.

Вище наведено базовий робочий процес SD1.5. Він знову використовує шинний вузол. Давайте додамо вузол UE, який прийматиме 3 входи, Anything Everywhere3 .

CLI commands for servers

Hi all.

Today I have a bit of manual for you on the command line (CLI) of HP, IBM and DELL. If you have such servers, it will be useful to you.

CLI commands of HP ILO  to view or diagnosing:

В режиме проектора.

Всем привет.

По работе нам срочно нужно расширить рабочий стол ноутбука на другой монитор. Но если монитора под рукой нет, он как вещь все-таки стационарная,  а есть еще один ноутбук (почти норма) то можно его расширить на дисплей  другого ноутбука.

И это штатная фишка Windows которая называется "Режим проектора".

Вариант 1: ноутбук на ноутбук

Режим проектора подходит, когда нужно расширить рабочий стол ноутбука на дисплей другого ноутбука.

Для этого на одном ноуте нужно запустить режим проектора: "Win+K → Projecting to this PC" или "Settings → Projecting to this PC → Launch the Connect app to project to this PC" (на скриншоте слева). Если опции на странице настроек недоступны, то нужно установить "Wireless Display" в "Settings → Optional features". По умолчанию он не установлен.

Чтобы подключиться к этому "проектору", на другом ноуте нужно сделать: "Win+P → Extend, Connect to wireless display" (на скриншоте справа).

После этого вторым ноутбуком можно пользоваться как дополнительным монитором, можно перетаскивать окна приложений с одного экрана на другой.

Mouse without borders.

Hi all.

Mouse Without Borders was developed to make it possible to control a number of Windows computers with a single set of user peripherals. That is, by setting up a single point of control, a person can take control of up to 4 PCs with one keyboard/mouse connection. The program is therefore a productivity enhancement utility, a way of centralizing computer-controlled tasks in a highly efficient manner. Born out of a need for work output streamlining, the program has much to offer, including numerous setup options.

Right from the start, a workstation manager can tailor Mouse Without Borders in several ways. There's the benefit of a sharable clipboard to explore. When this option is set, copied data can be spread across multiple machines, which means all computers gain access to shared data. For example, the main computer might share a project document or image. Seamlessly, the utility then distributes the data to all machines, as if the clipboard is a single group asset. Of course, before such projects can be assigned, there's the system layout to configure. The machine centralizing utility rises to the challenge here by providing a straightforward setup routine.

After the software is installed, that's when the setup procedure is accessed. In here, the user defines the primary computer and assigns the roles of the satellite devices. These could be desktop computers or laptops. One keyboard and one mouse then take control of the primary/remote machines. Again, this setup is incredibly useful in an environment where a person is using multiple computers. Let's say an executive uses an office laptop, but they also have access to the office desktop and a second laptop. Using Mouse Without Borders, project assets are shared, processed, and stored simultaneously on all three computers. Productivity figures rise, the project is completed, and everyone's happy. And that's one scenario out of many. It's a far better office layout than having mouse and keyboard cables strewn everywhere while a harassed worker jumps between each machine in an effort to keep them all updated.

A security code is required to group the chosen primary and slave computers. It's generated by the initialization routine. That code should be noted down during the setup portion of the installation. During this period, there are a number of optional settings to decide upon in the tool menu. Decide whether the mouse pointer will live on the main computer or be able to cross over onto the slave machines. Customize keyboard shortcuts and create personalized logon screens, complete with localized pictures. All-in-all, with such customizable options embedded from the start, Mouse Without Borders is a workstation centralizing utility with much to offer.

Pros:

• Controls up to 4 Windows computers with one mouse and keyboard
• It's fast and not a memory hog
• The program is highly customizable

Cons:

• The mouse sometimes lags on secondary machines
• Users are waiting for a new version that works on Windows 11

Good luck.