Tuesday, 24 December 2024

Update ComfyUI Pytorch.

Всем привет.

Современный ComfyUI должен работать как минимум на версиях:

  • pytorch version: 2.5.1+cu124
  • xformers version: 0.0.28.post3

Ok, но дело в том что апдейт pytorch-a надо пользователю выполнить самому, потому его шаги будут следующие(автор алгоритма Antinoice).

Сначала удалим действующую версию pytorch:

  1) python.exe -m pip install xformers

  2) python.exe -m pip uninstall torch

Это процесс установки xformers, совместимого с Pytorch 2.5.1, и удаления torch для работы процессора, который устанавливается одновременно.

  3) python.exe -m pip uninstall torchvision

  4) python.exe -m pip uninstall torchaudio

Теперь сама установка:

Перейдем на сайт: https://pytorch.org/ и выберем интересующую нас конфигурацию pytorch как показано на картинке ниже:


Вы сформировали нужную нам команду для установки, копируем её.

Теперь перейдем в папку \python_embeded и в адресной строке папки наберем cmd и жмем Enter - откроется консоль командной строки.

В ней вставляем нашу команду установки pytorch:

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124

Также можно установить pytorch вручную:

  1) python.exe -m pip install torch --index-url https://download.pytorch.org/whl/cu124

  2) python.exe -m pip install torchvision --index-url https :/ /download.pytorch.org/whl/cu124

  3) python.exe -m pip install torchaudio --index-url https://download.pytorch.org/whl/cu124

Здесь также вы можете установить и библиотеки с onnx, и insightface:

  1) python.exe -m pip install onnx

  2) python -m pip install onnxruntime-gpu --upgrade

  3) python.exe -m pip install onnx insightface

Для завершения и применения настроек просто запустите Comfyui.

Если у вас видеокарта выше RTX3000 серии то рекомендуется использовать перекрестное внимание pytorch cross attention в параметрах запуска. Если видеокарты ниже этого уровня используем xformers.

После обновления pytorch также рекомендуется установить или обновить CuDNN. Здесь официальная инструкция от nvidia:

https://docs.nvidia.com/deeplearning/cudnn/latest/installation/windows.html

Ну вот и все, поздравляю. От себя добавлю - я все команды заношу в отдельный bat-файл, чтобы иметь историю своих ручных операций з ComfyUI.

Удачи.

Sunday, 22 December 2024

Лайфхаки для Fooocus.

Привет всем.

Сегодня парочка лайфхаков для любителей Fooocus.

1. Первый хак как дополнительная фича к общепринятой поддержке wildcards - в Fooocus можно использовать чередование токенов в промпте. Например вы пишите:

[[red,blue,yellow]] Т-shirt

включаете генерацию 3-х картинок и получаете на выходе три футболки красного, голубого и желтого цветов.

Можете усложнить промпт еще вот так:

[[red,green,yellow]] apple on the [[table, bin, plate]]

и ваши первые три яблока будут на столе, следующие три в корзине, и еще три на тарелке. Разумеется генерация должна быть на 9 картинок. Если вы включите только на 3, то получите исключительно яблоки на столе. Думаю тут все понятно.

PS: увы, этот штатный хак из Fooocus не работает в RuinedFooocus, автор Ruined рановато закончил его развитие. Зато в нем можно пользоваться всеми прелестями One Button Prompt (ОВР).


2. Еще один хак для удаления лишних предметов из готовой композиции. 

Такое в Fooocus делается очень просто - закидываете картинку на вкладку "Inpaint or Outpaint", метод не меняем, direction не выбираем, рисуем маску на предмете который должен быть удален и... жмем Generate. Все, никакого промпта не пишем, и это работает на 99% случаев.


На сегодня кроме классического Fooocus-a мне в руки попадались его форки SimpleSXDL2, RuinedFooocus, FooocusExt и DeFooocus.  Из них популярную модель Flux поддерживают  RuinedFooocus и  SimpleSXDL2, остальные имеют на борту ряд других вкусных фишек (перечислять долго), которые могут сегодня работать, но могут завтра и перестать по мере развития бесплатного GenAI.

Удачи.

Saturday, 21 December 2024

NFT для АІ-художників.

Привіт, привіт.

З приходом ШІ в світ генеративного контенту (GenAI) питання Copyright-у непомітно відійшло на другий план. Чому? Тому що Все що генерує ШІ не є вашою власністю або власністю ШІ. Воно нічиє!

Якщо навіть хтось після цього ставить свій watermark, то це говорить лиш про походження твору від конкретного автора, і ніяк не захищає цей твір від копіювання. Але ж художнику хочеться узаконити права на свій витвір, хай навіть, не з під пензля, а ШІ мистетцтва. Тому тут краще згадати про таку фішку як NFT.

У світі цифрового мистецтва NFT (незамінні токени) стають однією з найпопулярніших тем. Для тих, хто створює зображення за допомогою штучного інтелекту (ШІ), NFT можуть стати серйозним інструментом захисту, монетизації та демонстрації своїх робіт. У цій статті ми розглянемо, що таке NFT, як вони працюють, та чи корисні вони для митців, що створюють зображення за допомогою ШІ.


Що таке NFT?

NFT (незамінні токени) це цифрові об'єкти, що існують на блокчейні і слугують для присвоєння цифровим творам статусу "оригіналу". Кожен NFT є унікальним, незамінним та пов'язаним з визначеним цифровим твором (зображенням, аудіофайлом, відео тощо).

Основна проблема цифрового мистецтва полягає у повторюваності: скопіювати цифрові зображення дуже легко. NFT розв'язує цю проблему, оскільки дозволяє зазначити власника оригінального твору та створити прозорий запис про його автентичність у блокчейні. Це дає можливість митцям отримувати справедливу винагороду за свої твори, навіть якщо вони продаються повторно.

Tuesday, 17 December 2024

Flux и Fooocus? Все возможно!

Всем привет.

Вы не поверите, но меня в чате Telegram до сих пор спрашивают как использовать Flux-модели в Fooocus. Вот хочет наш пользователь, особо не вникая в тонкости GenAI, получить на выходе качество Flux-a. К сожалению  автор самого Fooocus-а закончил его обновлять еще до появления Flux. Но не все так плохо, есть два варианта на выбор.

Первое, это использовать SimpleSDXL2 - это форк Fooocus-a, где парень из Китая внедрил опцию генераций на Flux-моделях. В бекенде для генераций там используется ComfyUI, что впрочем никак не влияет на пользовательский интерфейс, для вас он чисто аля Fooocus.

Второе,  это использовать RuinedFooocus - это еще один форк Fooocus-a, где другой парень из Британии также внедрил опцию генераций на Flux-моделях. Однако здесь следует провести небольшую подготовку ибо RuinedFooocus хоть и имеет работающий интерфейс, но в нем легко можно потеряться.

Ruined Fooocus поддерживает квантованные модели GGUF Flux, которые вы можете найти здесь city96/FLUX.1-dev-gguf и city96/FLUX.1-schnell-gguf, а также некоторые модели Flux, найденные на CivitAI, которые содержат только часть Unet.

Поскольку в этих моделях отсутствуют clip, t5 и vae, вам, возможно, придется загрузить их. Это может произойти и автоматически, но вы можете сделать это вручную, если захотите использовать другие модели:

comfyanonymous/flux_text_encoders - clip_l.safetensors, положить в models\clip

city96/t5-v1_1-xxl-encoder-gguf - t5-v1_1-xxl-encoder-Q3_K_S.gguf ¹, положить в models\clip

black-forest-labs/FLUX.1-schnell - ae.safetensors, положить в models\vae.

Например t5-v1_1-xxl-encoder-Q3_K_S.gguf - самый маленький по размеру и используется по умолчанию. Вы можете изменить любой из них, отредактировав файл settings\settings.json

Friday, 13 December 2024

About Ultralytics crypto miner situation.

Всем привет.

Небольшой шухер в сообществе ComfyUI. В некоторых версиях пакета ultralytics pip был обнаружен майнер криптовалют. Оригинал тревоги здесь.

Кто может пострадать?

Люди, установившие версии v8.3.41 и v8.3.42 пакета ultralytics pip на Mac и Linux. Windows пока не затронута. Анализ взломанного пакета ultralytics показал, что майнер загружается только на Mac и Linux. Скорее всего, это связано с тем, что атака была направлена на серверы, а не на обычных пользователей.

Ultralytics не является основной зависимостью ComfyUI, но он является зависимостью некоторых очень популярных пользовательских узлов, таких как ComfyUI-Impact-Pack. Одна из взломанных версий могла установиться, если вы установили новую версию некоторых узлов, которые от нее зависят. Простое обновление пользовательских узлов обычно не приводит к обновлению зависимостей, поэтому, скорее всего, пострадали только те, кто установил совершенно новую версию в то время, когда взломанные пакеты находились в рабочем состоянии.

Вы можете проверить, затронуты ли вы, обновив менеджер ComfyUI, чтобы проверить наличие этих зависимостей и предупредить себя, или вручную проверив, установлена ли у вас версия 8.3.41 или 8.3.42 с помощью: pip show ultralytics


Чем это плохо?

Скомпрометированный ultralytics загружает двоичный файл (криптомайнер) на Mac и Linux в /tmp/ultralytics_runner и запускает его на выполнение.

Thursday, 12 December 2024

Бэкап системного реестра.

Всем привет.

Начиная с Windows 10 1803, Microsoft отключила функцию автоматического бэкапа системного реестра. В предыдущих версиях Windows в рамках задания автоматического обслуживания запускалось задание планировщика RegIdleBackup, которое помещало копию всех кустов реестра в папку \Windows\System32\config\RegBack . И хотя такая папка до сих пор существует в ней пусто. Можете проверить. Кстати, забегая наперед, скажу что запуск этого задания вручную также ни к чему не приводит.

По комментариям Microsoft, отключение автоматического бэкапа реестра позволило сэкономить место на диске (The system registry is no longer backed up to the RegBack folder starting in Windows 10 version 1803). А если нужно восстановить предыдущую версию реестра, можно воспользоваться точкой восстановления. Но фактически резервная копия реестра, занимает на диске всего пару сот Мб, что в общем немного, да и защита системы с помощью точек восстановления по умолчанию отключено(!) в современных версиях Windows. Однако наличие бэкапа реестра не раз позволяло пользователям быстро восстановить работоспособность Windows, просто заменив поврежденные файлы реестра рабочими версиями из резервный копии. Поэтому желательно иметь такой бэкап в качестве последнего шанса. Если даже не последний то копию реестра РАБОТАЮЩЕЙ Windows точно иметь у себя не помешает.

Tuesday, 10 December 2024

Від МГУА до нейромереж.

Привіт привіт.

У своїй багаторічній практиці (мій профіль) я мав змогу спостерігати, як змінювалися підходи до побудови математичних моделей. Метод групового урахування аргументів (МГУА або GMDH), використаний мною в університеті для отримання PhD, був спрямований на автоматизацію створення прогнозних моделей на основі обмежених даних. Завдяки своїй структурованості, простоті інтерпретації та здатності будувати моделі високої точності, МГУА став революційним для того часу. І хоча я вже кодив на С++ моделі МГУА вимушений був реалізовувати на  мові FORTRAN. До речі супер-мова для великих розрахунків, чи вам відомий тільки Pascal?)

Зі зростанням обчислювальної потужності та кількості доступних даних з’явилися нові виклики. Відкриття в області глибокого навчання та розвиток нейронних мереж дали поштовх новій епосі аналізу даних. 


Від МГУА до глибокого навчання

МГУА був і залишається потужним інструментом для автоматизованого пошуку моделей. Його ключові особливості, такі як еволюційний підхід до побудови моделі та поступове ускладнення структури, багато в чому передбачили методи сучасного машинного навчання. 

Наприклад:

1. Ітеративне покращення моделі. У МГУА моделі створюються поступово, шляхом збільшення числа змінних чи ступеня поліномів. У нейронних мережах це можна порівняти з поступовим налаштуванням ваг шляхом ітеративного градієнтного спуску.

2. Скорочення перенавчання. В МГУА ми вводили механізм контролю складності, щоб уникнути перенавчання (наприклад, через крос-валідацію). У нейронних мережах подібні завдання вирішуються методами регуляризації (L1, L2, Dropout тощо).

3. Оптимальний вибір змінних. Якщо в МГУА автоматичний відбір змінних базувався на аналізі їх впливу на модель, у нейронних мережах це вирішується за рахунок оптимізації ваг, які фактично визначають "корисність" кожної ознаки.


Проте в сучасному світі, де дані стають усе складнішими й багатовимірними, можливості МГУА виявилися обмеженими. Тут на сцену вийшли нейронні мережі.

Friday, 6 December 2024

Будень адміна.

Привіт, привіт.

З огляду на рік 2024-й невеличкі підсумки адмінського буття.

Щоб там не казали але я бачу чіткі переваги удальонки перед офісом. Звісно і в офіс ходити треба щоб керівництво не забуло як ви виглядаєте), але якщо це година на транспорт та алярми від росіян, то переваги зрозумілі. Кому не вистачає спілкування - чаттеся в месенджерах досхочу.

Тепер про робоче місце Адміна. Звісно робоча станція в офісі з якої робимо всі свої справи має бути онлайн 24 на 7, в BIOS включена опція щоб вона піднімалася якщо переключення живлення трапилось. Станція має зарезервовану IP-адресу, та додано вручну ще декілька DNS-сеpверів.

Також бажано мати її дубль, я зробив собі віртуального клона на HyperV і закинув її в ЦОД, тепер маю адмін-резерв online на той випадок якщо з фізичною все ж таки трапиться незворотній трабл.

Вдома має бути відпрацьована VPN+RDP/SSH сесія на ноутбуці плюс іншому ПК. Акаунти та інша критична інформація по підключенням має бути в корпоративній хмарі, та продубльована на е-токен з розрахунку що ви його завжди можете прочитати навіть без інтернета. На токені краще використовувати keepass, майстер пароль тримати в голові.

Кориcтуйтеся Teams як для демонстрації екрану так і для віддаленого керування., а не тільки для чатів та нарад. Часто цей інструмент дуже виручає. Також перевірте роботу вашого пакету MS Office 365 через web-браузер, це іноді економить купу часу, бо локальні застосунки М365 доволі повільні та примхливі.

Щасти всім нам.

Wednesday, 4 December 2024

Підбірка AI-інструментів для вашого бізнесу


Привіт, привіт.

Підприємець-початківець часто нагадує людину-оркестр: він одночасно приймає поставки, генерує нові ідеї для реклами, проводить співбесіди і придумує нові способи розвитку бізнесу. Навіть якщо ви вже непогано справляєтесь із делегуванням і ваш робочий день складається скоріше з низки термінових Zoom-зустрічей і дзвінків, допомога вам все одно не завадить. Штучний інтелект може стати не просто особистим асистентом - сьогодні він здатен зняти з ваших плеч монотонні, виснажливі та складні завдання, над якими ви самі корпіли б годинами. Робот зробить усе за лічені хвилини, без помилок і втоми.

Хочете дізнатися більше про те, як можна інтегрувати AI у свої бізнес-процеси?

Ок, тоді давайте перейдемо до головного - обговоримо 10 найбільш просунутих сервісів на базі штучного інтелекту, які допоможуть вашому бізнесу з усім вищезгаданим. Нижче на вас чекають короткі огляди з переліком головних функцій інструментів.


DreamHost AI

DreamHost AI Business Advisor — це інструмент, який допомагає підприємцям приймати та реалізовувати бізнес-рішення за допомогою штучного інтелекту. Він аналізує дані про вашу компанію і дає персоналізовані рекомендації, щоб ви могли спростити свої бізнес-процеси.


Окрім того, програма може:

  • вдосконалити вашу SEO-стратегію;
  • придумати і створити маркетингові стратегії;
  • згенерувати контент для вашого сайту або соціальних мереж;
  • прискорити процес розробки вашого сайту.

Головна перевага сервісу — можливість створювати окремі профілі для кожного бізнесу, щоб отримувати індивідуальні та максимально точні поради, адаптовані під конкретну ситуацію вашого підприємства. Ще один плюс — функція пам’яті, яка зберігає інформацію про ваш бізнес у системі для майбутніх рекомендацій. Завдяки цьому DreamHost AI найкраще підійде власникам малого бізнесу, які одночасно керують кількома проєктами.

Sunday, 1 December 2024

Между Wi-Fi и Ethernet.

Всем привет.

В Windows 10 при доступности нескольких Wi-Fi сетей система автоматически выбирает беспроводную сеть с самым сильным уровнем сигнала (не зависимо от того, какова скорость этого соединения и сколько устройств его используют). Но при подключении вашего компьютера/ноутбука к проводной Ethernet сети, Windows продолжает использовать Wi-Fi сеть, несмотря на то, что скорость подключения по Ethernet кабелю значительно выше (не факт!), а само подключение стабильнее и не подвержено помехам. Чтобы переключиться на проводное Ethernet-подключение, пользователю Windows нужно каждый раз вручную отключать Wi-Fi на устройстве. Рассмотрим, как настроить автоматическое отключение Wi-Fi при подключении к Ethernet сети в Windows 10.


Настройка WLAN Switching в BIOS/UEFI

У многих производителей ноутбуков и компьютеров есть собственная реализация технологии LAN/WLAN Switching (может называться по-разному). Суть технологии заключается в том, что на компьютере одновременно должен передавать данные только один сетевой адаптер. Если во время использования устройством Wi-Fi сети на компьютере появилось более приоритетное проводное Ethernet-подключение, Wi-Fi адаптер должен автоматически переходить в режим ожидания. Тем самым экономятся ресурсы батареи и уменьшается нагрузка на беспроводную сеть.

LAN/WLAN Switching можно включить в настройках BIOS/UEFI или в свойствах драйвера беспроводного сетевого адаптера (все зависит от производителя оборудования).

Перезагрузите компьютер и войдите в настройки UEFI / BIOS найдите и включите опцию LAN/WLAN Switching (на устройствах HP), Wireless Radio Controll (на устройствах Dell).


Данный функционал может называться по-другому или совсем отсутствовать в BIOS/UEFI других производителей.

Версия на печать

Популярное