Що таке Batch API?

Привіт привіт.

Сьогодні для вас урок з безкоштовного курсу платформи Prometheus FRBTAI101 "Від початківця до експерта в ШІ". До речі курс надто цікавий, з великою кількістю практичних завдань, та гумором від авторів. Я вже склав тести з оцінкою 98% та отримав відповідний сертифікат, тому і вам його рекомендую.

Ок, що ж таке Batch API? 

Batch API – це інструмент для обробки великої кількості запитів до API OpenAI. Він дозволяє відправляти групи запитів. Це як ніби ви питали не одне питання у викладача, а одразу 100. Та й викладач відповідає на питання не по черзі, а одразу потроху на всі. Звісно, в світі людей таке неможливо, а в світі ШІ – ще й як! Це зветься асинхронність. Асинхронність дає можливість виконувати завдання незалежно одне від одного, без очікування завершення попередніх завдань. Замість того, щоб блокувати виконання запитів, що очікують на відповідь, асинхронність дозволяє перемикатися між різними завданнями, не перериваючи потік відповідей.

Основні переваги цієї платформи:

1. Економія коштів: на 50% дешевше, ніж звичайні API запити.

2. Більше лімітів: можливість обробляти більше запитів.

3. Ефективність: обробка великих обсягів даних без перевантаження системи.

12 задач, коли в пригоді стане Batch API

1. Аналіз відгуків клієнтів. Обробка тисяч відгуків для виявлення загальних тенденцій та настроїв.

2. Генерація контенту для блогу. Створення чернеток для багатьох статей одночасно.

3. Переклад документів. Пакетний переклад великої кількості текстів на різні мови.

4. Класифікація документів. Автоматична категоризація великої кількості документів.

5. Обробка наукових статей. Аналіз та узагальнення інформації з багатьох наукових публікацій.

6. Генерація описів продуктів. Створення описів для великого каталогу товарів.

7. Аналіз соціальних медіа. Обробка великої кількості постів для виявлення трендів.

8. Автоматизація відповідей на запитання. Генерація відповідей на часті запитання до служби підтримки.

9. Обробка юридичних документів. Аналіз та узагальнення інформації з великої кількості юридичних текстів.

10. Персоналізація рекомендацій. Генерація персоналізованих рекомендацій для великої бази користувачів.

11. Аналіз фінансових звітів. Обробка та узагальнення даних з багатьох фінансових документів.

12. Створення навчальних матеріалів. Генерація різноманітних вправ та прикладів для освітніх цілей.

Batch API дозволяє ефективно обробляти великі обсяги даних, але з економією часу та ресурсів, особливо коли миттєва відповідь не є критично важливою.

Не відкривається PDF.

Привіт привіт.

Цікавий випадок був вчора з документом PDF. Він надійшлов поштою і містив скан (як з'ясували пізніше) договору. 

Acrobat  Reader його ні в яку відкривати не хотів, тобто він намагався але йому не вистачило для відкриття якогоcь шрифта тому все вперлося в його повідомлення "Ми завантажуємо необхідні шрифти, треба зачекати" та в чистий лист самого документа на екрані.

Зрозуміло що користувача такі повідомлення дратують більше ніж мене, він все ще виріть що в 21-у сторіччі все має літати... 

Ок, тоді треба відкрити документ без Acrobat-а?  Першим берем Word та відкриваємо його там. Ух, а тут все чудово, бачу тільки скан, але мені стало цікаво якщо то був скан навіщо ж додаткові шрифти Acrobat-у? При дослідженні виявилось що колонтитули документа містили рядок тексту китайською мовою.) Тому Acrobat  Reader вирішив витримати  протокол відкриття документу до останнього. Ще невідомо чим би це усе закінчилося якщо політика фірми не дозволяє скачувати шрифти з інтернета.

Можно ще було спробувати закинути документ в Edge. Взагалі то я всім рекомендую для перегляду та друку PDF-файлів SumatraPDF, він працює без інсталяцій одним легеньким файлом та freeware.

Щасти.

Начните с RunComfy.

Всем привет.

Хотите попробовать ComfyUI прямо сейчас? А железа подхоядщего нет или пока не знаете надо ли оно вам? Colab не предлагаю, ибо есть решение проще. Для вас есть такая онлайн платформа как RunComfy. Далее короткий абзац рекламы.

RunComfy - это ведущая платформа для ComfyUI, предоставляющая полностью подготовленную онлайн-среду, которая позволяет пользователям создавать потрясающее искусство без усилий. С более чем 200 предустановленными узлами и моделями пользователи могут генерировать, трансформировать и восстанавливать визуальные материалы без каких-либо технических сложностей. Платформа предлагает выделенные машины с мощными графическими процессорами, что обеспечивает быструю загрузку и автоматическое сохранение результатов в частное облачное хранилище. Она включает в себя курируемые рабочие процессы, которые используют передовые технологии для воплощения креативных идей в жизнь, что делает её идеальным выбором для создателей, специализирующихся на искусстве ИИ.

Теперь о реалиях. Естественно платформа хочет на вас заработать, ребята все таки трудились. И, к моему сожалению, даже trial период там не совсем free. 

Поэтому мы поступим малость по другому: вот вам рабочая ссылка на их сервер с ComfyUI. Спокойно, тут нет никаких хаков, все штатно, и это работает без Регистрации и,... тссс, Бесплатно! Вы же пришли пробовать на вкус саму ComfyUI, а не за рекламой на нее.

Там же используйте рабочие процесы "из коробки", если не умеете пока собирать свои, по стрелочке возле пункта меню "Load" справа, многие из них повторяются, но для теста достаточно. Самих моделей выбор не велик, зато кастомных нод предостаточно. 

И последнее - результат генерации вы не сможете сохранить из ноды "Save Image" которая как правило присутствует в процессах "из коробки". Вот тут уже нужен небольшой хак - добавляете ноду "Preview Image" в конец процесса, а из нее уже можете уверенно сохранить результат локально.

Успехов.

Теги для SUNO.

Всем привет.

Поскольку АІ-генерация песен стала весьма популярной то считаю необходимым накинуть вам список тегов для сиcтемы SUNO. Между прочим сейчас взять любимые стихи и положить их на музыку с нужным вокалом в тренде. Помню такую шутку в рекламе "Слова союза писателей, музыка союза композиторов. Песня." Так вот сейчас она звучит как "Слова союза писателей, музыка SUNO. Генерация 1." Причем даже лирику SUNO легко может дописать за вас. Пробуйте!

[Chorus] - Обозначает часть песни, предназначенную для припева.

[Intro] - Обозначает вступительный раздел трека.

[Outro] - Обозначает финальную или заключительную часть музыкального произведения.

[Verse] - Используется для обозначения строфы песни.

[Acoustic] - Указывает на акустический стиль музыки.

[African] - Обозначает музыку с африканскими влияниями или происхождением.

[Alternative metal] - Идентифицирует песню как принадлежащую к жанру альтернативного метала.

[Alternative pop] - Обозначает песню как альтернативный поп в стиле.

[Ambient] - Для музыки, имеющей амбиентное, атмосферное звучание.

[Atlanta rap] - Обозначает рэп, который происходит из Атланты или стилизован под сцену рэпа Атланты.

[announcer] - Используется для обозначения раздела, где говорит диктор.

[applause] - Обозначает наличие аплодисментов на заднем плане.

[audience laughing] - Сигнализирует о том, что аудитория смеется, полезно для живых выступлений или шоу.

[barking] - Используйте этот тег, когда хотите включить звук лающей собаки.

[beeping] - Добавить звуковой сигнал, например, будильника или уведомления.

[bell dings] - Обозначает звук звонка колокольчика.

[birds chirping] - Чтобы включить атмосферу щебетания птиц.

[bleep] - Обозначает звуковой сигнал, часто используемый для цензурирования слов.

[boy] - Используйте этот тег для контента, озвученного или связанного с мальчиком.

[censored] - Обозначает контент, подвергшийся цензуре.

[cheering] - Включить звук толпы, которая радуется.

[cheers and applause] - Обозначает одновременно радость и аплодисменты аудитории.

[chuckles] - Обозначает звук смеха.

[clapping] - Добавить звук хлопков.

[clears throat] - Используется, когда кто-то очищает горло.

[cough] - Обозначает звук кашля.

[female narrator] - Указывает на контент, озвученный женщиной.

[female] - Используйте этот тег для контента, озвученного или связанного с женщиной.

[fighting] - Включить звуки или отсылки к борьбе.

[giggles] - Обозначает звуки хихиканья.

[giggling] - Еще один тег для звуков хихиканья, возможно, в другом контексте или интенсивности.

[girl] - Используйте этот тег для контента, озвученного или связанного с девочкой.

[groaning] - Добавить звук стонания.

[man] - Используйте этот тег для контента, озвученного или связанного с мужчиной.

[phone ringing] - Обозначает звук звонящего телефона.

[reporter] - Указывает на контент, представленный репортером.

[ringing] - Добавить общий звук звонка.

[screams] - Обозначает звуки крика.

[sighs] - Используется для включения звука вздоха.

[silence] - Обозначает момент тишины.

[squawking] - Добавить звук крика, например, птицы или сигнала тревоги.

[upbeat music] - Используйте этот тег, чтобы указать на раздел с веселой музыкой.

[whispers] - Обозначает звуки шепота.

[whistling] - Включить звук свиста.

[woman] - Используйте этот тег для контента, озвученного или связанного с женщиной.