VJ SCHOOL
2.28K subscribers
166 photos
110 videos
2 files
251 links
— YouTube: vjschool.ru
— GitHub: github.com/olegchomp
— Boosty: boosty.to/vjschool
Download Telegram
VJ SCHOOL
Ответы на вопросы о мультимедиа-инструментах для медиа-художников — Трансляция началась! https://www.youtube.com/watch?v=pj0mpcHcuk4
Спасибо всем!
К сожалению было очень много технических сложностей и нюансов. Записи стрима не будет, но я постараюсь сделать отдельные уроки по темам которые обсуждали на трансляции.
RealityScan — вышло бесплатное приложение для создания 3D-моделей при помощи камеры смартфона. Приложение было доступно и ранее, но теперь это официальный релиз от Epic Games.

https://m.youtube.com/watch?v=fXLOMOWWBJQ
Distilled StableDiffusion 2 — анонс модели, позволяющей в 20 раз ускорить генерацию. Если верить твиту, то генерация 50 шагов снизилась с 5.6 до 0.9 секунд!
Ждём релиза и готовимся прикручивать к Touchdesigner.

https://twitter.com/emostaque/status/1598131202044866560

#stablediffusion #ai
Media is too big
VIEW IN TELEGRAM
TD Diffusion — имплементация Stable Diffusion в TouchDesigner. Работает в img2img моде на разрешении 512x512, но еще не в риалтайме.
txt2img довольно быстро запустился, а с img2img было сложнее. И да, это не SD API, все крутиться в TD, что и видно по зависанию на несколько секунд.

#touchdesigner #stablediffusion #ai
Forwarded from эйай ньюз
⚡️NerfStudio: Простая библиотека для создания NeRF-ов и с охеренным web-GUI

Если хотите покрутить нерф, но не знаете с чего начать, либо просто хотите поиграться с фотками и реконструировать 3Д сцену, то эта библиотека для вас. Для запуска не требуется глубокого понимания того, как работает нейронный рендеринг. Нужно просто обработать фотки в COLMAP и запустить скрипт. На видео – примеры работы либы.

🔥Реализованные методы:

- Nerfacto: кастомный нерф, которые включает в себя все последние трюки для лучшего качества и скорости рендеринга.
- Базовый NeRF
- Instant NGP: быстро тренируем нерф за счёт оптимизации на гриде и рендеринге маленькими MLP сетками.
- MipNerf: решает проблему алиасинга при редеринге объекта в разных масштабах.
- NerfW: NeRF in the Wild
- Semantic NeRF: в 3D рендерятся лейблы семантическоц сегментации вместо текстуры рбъектов.

❱❱ Сайт проекта
❱❱ Web Viewer (нужно соединить с NeRF-ом, который крутится на GPU) сеткой
❱❱ Как использовать свои фото
❱❱ Видео tutorial

@ai_newz
VJ SCHOOL
TD Diffusion API - генерация изображений из Stable Diffusion в TouchDesigner локально на вашем компьютере. https://youtu.be/CqpJ7roRj5Y #touchdesigner #stablediffusion #ai
Кто-то уже пробовал поиграться? Были какие-то сложности при установке?

Cделал на Github список задач для следующих версий:
- img2img генерация
- Выбор модели Stable Diffusion
- Контроль версий
- Интерполяция между seed
- Сохранение шагов генерации
Media is too big
VIEW IN TELEGRAM
Depth2Image — создание текстур в Stable Diffusion с помощью Depth модели. TouchDesigner geometry - > Depth2Image -> TouchDesigner texture.

#touchdesigner #stablediffusion #tddiffusionapi
TDDiffusion API v.1.0.7 — обновление компонента генерации изображений из Stable Diffusion в TouchDesigner. Многое что сделано из списка задач, но главное это img2img генерация!

Напишите в комментариях, если есть желание поиграться в бета-тесте.
Traceback — если вы работали с Python, то конечно знаете про трассировку ошибок. Для меня сегодня было открытие, что можно с помощью модуля traceback записывать ошибки, отправлять например через сокет и смотреть почему что-то не работает. Это очень удобно, когда скрипт принимает много аргументов и каждый раз их прописывать, пытаться каким-то образом дебажить код.
TouchDesigner xformers — библиотека для ускорения и оптимизации Stable Diffusion в TD.

<fortochka>
В отличии от варианта с Automatic1111 где это решается флагом —xformers, в обычном варианте это продолжительный процесс со сборкой из исходников под каждую систему отдельно. В итоге все запустилось в Conda, а в TD отказалось, потому что (как я это понял c stackoverflow, хотя это странно, так как все работает в виртуальной среде) версии Python не совпадают. В TD версия 3.9.5, а для сборки xformers нужна версия 3.10 (на младших версиях выпадает в ошибку). Так что если кто-то соберется делать тоже самое, то видимо придется ждать апдейта TD на новую версию Python.
</fortochka>

Пойду тогда прикручивать SD к Resolume.

#touchdesigner #stablediffusion #ai
This media is not supported in your browser
VIEW IN TELEGRAM
VJ APP — приложение для расширения возможностей Resolume. Ниже список уже разрабатываемых функций, а также будет здорово услышать ваши идеи.

Каких расширений вам не хватает и что поможет упростить какие-то задачи?

Timer - запуск клипов в определенное время. Скрипт уже доступен для скачивания, но хочется сделать более удобный UI
Watcher - автоматическая загрузка файлов из папки в композицию. Пример работы на видео выше.
Router - роутинг и логические условия для OSC в Resolume. Например, включить следующую колонку, когда доиграет определенный клип.

#Resolume
RTX Video Super Resolution Компания NVIDIA представила аналог ИИ-масштабирования DLSS. Технология улучшения качества изображения потокового видео в браузерах, способная масштабировать потоковое видео с разрешением Full HD до разрешения 4K и при этом улучшать качество изображения.

https://youtu.be/XA-tQpQqD7U

#ai
This media is not supported in your browser
VIEW IN TELEGRAM
TD_3ds — GitHub с проектами TouchDesigner от xyzuvwopq. Более 100 примеров по работе с SOP контекстом, доступны для скачивания.

https://github.com/xyzuvwopq/TD_3ds-by-xyzuvwopq

#touchdesigner
Unreal VDB — обновления плагина для работы с OpenVDB и NanoVDB в Unreal Engine. Из интересного - возможность выводить пасы AOV.

https://github.com/eidosmontreal/unreal-vdb/releases/tag/v0.6.3_ue5.1.0

#unrealengine
Project Chronos — Lenovo представили медиа-центр с камерой глубины на CES 2023. Устройство подключается к экрану по HDMI или DP. В комплект идут игры и фитнес приложения, но в теории будет доступ для разработчиков и можно будет использовать в своих целях.

https://m.youtube.com/watch?v=Fg5oEuXPUYk

#hardware
WIFI Body tracking — нейронная сеть определяет положение тела человека, через фазу и амплитуду WIFI сигнала. Ключевая особенность, помимо того, что это просто неожиданный подход к задаче - доступность технологии и стабильность работы вне зависимости от освещения и окружения.

https://arxiv.org/abs/2301.00250