Установка и настройка AI Bundle AMD. Обзор: Amuse, Ollama, M Studio, ComfyUI

В новейших драйверах AMD Adrenalin Edition появился новый дополнительный компонент под названием «AI Bundle», впервые анонсированный на выставке CES в Лас-Вегасе.

Благодаря предварительному доступу от AMD мы смогли ознакомиться с ним заранее.

AI Bundle - это тщательно подобранная коллекция локальных инструментов искусственного интеллекта, призванная упростить начало работы с генерацией изображений и большими языковыми моделями на ПК.

Вместо того чтобы самостоятельно собирать среды Python, фреймворки и интерфейсы, теперь вы можете настроить готовый к использованию стек за один раз, объединив популярные приложения и необходимые компоненты среды выполнения.
Помимо удобства, AMD явно позиционирует это как экономичный и безопасный способ изучения ИИ.

Все рабочие нагрузки выполняются локально, без зависимостей от облака, подписок и передачи данных за пределы системы, что позволяет избежать как текущих затрат, так и проблем безопасности и конфиденциальности, связанных с хостинговыми сервисами.

Что не менее важно, этот программный стек предназначен для оптимизации под оборудование AMD.

До сих пор обеспечение хорошей работы многих из этих рабочих нагрузок ИИ на графических процессорах и нейропроцессорах AMD часто представляло собой сложный ручной процесс, включающий экспериментальные сборки и ненадежные конфигурации.

AI Bundle обещает гораздо более простой путь, превращая сам установщик драйверов в точку входа в локальные эксперименты с ИИ в один клик.

Для ясности, AMD создает пакет, используя свободно доступное программное обеспечение, что, конечно, означает, что они полностью контролируют упаковку и установку, но не полностью контролируют сами приложения и то, как они обрабатывают элементы графического интерфейса и т. д.

В этом обзоре мы рассмотрим процесс установки, изучим каждое включенное приложение и посмотрим, насколько хорошо эта настройка работает на практике.

Быстрый ответ

#	Описание
Основная цель AI Bundle	Упростить начало работы с локальным ИИ, предоставив предварительно настроенный стек ПО (Ollama, LM Studio, Amuse, ComfyUI, Python, VSCode и др.) с оптимизацией для оборудования AMD.
Ключевые преимущества	Работа полностью локальная - нет зависимости от облака, подписок или передачи данных. Экономичность и конфиденциальность Оптимизация под AMD (GPU/CPU/NPU). Использование Unified Memory Architecture позволяет загружать большие модели даже на ноутбуках
Установка и интерфейс	Установка через драйвер AMD (дополнительные 22 ГБ) Интерфейс установщика можно улучшить: нет детального выбора приложений, после установки не все ярлыки создаются (ComfyUI нужно запускать вручную)
Обзор приложений в комплекте	Amuse - интуитивный генератор изображений/видео (использует NPU) Ollama - простой интерфейс для LLM (работает на CPU) LM Studio - продвинутый GUI для LLM с поддержкой GPU ComfyUI - мощный, но сложный инструмент для Stable Diffusion (требует ручной настройки моделей)
Недостатки	Неудобный процесс установки и удаления Слабый выбор компонентов в установщике Плохая интеграция ComfyUI Высокое использование памяти и шум системы при работе
Вывод	AI Bundle - важный шаг для AMD в популяризации локального ИИ на своем оборудовании. Набор работает, но требует доработки установки и интеграции. Потенциал высок, особенно благодаря архитектуре с единой памятью.

Установка

При запуске установщика драйверов с функцией AMD AI Bundle вы заметите немного обновленный начальный экран.

В дополнение к обычным параметрам драйверов теперь есть флажок для «AI Bundle», который по умолчанию снят.

Размер пакета AI Bundle указан как 34,2 ГБ, но эти файлы не входят в состав установочного файла, который вы загружаете на свой компьютер.

В зависимости от ваших настроек, соответствующие файлы будут загружены во время установки.

Мы проверили, загруженный файл .exe имеет размер 907 МБ, что соответствует ранее выпущенным драйверам.

Установка на диск со всеми выбранными параметрами занимает 22 ГБ (мы также это проверили).

Небольшая стрелка справа позволяет развернуть экран и увидеть приложения, которые будут установлены.

Было бы полезнее, если бы эти приложения отображались сразу, позволяя пользователям принимать взвешенное решение о том, хотят ли они установить ту или иную функцию.

Это гораздо удобнее, чем просто флажок «Установить ИИ?».

Кроме того, добавление флажков для каждого отдельного приложения было бы полезно, особенно учитывая, что некоторые пользователи, возможно, уже установили некоторые из этих приложений.

​

Нажатие на кнопку «Пользовательская установка» внизу экрана отображает этот конкретный список.

Нас удивляет, почему здесь указано только пять пунктов, в то время как на предыдущем экране было семь.

Отсутствуют Visual Studio Code и Python.

Visual Studio Code, в частности, является настолько важным программным обеспечением, что, вероятно, уже установлен на любой системе, предназначенной для использования этих приложений ИИ.

В качестве альтернативы, у пользователя может быть веская причина не использовать это приложение, поэтому он, вероятно, может захотеть иметь возможность снять галочку установки здесь.

После завершения установки драйверов вы заметите три новых значка на рабочем столе:

1. Ollama
2. LM Studio
3. Amuse

Однако значка ComfyUI нет, и он не отображается в меню «Пуск» Windows.

Чтобы запустить его, вам нужно будет перейти вглубь структуры папок диска «C»: и запустить его вручную.

Мы отправили отзыв в AMD, и они изучают варианты улучшения его отображения сразу после установки.

Аналогичная ситуация существует для VSCode, Python и PyTorch, хотя последние два являются скорее системным программным обеспечением и обычно не запускаются пользователями напрямую.

Amuse

Amuse - это локально работающий пакет программ для генерации изображений и видео с использованием искусственного интеллекта, который также использует алгоритм Stable Diffusion, но не так сильно фокусируется на создании структур для управления алгоритмом.

Вместо этого он использует классический текстовый ввод, которого часто достаточно для достижения желаемого результата.

Как и другие приложения из пакета AI Bundle, он не требует облачного сервиса или подписки.

Пользовательский интерфейс Amuse хорошо продуман и интуитивно понятен в использовании.

Помимо текущего режима «генерация изображения», есть также возможность применить «фильтр искусственного интеллекта» к существующему изображению или сделать набросок мышью перед тем, как сгенерировать изображение высокого качества.

Как и другие приложения, Amuse требует загрузки моделей искусственного интеллекта из интернета, прежде чем вы сможете генерировать изображения.

Обратите внимание - используется нейропроцессор (NPU), и хорошо то, что он имеет доступ ко всей памяти машины, поэтому даже большие модели могут работать без проблем.

Впечатляет, что теперь даже такой человек, как я, без художественного таланта, может создать что-то, что выглядит красиво.

Ollama

Ollama - это легковесная программа для запуска больших языковых моделей локально с минимальной настройкой и чистым пользовательским интерфейсом.

Она избавляет вас от большинства сложностей и хлопот, связанных с управлением моделями, делая локальные эксперименты с LLM намного проще и доступнее.

Вам не нужно иметь дело с токенами аутентификации для Huggingface, сложными установками Python и управлением зависимостями.

Просто запустите программу, загрузите модель, введите запрос - готово. При первом запуске необходимо выбрать модель и загрузить ее.

Мы выбрали огромную модель GPT-OSS-120B, размер которой составляет 60,9 ГБ, и которая подойдет только для самых дорогих корпоративных видеокарт.

На нашем тестовом ноутбуке проблем не возникло, но во время генерации результатов использование памяти достигло максимума примерно в 75 ГБ (включая операционную систему). Повторимся, это не поместится ни на одной потребительской (домашней) видеокарте.

Обратите внимание, что Ollama, по всей видимости, не использует графический процессор (GPU) или нейронный процессор (NPU), а работает только с центральным процессором (CPU).

Довольно впечатляющий результат, все данные генерируются локально, все данные ваши, никакой телеметрии и все бесплатно.

LM Studio

LM Studio - это удобный графический интерфейс для поиска, загрузки и запуска локальных больших языковых моделей с API, совместимыми с OpenAI.

Он разработан для того, чтобы сделать локальный вывод доступным, оставаясь при этом полезным в качестве готового бэкенда для разработки и тестирования.

В то время как Ollama отличалась простым графическим интерфейсом, LM Studio - это полнофункциональная программа с множеством регуляторов и опций, а также мощным графическим интерфейсом.

В отличие от Ollama, LM Studio работает на графическом процессоре.

Загрузка очень большой модели с 120 байтами параметров прошла без каких-либо проблем, и использовался графический процессор.

ComfyUI

ComfyUI - это визуальный инструмент для создания изображений, сгенерированных искусственным интеллектом, с использованием рабочих процессов стабильной диффузии, путем сборки строительных блоков, а не написания кода.

Он особенно полезен для тех, кто хочет точного контроля, повторяемых результатов и возможности настраивать сложные параметры генерации изображений, не разбираясь в математике и алгоритмах, лежащих в их основе.
Запуск ComfyUI не так прост, как у других приложений. По какой-то причине отсутствует значок или пункт в меню «Пуск», и вам придется искать его в системных папках.

На нашем тестовом ПК он оказался в папке C:\Users\TPU\AppData\Local\AMD\AI_Bundle\ComfyUI, а это значит, что %LOCALAPPDATA%\AMD\AI_Bundle\ComfyUI должен работать на всех системах.

Интерфейс при запуске выглядит несколько более техническим, с отображением дополнительной отладочной информации, которая может быть полезна для экспертов, но может показаться немного пугающей для новичков.

После запуска появляется это пугающе окно, которое выглядит так, будто «все сломано».

На самом деле ему просто нужно загрузить модели, но проблема в том, что это полуручной процесс.

Когда вы нажимаете «скачать», файл загружается в ваш браузер, и вам нужно вручную поместить его в нужное место.
Обратите внимание на префикс перечисленных файлов, например, «vae/», «text_encoders/» и «diffusion_models/». Это папки, в которые нужно поместить загруженные файлы в каталоге установки ComfyUI, который находится по адресу %LOCALAPPDATA%\AMD\AI_Bundle\ComfyUI.

Вот что нужно сделать с тремя загруженными файлами: поместить их в три разные папки. Это определенно не подходит для новичков.

Теперь, когда ComfyUI запускается корректно и отображается его основной интерфейс в браузере, вы можете увидеть блоки и цветные «провода», соединяющие их.

Такая настройка позволяет сконфигурировать задачу генерации изображений в ComfyUI.

Хотя она может показаться сложнее, чем в Amuse, она также предоставляет больше возможностей для управления и настройки ваших задач.

При генерации изображений ComfyUI практически не отображает ход выполнения, поэтому правильный способ проверить ситуацию - посмотреть на небольшое консольное окно, в котором отображается вся полезная информация.

Вот готовый результат выполнения нашего задания.

ComfyUI использует как центральный, так и графический процессор.

Вывод

Долгое время экосистема ИИ от AMD казалась ограниченной и крайне сложной в использовании, особенно по сравнению с решениями NVIDIA, которые фактически являются выбором по умолчанию и подкреплены огромным количеством документации, руководств и знаний сообщества.

Если вы хотели запустить современные рабочие нагрузки ИИ на оборудовании AMD, вас обычно ждал неприятный опыт, связанный с экспериментальными сборками, самостоятельной компиляцией, отсутствующими функциями и нестабильными настройками.

AMD явно хочет, чтобы ее воспринимали всерьез как компанию, занимающуюся ИИ, и за последний год они мобилизовали дополнительные ресурсы на разработку инструментов, поддержку ROCm и PyTorch.

В этом контексте AI Bundle, анонсированный на CES, имеет большой смысл как демонстратор технологий как для пользователей, так и для инвесторов.

Он предоставляет простой способ протестировать локальный ИИ на собственном устройстве, не полагаясь на облако и все обычные недостатки, которые с ним связаны, такие как стоимость, проблемы конфиденциальности, задержка и потеря контроля над данными.
AMD обладает уникальной технологической возможностью - это унифицированная архитектура памяти в их APU.

Графический процессор (GPU), центральный процессор (CPU) и нейронный процессор (NPU) используют один и тот же пул памяти, что снимает жесткие ограничения по объему видеопамяти (VRAM), которые обычно определяют возможности дискретных графических процессоров как от NVIDIA, так и от AMD.

В ходе тестирования нам удалось загрузить огромную модель OpenAI с 120 байтами параметров на небольшой и легкий 14-дюймовый ноутбук Strix Halo - то, что обычно раньше потребовало бы чрезвычайно дорогих корпоративных видеокарт с 80 ГБ и более видеопамяти.

Конечно, загрузка модели на ноутбук с использованием общей памяти означает, что она будет работать намного медленнее, чем на видеокарте за 10 000 долларов с 96 ГБ видеопамяти, но это отличное решение по гораздо более низкой цене для разработки и тестирования на ранних этапах.
Набор программного обеспечения в комплекте охватывает широкий спектр вариантов использования.

Amuse и LM Studio кажутся зрелыми и хорошо продуманными, с хорошими пользовательскими интерфейсами, простой загрузкой моделей и отсутствием необходимости иметь дело с учетными записями Huggingface, ключами API или ручным управлением средой.

Ollama более ограничена, но чрезвычайно проста в использовании и является хорошей отправной точкой, если вы просто хотите впервые поэкспериментировать с локальными LLM.

ComfyUI явно ориентирована на более продвинутых пользователей и предоставляет вам много возможностей и гибкости, даже если ее настройка и первый запуск пока далеки от идеала.

Интерфейс - дружелюбный. В целом, мы были приятно удивлены тем, насколько удобен этот набор уже сейчас.

В то же время, нынешний способ установки кажется неудобным.

Включение всего этого в установщик графического драйвера не кажется оптимальным долгосрочным решением, и во многих отношениях это должен быть отдельный продукт со своим собственным установщиком, механизмом обновления и надлежащей поддержкой удаления.

Самое очевидное объяснение - это охват: графический драйвер AMD это, безусловно, самый скачиваемый продукт компании, и это гарантирует, что многие увидят и попробуют его.

Он генерирует впечатляющие показатели установок, что хорошо выглядит для инвесторов, но это также означает гораздо большую пользовательскую базу, которая может оставлять отзывы и помогать AMD улучшать как программное обеспечение, так и базовую платформу.

Мы ценим, что это не увеличивает размер загружаемого установщика, и что эта функция не включена по умолчанию. Тем не менее, есть еще много недоработок.

Процесс установки запутанный, выбор компонентов непоследователен, удаление приложений ИИ неоправданно сложно, а ComfyUI, в частности, плохо интегрирован в систему.

Использование дискового пространства также не очень прозрачно, и когда вы действительно начинаете запускать задачи искусственного интеллекта, система явно работает на пределе своих возможностей, что сопровождается заметным шумом вентилятора и значительным использованием памяти.

Ни один из этих недостатков не является критическим, но они подчеркивают, что это всего лишь первая версия.

В целом, однако, AI Bundle уже успешно справляется со своей главной задачей. Он демонстрирует, что оборудование AMD способно запускать серьезные задачи искусственного интеллекта, делает локальный ИИ доступным без зависимости от облака или подписок, и, наконец, делает программный стек AMD для ИИ более целостным и удобным в использовании, а не экспериментальным.

Если AMD продолжит инвестировать в платформу и устранит проблемы с упаковкой, установщиком и интеграцией, это может стать действительно важной частью экосистемы Radeon, а не просто разовой демонстрацией технологий.