Имя пользователя:
Пароль:  
Помощь | Регистрация | Забыли пароль?  | Правила  

Компьютерный форум OSzone.net » Железо » Выбор отдельных компонентов компьютера и конфигурации в целом » Установка нескольких видеокарт для ML

Ответить
Настройки темы
Установка нескольких видеокарт для ML

Аватара для shisik

Ветеран


Сообщения: 3261
Благодарности: 597


Конфигурация

Профиль | Отправить PM | Цитировать


Как обстоят дела с этим делом? Не для игр, меня интересует только CUDA. Tensorflow, судя по документации, умеет работать с несколькими GPU, а вот что насчёт железа? Нужна ли какая-то особая материка, чтоб несколько видеокарт поставить? Рассматриваем RTX4080. Хотя 4090 заманчиво, но пишут, что они страдают хроническим перегревом. Сколько штук будет - пока не знаю. Планируем начать с 2, потом если будет надо - добавим. Допустим если просто взять материнку с 4 слотами, возможно ли будет на неё 4 видюхи поставить?

Отправлено: 01:55, 22-08-2023

 

Аватара для freese

Ветеран


Contributor


Сообщения: 6683
Благодарности: 1296

Профиль | Отправить PM | Цитировать


Цитата shisik:
Допустим если просто взять материнку с 4 слотами, возможно ли будет на неё 4 видюхи поставить? »
нужно смотреть каждую материнку отдельно, читать отзывы, можете форумы майнеров посетить. Некоторые мат.платы с 4 слотами не умеют более чем в 2 карты.

Отправлено: 08:42, 21-09-2023 | #2



Для отключения данного рекламного блока вам необходимо зарегистрироваться или войти с учетной записью социальной сети.

Если же вы забыли свой пароль на форуме, то воспользуйтесь данной ссылкой для восстановления пароля.


Аватара для yurfed

Ветеран


Сообщения: 20067
Благодарности: 3128

Профиль | Отправить PM | Цитировать


shisik, всё зависит от количества линий (полос) которые смогут выдать материнка и процессор.
Чтобы примерно понять о чём я, посмотрите видео где вкратце про это сказано.
ЗЫ И ещё, более подробно.

-------
Хочу ли я - Могу ли я - Говно ли я - Магнолия


Последний раз редактировалось yurfed, 21-09-2023 в 10:44.

Это сообщение посчитали полезным следующие участники:

Отправлено: 09:44, 21-09-2023 | #3


Ветеран


Сообщения: 811
Благодарности: 196

Профиль | Отправить PM | Цитировать


Цитата freese:
нужно смотреть каждую материнку отдельно, читать отзывы, можете форумы майнеров посетить. Некоторые мат.платы с 4 слотами не умеют более чем в 2 карты. »
Майнерские варианты для ML не очень подходят - для майнеров пропускная способность шины не критична, а для ML - весьма. И тут упираемся не в количество слотов, а в количество PCIe линий, поддерживаемых платформой, у десктопных платформ оно весьма ограничено, на большинство материнок можно установить только одну видеокарту с полной x16, две уже будут работать в x8, три - x8+x4+x4 и так далее. Нужна серверная платформа, или рабочая станция, на базе Intel Xeon Scalable или EPYC/Threadripper.

Ещё нюанс - у десктопных карт высшего сегмента массивные СО, перекрывающие до 4 слотов. Можно соорудить что-то в духе майнерской фермы с x16 райзерами (могут страдать от интерференции и ослабления сигнала, желательно наличие редрайверов PCIe на МП), либо брать специализированные под ML решения вроде Nvidia A100 (стоят как паровоз и требуют специализированные корпуса, так как имеют пассивный охлад), либо переводить под custom loop воду (тоже не три копейки стоит и нужны прямые руки, но пожалуй лучший в плане цена/производительность вариант, где-то видел даже готовые решения, но чот подзабыл где).

Отправлено: 10:25, 25-09-2023 | #4



Компьютерный форум OSzone.net » Железо » Выбор отдельных компонентов компьютера и конфигурации в целом » Установка нескольких видеокарт для ML

Участник сейчас на форуме Участник сейчас на форуме Участник вне форума Участник вне форума Автор темы Автор темы Шапка темы Сообщение прикреплено

Похожие темы
Название темы Автор Информация о форуме Ответов Последнее сообщение
Vulkan Next принесёт улучшенную поддержку нескольких видеокарт OSZone News Новости железа 1 02-08-2016 19:06
Nvidia готовится к прекращению поддержки нескольких поколений видеокарт OSZone News Новости железа 0 14-03-2014 09:30
Интерфейс - Установка значка папки для нескольких папок сразу. Макс Фолдер Microsoft Windows 7 5 17-01-2014 16:31
Автоматическая установка приложений для нескольких пользователей Dr.Dark Автоматическая установка приложений 5 19-01-2010 01:55
Установка драйверов для видеокарт Fen1x Железо в Linux 33 21-04-2008 13:35




 
Переход