Сервер с gpu что это

Зачем нужен выделенный сервер с GPU

Объем информации в нашем мире увеличивается каждый день в немыслимых объемах. Это привело к тому, что многие информационные системы и оборудование с трудом справляются с обработкой поступающих данных. Решить проблему высокой производительности вычислений сегодня смогли серверы с GPU. Это системы с графическими картами, ставшие инструментом для майнинга, рендеринга, стриминга и других ресурсоемких процедур, для которых недостаточно мощности центрального процессора. Серверы с видеокартами также нередко применяются для 3D-моделирования, машинного обучения и сложной аналитики, многие компании уже перешли или в будущем планируют использование подобных систем.

Давайте разберемся, в чем заключаются особенности GPU-серверов, когда оправдано их использование и какие параметры стоит учесть перед заказом подобной услуги у провайдера.

Особенности использования видеокарт

Ранее за любые операции на ПК отвечал центральный процессор – CPU. Именно за счет него выполнялись необходимые вычисления, обрабатывались запросы видеокарты, осуществлялась передача звука и вывод графики на экран. Однако зачастую процедуры происходили с задержкой, так как мощностей такого процессора не хватало на выполнение одновременных операций.

С развитием оборудования стали применяться дискретные и интегрированные видеокарты. Их появление стало закономерным итогом усложнения графических задач и повышения требований со стороны программ и приложений. Для того чтобы осуществить быстрое выполнение задач, видеокарты обзавелись собственным процессором – Graphic Processor Unit. Его целью стало выполнение однотипных вычислений в несколько потоков. Нередко для обозначения такого процессора используют термины «графический ускоритель» и «видеопроцессор», которые характеризуют функционал GPU.

Выделенный сервер с GPU

Существует несколько вариантов применения технологии для организации ИТ-инфраструктуры. Первый из них – выделенный сервер с GPU. Такой вариант подходит для проектов, которые требуют большой вычислительной мощности и производительности.

Архитектура GPU позволяет увеличить скорость обработки информации, так как за такт работы выполняется несколько одновременных операций. Плюс использования выделенного сервера в том, что их можно объединить в единый отказоустойчивый кластер и использовать для создания производительной инфраструктуры.

GPU обычно используется для вычислений. Поэтому оснащать физический выделенный сервер видеокартой целесообразно только, если деятельность вашей компании связана с ресурсоемкими вычислениями. Чаще всего такой вариант выбирают для криптоанализа и криптографии, 3Д-моделирования, работы с Big Data и т. д. Чаще всего это касается сфер разработки, видеоигр, исследовательских проектов, в которых важны масштабные вычисления и различные медиа-ресурсы.

VPS с видеокартой

Многие организации в последние годы отказываются от использования физического оборудования и переходят на аренду виртуальных серверов. В этом случае наиболее логичным выглядит использование VPS с видеокартой. Этот вариант подходит для тех фирм, которые нуждаются в высокой производительности, но при этом хотят снизить расходы на инфраструктуру.

Виртуальный сервер, или VPS / VDS, представляет собой продукт виртуализации. При использовании такой технологии на физическом сервере с помощью гипервизора создается несколько независящих друг от друга серверов. Каждый из виртуальных серверов использует определенные выделенные ресурсы. Память и процессорные ядра также распределяются между созданными элементами.

В настоящем технология виртуализации позволила создавать и виртуальный графический процессор – vGPU. Он разворачивается на виртуальном сервере при помощи определенного ПО. В качестве основы используется физический GPU.

Виртуальный выделенный сервер с видеокартой дешевле и проще в настройках, чем физический. Он отличается высокой масштабируемостью и простотой управления, однако подходит для локальных проектов. Для бизнес-процессов, требующих высокой производительности, рекомендовано использование физического оборудования.

Облачный сервер с видеокартой

Также нельзя не упомянуть еще об этом популярном варианте выделенного сервера с видеокартой. Речь, конечно же, об облачной технологии.

Cloud-сервер представляет собой сервис, созданный на основе виртуализации с использованием облачных технологий и GPU-ускорителя. Аренда такого выделенного сервера с GPU может потребоваться для компаний, занимающихся разработкой или исследовательскими проектами. Как правило, использование облака позволяет существенно сократить расходы на инфраструктуру и оптимизировать все затраты организации. Подобное решение особенно актуально для небольших фирм с удаленной занятостью, которые не нуждаются в использовании физического оборудования.

Облачные технологии нередко применяются и для создания единой виртуальной среды для удаленной работы в крупных организациях. Это позволяет обеспечить непрерывность бизнес-процессов и высокий уровень безопасности. Особенно популярным подобное решение стало в условиях пандемии, так как позволило быстро настроить удаленную работу отделов и обеспечить связь между ними.

В последние годы на cloud-серверы с GPU переходят и различные геймерские компании-разработчики. Сфера облачного гейминга в последнее время обрела много поклонников, так же распространенные получили сервисы для облачного видео-стриминга. Все они не обходятся без серверов с видеокартой, так как требуют ресурсов и обработки большого количества операций.

Сферы применения

Многие эксперты уже говорят о том, что использование видеокарт для вычислений стало новых витком в истории IT. Технология уже применяется в различных сферах бизнеса и науки, а инфраструктуры с использованием серверов с GPU стали неотъемлемой частью крупных корпораций и небольших фирм.

Изначально подобные системы применялись для работы со сложной графикой. Однако высокая производительность серверов позволила применять видеокарты и для выполнения общих вычислений. В результате появилась технология GPGPU, которая предполагает применение множества параллельных вычислений для процедур с неграфическим типом данных.

Сегодня GPU активно применяется в следующих сферах:

Еще одна неожиданная сфера применения серверов с видеокартой – это службы безопасности. Дело в том, что из-за большого количества ядер видеокарты часто используются для перебора паролей и взлома серверов. Поэтому для защиты данных применяется зеркальное решение – настройка защиты за счет тестирования инфраструктуры с использованием графических ускорителей.

Отличия CPU И GPU

Принцип потоковой обработки операций, которые используется в CPU и GPU, серьезно различается. Именно это можно считать главной разницей в вычислениях в центральном процессоре в сравнении с операциями на графическом процессоре. Давайте рассмотрим этот вопрос подробнее:

Также стоит отметить, что технологии по-разному реализовывают доступ к памяти. За счет этого GPU не требуется емкая память, но при этом стоит понимать, что операция записи данных и считывание результата являются разными процессами.

Преимущества сервера с видеокартой

Аренда физического сервера с GPU имеет несколько плюсов:

Недостатки сервера с GPU

Многих клиентов волнует вопрос о том, имеются ли у подобных серверов недостатки. К их числу можно отнести заблуждение о том, что главные вычислительные мощности возложены на видеокарту. Графический адаптер решает множество простых задач, однако ряд процессов он не способен выполнить собственными усилиями. Поэтому GPU почти всегда используется совместно с CPU.

Выводы

Сервер с графическими картами предоставляет максимум возможностей для увеличения скорости обработки графических данных. Если в традиционных CPU может использоваться до 24 ядер, то в GPU – их содержится около 3000. Это позволяет выполнять почти в 100 раз больше различных операций и делать это практически в 10 раз быстрее.

Использовать сервер с видеокартой предпочтительнее в тех случаях, когда вам требуется работа с графикой или видео. Подобная инфраструктура уместна для компаний в сфере дизайна, анимации и видеомонтажа. Также серверы с CPU часто применяются для майнинга криптовалют и выполнения статических расчетов. Еще одна сфера, которая не обходится без использования серверов с графическими картами, это масштабные научные исследования. То есть, по сути GPU-сервер незаменим для процессов, связанных с обработкой больших массивов информации.

Мы можем сделать вывод о том, что серверы с видеокартой не только заняли свою «естественную» нишу, но и стали незаменимыми в самых непредсказуемых областях. Реалии таковы, что даже небольшая компания, занимающаяся разработкой или тестированием, сегодня нуждается в использование серверов с GPU. Крупным организациям применение подобной технологии может потребоваться при анализе Big Data или работе с искусственным интеллектом.

Хотите арендовать сервер с GPU или остались вопросы о технологии? Специалисты нашего дата-центра Xelent подробнее расскажут об услуге и подберут оптимальное решение, учитывающее сферу деятельности и потребности вашей компании. Оставляйте заявку на сайте или звоните по указанным номерам!

Источник

Crysis на максималках, или зачем серверу видеокарта

Помимо игры в Battlefield 1 и развлечений с VR-очками, установка отдельной видеокарты в сервер полезна при работе с графикой в виртуальной среде или для математических вычислений.

Использование GPU в серверной среде связано с некоторыми особенностями в каждом конкретном сценарии, поэтому разберем их подробнее.

Математика – царица наук

С появлением криптовалют и майнинга оказалось, что рассчитывать ключи шифрования на видеокартах получается быстрее, чем на обычных CPU.

Тому есть несколько причин:

У видеокарты больше арифметическо-логических модулей, чем в центральном процессоре, что позволяет выполнять большее число параллельных задач;

GPU обслуживается более производительной оперативной памятью;

Например, Intel Xeon v4 с поддержкой AVX 2.0 способен выполнять 16 32-битных инструкций на ядре за такт, в то время как одна видеокарта NVIDIA GeForce GTX 1080 отрабатывает 8 228 аналогичных инструкций.

Сейчас математический обсчет на видеокартах используются не только для майнинга. Например, в корпоративном секторе есть более общие задачи:

Обсчет некоторых бизнес-приложений (анализ Big Data);

Графические задачи. Для массового создания изображений по 3D моделям удобнее использовать специальный сервер или рендер-ферму вместо компьютера дизайнера;

В последние годы видеокарты все больше используют для обучения нейронных сетей, как подвариант работы с Big Data. Популярный фреймворк Caffe работает на инстансах Амазона с GPU на порядок быстрее CPU.

Не так давно ко мне обратилась организация, поймавшая шифровальщика. По счастью, вирус был старый и файлы были зашифрованы PSK-ключом, а не сертификатом. Понадобилось два дня брутфорса при помощи Hashcat на нескольких игровых компьютерах коллег – и десятизначный ключ нашелся.

При переносе работы с процессора на GPU сложность в том, что нельзя просто сказать операционной системе «считай-ка, дорогуша, на видеокарте». Для работы напрямую с математическим модулем видеокарты нужна поддержка в конкретном приложении. Сам принцип такой работы называется GPGPU (General-purpose computing for graphics processing units), поэтому стоит искать поддержку чего-то подобного в описании возможностей ПО.

Для работы приложений с математическим модулем видеокарты используются две технологии — CUDA и OpenCL:

CUDA. Программно-аппаратная технология от NVIDIA. SDK предоставляет возможность разработки на диалекте языка C. NVIDIA выпускает как обычные видеокарты с интерфейсом PCI-E, так и серверную линейку Tesla. Есть и оптимизированные для блейд-серверов видеокарты с интерфейсом MXM;

Экспериментальных сравнений производительности двух технологий можно найти немало. При работе с видеокартами AMD и NVIDIA примерно одного уровня, от использования OpenCL выигрывает AMD. Но если приложение разрабатывалось с поддержкой CUDA — лидирует уже NVIDIA. Поэтому выбор конкретной видеокарты обусловлен той архитектурой, которая была заложена в приложение.

Кроме обработки сложных математических задач видеокарту можно использовать и более профильно – для работы с «тяжелыми» графическими приложениями.

Виртуализируй это

Терминальные серверы и тонкие клиенты давно ценятся за удобство обслуживания и независимость от клиентских машин. Последние годы набирает популярность инфраструктура виртуальных рабочих столов (VDI), предлагающая каждому пользователю собственную виртуальную машину в дата-центре.

Если пересадить обычного офисного сотрудника на тонкий клиент не представляет особого труда и практически не сказывается на качестве работы, то отдельная категория стабильно вызывает головную боль – это дизайнеры, архитекторы и другие специалисты, использующие серьезные графические программы.

Помимо графических приложений, ускорение GPU используется при работе даже обычных офисных пакетов MS Office, LibreOffice. Ускорить их работу на обычном терминальном сервере можно установкой мощной видеокарты. Например, при использовании RemoteFX карта AMD FirePro S10000 поддерживает до 70 пользователей. Если сотрудники жалуются на производительность офисных приложений, установка видеокарты может исправить ситуацию.

Решением проблемы может стать перевод требовательных пользователей на VDI вместо простого терминала. Потребуется гипервизор с поддержкой аппаратного ускорения графики. В 2016 году это умеют большинство гипервизоров, даже бесплатных.

Процессор поддерживает аппаратную виртуализацию и IOMMU (Intel VT-d или AMD-Vi);

Материнская плата поддерживает IOMMU;

Если пользователей, желающих оценить плюсы отдельной графики, много, то можно приобрести специальные видеокарты с поддержкой разделения ресурсов.

Умеющие делить ресурсы модели есть у NVIDIA и AMD:

Еще у VMware в ассортименте присутствуют видеокарты GRID K и GRID К2, не попавшие в таблицу, так как морально устарели.

Поддержки карт с разделяемыми ресурсами пока что нет в бесплатных системах виртуализации. Если раньше XenServer всех редакций поддерживал работу «многопользовательской» карты, то теперь необходима редакция Enterprise. Для VMware понадобится редакция Enterprise Plus и выше.

Помимо виртуализации рабочих столов существует и виртуализация приложений (VMware Horizon, Citrix XenApp). Не обязательно выдавать дизайнеру полноценную рабочую станцию, можно виртуализировать, например, только Photoshop.

При разработке виртуальной среды с ускорением графики стоит обратить внимание не только на поддержку в гипервизоре, но и на совместимость с определенной моделью сервера. Совместимость видеокарт NVIDIA GRID с конкретными моделями серверов можно проверить на сайте NVIDIA. В частности, из серверов HPE сертифицирован для работы современной Tesla M60 только ProLiant DL380 Gen9. Эта же модель одобрена AMD.

Для блейд-серверов у AMD и NVIDIA есть решение с интерфейсом MXM, которое характеристиками схоже с картами для обычных серверов.

NVIDIA GRID позволяет использовать разделяемую видеокарту тремя способами:

*SUMS (Support, Update and Maintenance Subscriptions) — поддержка и обновления от NVIDIA.

**Для приобретения вечной лицензии необходимо приобрести SUMS хотя бы на первый год.

Ценник на лицензии сам по себе не большой, но суммарно внедрение всего программно-аппаратного решения обойдется довольно дорого. Тем не менее, если в компании большая часть сотрудников работает с громоздкими графическими приложениями, внедрение VDI может быть дешевле, чем поддержка парка мощных компьютеров.

Помимо математических расчетов и инфраструктуры мощных виртуальных машин с поддержкой графических приложений, можно использовать видеокарты и для игр. Например, создать облачный сервис для прохождения третьего ведьмака на высоких настройках на любом устройстве.

А использовали ли вы мощные дискретные видеокарты в серверах, как впечатления?

Источник

Бюджетные VPS с видеоадаптерами: сравнение российских провайдеров

Считается, будто виртуальные серверы с vGPU стоят дорого. В небольшом обзоре я попробую опровергнуть этот тезис.

Поиск в сети сходу выдает аренду суперкомпьютеров на NVIDIA Tesla V100 или серверов с мощными выделенными GPU попроще. Подобные услуги есть, к примеру, у МТС, Reg.ru или Selectel. Их месячная стоимость измеряется десятками тысяч рублей, а мне хотелось найти более дешевые варианты для приложений OpenCL и/или CUDA. Бюджетных VPS с видеоадаптерами на российском рынке не так много, в небольшой статье я сравню их вычислительные возможности с помощью синтетических тестов.

Участники

В список кандидатов на участие в обзоре попали виртуальные серверы хостеров 1Gb.ru, GPUcloud, RuVDS, UltraVDS и VDS4YOU. С получением доступа особых проблем не возникло, поскольку почти у всех провайдеров есть бесплатный тестовый период. У UltraVDS бесплатного теста официально нет, но договориться оказалось несложно: узнав о публикации, сотрудники поддержки накинули мне нужную для заказа VPS сумму на бонусный счет. На этом этапе с дистанции сошли виртуальные машины VDS4YOU, потому что для бесплатного тестирования хостер требует предоставить скан удостоверения личности. Понимаю, что от злоупотреблений нужно защищаться, но для проверки вполне достаточно реквизитов паспорта или, например, привязки аккаунта в социальной сети — ее требует 1Gb.ru.

Конфигурации и цены

Для тестирования были взяты машины среднего уровня, стоимостью менее 10 тысяч рублей в месяц: 2 вычислительных ядра, 4 ГБ оперативной памяти, SSD на 20 — 50 ГБ, vGPU с 256 МБ VRAM и Windows Server 2016. Перед оценкой производительности VDS посмотрим на их графические подсистемы вооруженным взглядом. Созданная компанией Geeks3D утилита GPU Caps Viewer позволяет получить подробную информацию об используемых хостерами аппаратных и программных решениях. С ее помощью можно увидеть, например, версию видеодрайвера, объем доступной видеопамяти, а также данные о поддержке OpenCL и CUDA.

Из рассмотренных провайдеров только GPUcloud использует виртуализацию OpenStack и технологию NVIDIA GRID. Из-за большого объема видеопамяти (доступны профили на 4, 8 и 16 ГБ) услуга стоит дороже, но у клиента будут работать приложения OpenCL и CUDA. Остальные претенденты предлагают vGPU и с меньшим объемом VRAM, созданные с использованием Microsoft RemoteFX. Стоят они значительно дешевле, но поддерживают только OpenCL.

Тестирование производительности

GeekBench 5

С помощью этой популярной утилиты можно измерить производительность графической подсистемы для приложений OpenCL и CUDA. На приведенной ниже диаграмме показан сводный результат, а более подробные данные для виртуальных серверов 1Gb.ru, GPUcloud (OpenCL и CUDA), RuVDS и UltraVDS доступны на сайте разработчика бенчмарка. Если их открыть, обнаружится интересный факт: GeekBench показывает объемы VRAM, намного превышающие заказанные 256 МБ. Тактовая частота центральных процессоров также может быть больше заявленной. В виртуальных средах это обычное явление — многое зависит от загруженности физического хоста, на котором работает VPS.

Разделяемые «серверные» vGPU слабее производительных «настольных» видеоадаптеров, если использовать их для тяжеловесных графических приложений. Такие решения предназначены в основном для вычислительных задач. Для оценки их эффективности были проведены другие синтетические тесты.

FAHBench 2.3.1

Для всестороннего анализа вычислительных возможностей vGPU этот бенчмарк не подходит, но с его помощью можно сравнить производительность видеоадаптеров разных VPS в сложных расчетах с использованием OpenCL. Проект распределенных вычислений Folding@Home решает узкую задачу компьютерного моделирования свертывания белковых молекул. Исследователи пытаются понять причины возникновения связанных с дефектными белками патологий: болезней Альцгеймера и Паркинсона, коровьего бешенства, рассеянного склероза и т.д. Измеренная с помощью созданной ими утилиты FAHBench производительность вычислений с одинарной и двойной точностью показана на диаграмме. К сожалению на виртуальной машине UltraVDS утилита выдала ошибку.

Дальше приведу сравнение результатов вычислений для метода моделирования dhfr-implicit.

SiSoftware Sandra 20/20

Пакет Sandra Lite отлично подходит для оценки вычислительных возможностей виртуальных видеоадаптеров различных хостеров. Утилита содержит наборы эталонных вычислительных тестов общего назначения (GPGPU) и поддерживает OpenCL, DirectCompute и CUDA. Для начала была сделана общая оценка разных vGPU. Диаграмма показывает сводный результат, более подробные данные для виртуальных серверов 1Gb.ru, GPUcloud (CUDA) и RuVDS доступны на сайте разработчика бенчмарка.

С «длинным» тестом Sandra тоже были проблемы. Для VPS провайдера GPUcloud не получилось провести общую оценку с использованием OpenCL. При выборе соответствующей опции утилита все равно работала через CUDA. Не прошел этот тест и для машины UltraVDS: бенчмарк замер на 86%, пытаясь определить латентность памяти.

В общем пакете тестов нельзя увидеть показатели с достаточной степенью детализации или проделать вычисления с высокой точностью. Пришлось провести несколько отдельных испытаний, начиная с определения пиковой производительности видеоадаптера с помощью набора простых математических расчетов с использованием OpenCL и (если это возможно) CUDA. Здесь также отражен только общий показатель, а детализированные результаты для VPS от 1Gb.ru, GPUcloud (OpenCL и CUDA), RuVDS и UltraVDS доступны на сайте.

Для сравнения скорости кодирования и декодирования данных в Sandra есть набор криптографических тестов. На сайте доступны подробные результаты для 1Gb.ru, GPUcloud (OpenCL и CUDA), RuVDS и UltraVDS.

Параллельные финансовые расчеты требуют поддерживающего вычисления с двойной точностью адаптера. Это еще одна важная сфера применения vGPU. На сайте доступны подробные результаты для 1Gb.ru, GPUcloud (OpenCL и CUDA), RuVDS и UltraVDS.

Sandra 20/20 позволяет протестировать возможности использования vGPU для научных расчетов с высокой точностью: умножения матриц, быстрого преобразования Фурье и т.д. На сайте доступны подробные результаты для 1Gb.ru, GPUcloud (OpenCL и CUDA), RuVDS и UltraVDS.

Напоследок был проведен тест возможностей vGPU по обработке изображений. На сайте доступны подробные результаты для 1Gb.ru, GPUcloud (OpenCL и CUDA), RuVDS и UltraVDS.

Выводы

У меня были определенные сомнения по поводу победителя, но обзор посвящен бюджетным VPS с vGPU, а виртуальная машина RuVDS стоит почти вдвое дешевле ближайшего конкурента и более чем вчетверо — самого дорогого предложения из рассмотренных. Второе и третье место тоже было непросто поделить, но и здесь цена перевесила прочие факторы.

В результате тестирования выяснилось, что vGPU начального уровня стоят не так дорого и пользоваться ими для решения вычислительных задач уже можно. Конечно по синтетическим тестам сложно предсказать, как поведет себя машина под реальной нагрузкой, к тому же от соседей по физическому хосту напрямую зависит возможность выделения ресурсов — делайте на это скидку. Если же вы найдете на просторах рунета другие бюджетные VPS с vGPU, не сочтите за труд написать о них в комментариях.

Источник