Преамбула: Не было у бабы заботы, купила баба … HP Microserver Gen8. 🙂
В работе был старенький, но надежный, HP Microserver N40L. В работе с 2012 года, в режиме 24/7. Работал под управлением ESXi 5.1. Крутилось на нем парочка серверов 2003R2 (DNS и WEB). Этакая «инкапсуляция опасных направлений». Просто, отдельно стоящий, информационный web-серверок. Если «взломают» легко и быстро поднять из резервной копии и перезапустить. В общую сеть этот сервер, не смотрел, а подключался только на время обновлений контента. Но время шло и серверок … «устал».
Захотелось и DNS и WEB запустить, хотя бы, на Windows Server 2008R2, а, в идеале, на Windows Server 2012R2. И стал N40L тормозить. Аппаратных ресурсов у N40L маловато. Процессор AMD Turion (™) II с частотой 1.5 GHz с архитектурой 2/2 и памяти больше 8 GB не поставить.
Понимаю, что и HP Microserver Gen8 не панацея, но памяти можно поставить 16GB, а процессор взять, например, Intel® Xeon® E3-1220l, c частотой 2.3/3.5 GHz, с архитектурой 2/4 и сверхнизким энергопотреблением (примерно 17-20Вт). Если денег не жалко, то можно поставить, например, Intel® Xeon® E3-1270 с частотой 3.4/4.1 GHz, с архитектурой 4/8. Но тут уже не стоит удивляться тому, что сам процессор стоит примерно в 1.5 раза дороже всего микро сервера :-).
HP Microserver Gen8 это последний из микро серверов от HP в котором
- можно производить апгрейд
- есть iLO, что, согласитесь, очень удобно.
К сожалению, Gen9 так и не увидел свет, а свежий Gen10 это … почитайте о нем сами и все поймете 🙂
HP Microserver Gen8 уже не выпускается, но купить еще можно. Что и было сделано. Был куплен абсолютно нулёвый Gen8 (G2020T) на AVITO 🙂 . Установил на него, с кастомного имиджа HPE, гипервизор ESXi 5.5U3. И все.
Нет, не все. Именно с этого места начинается самое интересное.
Установлено: VMware-ESXi-5.5.0-Update3-3568722-HPE-550.9.6.5.9-Dec2016.iso
Версия драйвера дисков: — scsi-hpvsa-5.5.0.100-1OEM.550.0.0.1331820
Как выяснилось, HP что-то испортили в драйвере дисковой подсистемы для ESXi 5.5 и работа с дисками стала … скажем так, не очень эффективной. Более того, как выяснилось позже, такая же проблема существует и в гипервизорах ESXi 6.0/6.5 от HPE.
Насколько не эффективно? Результаты замеров в статье. Сразу скажу – оглушающие.
Пообщавшись со знакомыми и покопав Интернет было выяснено, что всему виной и правда, драйвер, который HPE включила в свой кастомный образ с установщиком гипервизора ESXi 5.5 и более поздних версий.
Но, решение этой проблемы есть. Совместными усилиями Интернет-сообщества (https://homeservershow.com) был найден драйвер, который реально ускоряет работу с дисками в HP Microserver Gen8.
Версия драйвера: scsi-hpvsa-5.5.0-88OEM.550.0.0.1331820
Сам драйвер можно легально, бесплатно и без регистрации, скачать c сайта HPE:
https://support.hpe.com/hpsc/swd/…b1dfc5314e02bc01b1436b
Type: Driver — Storage Controller
Version: 5.5.0-88.0(9 Sep 2014)
Operating System(s): VMware vSphere 5.5
File name: scsi-hpvsa-5.5.0-88OEM.550.0.0.1331820.x86_64.vib (707 KB)
Осталось его установить. Как это сделать, описано ниже.
В первую очередь проверяем версию установленного драйвера и, если отличается, то заменяем на правильный.
А) Заходим в консоль ESXi хоста через PuTTY под именем root и запускаем команду
esxcli software vib list | grep scsi
Вот, что было у меня до смены драйвера
~ # esxcli software vib list | grep scsi
scsi-hpsa 5.5.0.124-1OEM.550.0.0.1331820 HPE VMwareCertified 2018-04-10
scsi-hpdsa 5.5.0.52-1OEM.550.0.0.1331820 Hewlett-Packard PartnerSupported 2018-04-10
scsi-hpvsa 5.5.0.100-1OEM.550.0.0.1331820 Hewlett-Packard PartnerSupported 2018-04-10
scsi-mpt2sas 15.10.06.00.1vmw-1OEM.550.0.0.1198610 LSI VMwareCertified 2018-04-10
scsi-bfa 3.2.6.0-1OEM.550.0.0.1331820 QLogic VMwareCertified 2018-04-10
scsi-bnx2fc 1.713.20.v55.4-1OEM.550.0.0.1331820 QLogic VMwareCertified 2018-04-10
scsi-bnx2i 2.713.10.v55.3-1OEM.550.0.0.1331820 QLogic VMwareCertified 2018-04-10
scsi-qla4xxx 644.55.37.0-1OEM.550.0.0.1331820 QLogic VMwareCertified 2018-04-10
То есть. Не тот. Почему? А вот, что показал тест производительности. Не то чтобы тест, но из приведенных команд видно, что тестируется.
Выполняем следующие команды из консоли ESXI:
cd /vmfs/volumes/[datastore]
time dd if=/dev/zero of=tempfile bs=8k count=1000000
Получаем результат:
1000000+0 records in
1000000+0 records out
real 14m 12.62s
user 0m 12.23s
sys 0m 0.00s
Вроде бы не плохо, да?
Для сравнения, в той же конфигурации, но с установленным, ESXi 5.1U3 получаем примерно следующее:
1000000+0 records in
1000000+0 records out
real 17m 25.62s
user 0m 7.23s
sys 0m 0.00s
То есть, налицо видимое улучшение по сравнению с предыдущей версией гипервизора. Но, вам придется поверить мне на слово, а потом посмотреть на совсем другой результат. Дочитайте до конца.
Итак, приступаем к смене драйвера.
Процедура достаточно простая. Предполагается, что нужный драйвер Вы уже скачали с сайта HP, по приведенный ранее ссылке.
- Останавливаем все запущенные VMs
- Если не включено, включаем ssh
- Копируем файл «scsi-hpvsa-5.5.0-88OEM.550.0.0.1331820.x86_64.vib» to /tmp (например, с помощью WinSCP)
- Подключаемся к консоли гипервизора ESXi с помощью PuTTY (с правами root, естественно)
- Меняем текущую папку на ту, куда положили файл, то есть на папку /tmp
cd /tmp
- Копируем vib-файл в папку из которой он будет инсталлирован
cp scsi-hpvsa-5.5.0-88OEM.550.0.0.1331820.x86_64.vib /var/log/vmware/
- Переводим гипервизор в Maintenance Mode
esxcli system maintenanceMode set --enable true
- Удаляем текущий драйвер дисковой подсистемы
esxcli software vib remove -n scsi-hpvsa -f
- Инсталлируем правильный драйвер scsi-hpvsa-5.5.0-88OEM из файла
esxcli software vib install -v file:scsi-hpvsa-5.5.0-88OEM.550.0.0.1331820.x86_64.vib --force --no-sig-check --maintenance-mode
- Перезапускаем ESXi, отключаем Maintenance Mode, запрещаем ssh (если нужно) и запускаем свои виртуальные машинки.
esxcli system maintenanceMode set --enable false
Все просто? Да, просто.
Но ведь всегда хочется убедиться, что автор не наврал.
Проверяем, что версия драйвера изменилась.
esxcli software vib list | grep scsi
scsi-hpsa 5.5.0.124-1OEM.550.0.0.1331820 HPE VMwareCertified 2018-04-10
scsi-hpdsa 5.5.0.52-1OEM.550.0.0.1331820 Hewlett-Packard PartnerSupported 2018-04-10
scsi-hpvsa 5.5.0-88OEM.550.0.0.1331820 Hewlett-Packard PartnerSupported 2018-04-10
scsi-mpt2sas 15.10.06.00.1vmw-1OEM.550.0.0.1198610 LSI VMwareCertified 2018-04-10
scsi-bfa 3.2.6.0-1OEM.550.0.0.1331820 QLogic VMwareCertified 2018-04-10
scsi-bnx2fc 1.713.20.v55.4-1OEM.550.0.0.1331820 QLogic VMwareCertified 2018-04-10
scsi-bnx2i 2.713.10.v55.3-1OEM.550.0.0.1331820 QLogic VMwareCertified 2018-04-10
scsi-qla4xxx 644.55.37.0-1OEM.550.0.0.1331820 QLogic VMwareCertified 2018-04-10
Да. Изменилась на правильную.
А скорость? Не обманули? Проверяем! Что я и сам сделал. Запустил, повторно, тест производительности. Результат меня, мягко говоря, ошеломил
cd /vmfs/volumes/[datastore]
time dd if=/dev/zero of=tempfile bs=8k count=1000000
1000000+0 records in
1000000+0 records out
real 2m 6.73s
user 0m 5.21s
sys 0m 0.00s
Это в СЕМЬ раз быстрее, чем с предыдущим драйвером и почти в 9 раз быстрее чем на ESXI 5.1U3
На форуме пользователи подтвердили, что примерно такой же, не правильный, драйвер устанавливается и при инсталляции ESXi 6.0 и 6.5. И замена его на версию scsi-hpvsa-5.5.0-88OEM.550.0.0.1331820 приводит к такому же ускорению работы дисковой подсистемы.
Занавес! По-моему — это более чем убедительный аргумент в пользу замены драйвера.
1000000+0 records in
1000000+0 records out
real 0m 46.42s
user 0m 6.91s
sys 0m 0.00s
На какой конфигурации железа, напиши, пожалуйста.
HP DL 360p Gen8
Стоит 6.5up1 с образа от НРЕ
scsi-hpvsa 5.5.0.102-1OEM.550.0.0.1331820 — єто «норм» драйвер или фигня и надо обновить?
RAID10 из 4x SAS 10k
1000000+0 records in
1000000+0 records out
real 0m 41.58s
user 0m 10.67s
sys 0m 0.00s
Мы поговорили с itpro и пришли к выводу, что, скорее всего, эта проблема касается только SOHO серверов от HP. И проблема не столько в драйвере, сколько в сочетании драйвер-контроллер.
Как вариант, проблема возникает когда работа идет черезх AHCI контроллер.
В случае серверов Enterprise уровня, данный драйвер попросту не задействоан в работе.
В описанно в статье примере рассматривается HP Microsever Gen8 с «типа» raid-контроллеров B120i, что полностью совпоадает с нашим предположением.
Доброго времени суток всем.
Пользовал Xen, ESXi, Hyper-V. Перешел на Proxmox VE (KVM). Открыто, удобно (управление через веб-фейс), поддержка кластеризации, автобэкапов, ZFS сразу из коробки.
Продукт активно развивается. Попробуйте и вам не захочется чего-то другого — https://www.proxmox.com/en/proxmox-ve
P.s. А в кач-ве firewall уже лет 8 пользую pfsense. Также рекомендую.
Немного how to по Proxmox, pfsense, ZFS etc. — https://forum.pfsense.org/index.php?topic=136398.0
P.p.s. В случае использования Proxmox и брендового железа с аппаратным рейдом рекомендую не использовать железный рейд, а перейти на программный ZFS RAID. Получается крайне надежно и baremetal. Даже если выйдет из строя мат. плата — с программным ZFS RAID это не страшно. Просто подключите hdd на др. матплату и всё. Если же будет использоваться hw raid, то без такой же матплаты\контроллера (с такой же firmware) ничего не выйдет и данные будут потеряны.
Звучит красиво, спасибо за ссылки
Но … предпочту, пока, остаться на vSphere/ESXi
vMware это признанный мировой лидер в сфере виртуализации.
Да и недолюбливаю Open Source.
Добрый.
Тогда прийдется вам отказаться от Интернета, смартфона на Андроиде и т.д. Ведь в них (о, ужас!) — опен сурс.
P.s. Откройте любую приличную вакансию на том же hh. Везде требования — опыт работы с linux.
Есть игрушки.Есть корпоративные инфраструктуры.
Есть, правда, люди которые пытаются посадить офисы на Linux и Open Office..
Которых недалекие менеджеры нанимают на hh.ru. Потом правда платят еще раз за разгребание косяков «опенсорсника». Приходилось такое делать несколько раз в жизни. Пример не с потолка.
Со всеми вытекающими гиморами.
Приводить Андроид в пример. Не плохо. Вы все еще в игрушки на телефоне играетесь?
Вот вы пишете «Пользовал Xen, ESXi, Hyper-V. Перешел на Proxmox VE (KVM).»
— Как долго?
— Количество хостов/виртуалок?
Тяжесть приложений на виртуалках?
Количество сотрудников в офисе/офисах?
Или вы «поставил-посмотрел-не понял» — значит «не то», так «пользовали»
https://www.virtualizationhowto.com/2018/04/vmware-vcsa-6-7-new-features-installation-and-configuration/
Перешли на html 5 (почти, ага). И шедулер добавили для бэкапов, но только для платного (!) vcenter.
А между тем «нелюбимый» опенсурс уж 2-й год на html 5 и бэкапы по расписанию в кучу хранилищ на выбор из коробки сразу и (ужыс!) бесплатно (!)
Рекомендую вам, когда наберетесь достаточно опыта, устроится на работу в серьезную фирму, а не в «контору» где весь софт либо краденый, либо опенсорсный 🙂
Тогда и платность профессионального ПО и оборудования не будет «такой страшной». Только постарайтесь набраться опыта работы с профессиональными, а не игрушечными, программными и аппаратными решениями.
Кстати на вопросы вы так и не ответили.
Добрый.
Xen — 3 года
Vmware — 3 года
Hyper-V — 2 года.
Сотрудников, если с филиалами (29 шт), за 1000 чел. Вполне достаточно, думается.
Почту на Zimbra разворачивал. Серъезное открытое корпоративное решение.Vmware владеет, кстати.
Все проверки. которые делались, кажутся мне не совсем правильными.
Потестируйте скорость работы с именно с SSD диском.
А результаты киньте сюда.
Спасибо.
по 2 секунды что на локальном 10 рейде что на FC полку
hp gen 9
Хорошо, но тот драйвер не задействован в обоих случаях.
Xen — 3 года
Vmware — 3 года
Hyper-V — 2 года.
Сотрудников, если с филиалами (29 шт), за 1000 чел. Вполне достаточно, думается.
Почту на Zimbra разворачивал. Серъезное открытое корпоративное решение.Vmware владеет, кстати.
Солидно. А что из всего этого вы, персонально, делали и развертывали? Ну кроме почты, о которой вы пишете. Я правильно понимаю, что хосты и, собственно, виртуальные сервера разворачивали и запускали другие люди? А вы лишь наблюдали за процессом.
Делаю на ESXi 6.5.
esxcli software vib remove -n scsi-hpvsa -f
Removal Result
Message: The update completed successfully, but the system needs to be rebooted for the changes to be effective.
Reboot Required: true
VIBs Installed:
VIBs Removed: HPE_bootbank_scsi-hpvsa_5.5.0.102-1OEM.550.0.0.1331820
VIBs Skipped:
[root@HPGen8:/tmp] esxcli software vib install -v file:scsi-hpvsa-5.5.0-88OEM.550.0.0.1331820.x86_64.vib —force —no-sig-check —maintenance-mode
Installation Result
Message: The update completed successfully, but the system needs to be rebooted for the changes to be effective.
Reboot Required: true
VIBs Installed: Hewlett-Packard_bootbank_scsi-hpvsa_5.5.0-88OEM.550.0.0.1331820
VIBs Removed:
VIBs Skipped:
Перегружаю ииииии
Фиолетовый экран ESXi и надпись
The system has found a problem on your machine and cannot continue.
Two filesystems with the same UUID have been detected. Make sure you do not have two ESXi installations
И что с этим делать ?
сам себе отвечу — не ставьте на Raid esxi.
Почему?
все мои ЕСХи стоят на рейдах и все ОК
ЧЯДНТ ?
так рэйд разваливается в случае смены драйвера.
но и как я ниже написал, смысла его менять тоже нет.
На рейде скорость была что то около 9 мин на выполнение теста
Нет. Не развалится. Если это аппаратный RAID, а не программный.
А смысл ставить ESXi на RAID?
Он же только загружается и дальше сам к себе не обращается.
Все мои ESXi (включая домашний) установлены на SD карточки 🙂
Удобно 🙂
так на микросервере как раз програмный рейд — B120i Controller
фигня это все. разобрал рэйд проверить, перевел в achi. проверил. РАЗНИЦЫ НИКАКОЙ
вот с этой версией драйвера
scsi-hpvsa 5.5.0.102-1OEM.550.0.0.1331820
1000000+0 records in
1000000+0 records out
real 7m 59.98s
user 0m 3.64s
sys 0m 0.00s
а вот результат с версией scsi-hpvsa 5.5.0-88OEM.550.0.0.1331820
1000000+0 records in
1000000+0 records out
real 7m 59.00s
user 0m 3.65s
sys 0m 0.00s
На каком сервере и какой raid-контроллер?
Со 100% повторяемостью, описанное, проявляется на
HP MicroServer Gen8 с контроллером Dynamic Smart Array B120i Controller
так все на микросервере проверяю — HP MicroServer Gen8 с контроллером Dynamic Smart Array B120i Controller
Тогда это ОЧЕНЬ странно!
У меня и у мего коллеги результат тот, который я показал в статье.
На форуме по микросерверу об этом написано давным-давно.
Что-то делаете не так, подозреваю.
Вот заметка на форуме моего коллеги
https://homeservershow.com/forums/topic/9141-low-io-performance-with-esxi-60/?page=9&tab=comments#comment-103399
Вот еще похожее
https://homeservershow.com/forums/topic/11872-esxi-65-b120i-hpvsa-hp-microserver-gen8-low-performance/?page=5&tab=comments#comment-143040
А зачем в AHCI ?
Изначально собрано все было в RAID1 по HP Microserver Gen 8, на B120i. после смены драйвера на 88 версию — вылет ESXI в фиолетовый экран из-за того что она видит 2 своих копии с одним UUID.
Перенес ESXI на карточку SD.
Тестировал с ACHI и RAID1 и RAID0 (1 диск)
Между ACHI и RAID1 разницы не увидел, перешел к тестам на RAID0 и вот интересные результаты
cd /vmfs/volumes/WDGold/
[root@HPGen8:/vmfs/volumes/5b52199f-510f0d07-8b64-98f2b3f70b4c] time dd if=/dev/zero of=tempfile bs=8k count=1000000
1000000+0 records in
1000000+0 records out
real 2m 54.51s
user 0m 7.03s
sys 0m 0.00s
[root@HPGen8:/vmfs/volumes/5b52199f-510f0d07-8b64-98f2b3f70b4c] cd /vmfs/volumes/Toshiba/
[root@HPGen8:/vmfs/volumes/5b5d92aa-c29ac0a5-271c-98f2b3f70b4c] time dd if=/dev/zero of=tempfile bs=8k count=1000000
1000000+0 records in
1000000+0 records out
real 1m 14.71s
user 0m 6.98s
sys 0m 0.00s
[root@HPGen8:/vmfs/volumes/5b5d92aa-c29ac0a5-271c-98f2b3f70b4c] cd /vmfs/volumes/SSD/
[root@HPGen8:/vmfs/volumes/5b49f4d7-24ed0702-aacb-98f2b3f70b4c] time dd if=/dev/zero of=tempfile bs=8k count=1000000
1000000+0 records in
1000000+0 records out
real 1m 28.99s
user 0m 6.97s
sys 0m 0.00s
Инструкции и ссылки на форумах я видел, читал. Но видимо все дело как всегда в ньюансах.
на RAID1 скорости оказались не очень -8 мин.
Используются 2 разных диска WDGold — WDC_WD4002FYYZ2D01B7CB1
и TOSHIBA_HDWQ140. Я подозревал , что скорость работы RAID1 будет по самому медленному диску, но чтобы настолько ….. Оба диска на 7200 оборотов и 128 Мб кэша. Казалось скорости должны быть примерно одинаковыми, но или тест не учитывает нюансов работы из под ESXI , или я тогда ничего не понимаю….КАК WD Gold оказался медленее Toshiba ? в 2 раза ?
И скорость работы Toshiba оказалась сравнима со скорость работы SSD подключенного по SATA2 к 5 порту. Чудеса…
Дело в том что диск WDgold используется под хранилище и заполнен на 30 процентов, так же и SSD , а Toshiba я воткнул для теста и он пуст. Видимо из-за этого. Других причин я не вижу. Значит тестировать таким образом скорость доступа к дискам из под ESXI нельзя. Диск немного заполнился и все — скорость упала в 2 раза ? И смысл тогда такого теста ? оценить все плохо или фиг его знает может и не так плохо ?
Можно. И нужно. Я тестировал и на дисках и на MicroSD
Если на пустом диске скоро работы отличается в несколько раз, то, даже снизившись вдвое, это все равно быстрее.
А вообще, почитав форумов и поигравшись с HP MIcroserver Gen8, для себя решил — раз такой поганенький «raid»-контроллер, который даже raid5 не умеет делать, то диски вообще нет смысла ставить.
Установлена MicroSD, с нее грузится ESXi, a все остальное хранится на внешнем Synology 1812+. В том числе и вируталки, напрямую подстегнутые по 1GBit Ethernet к Gen8. Так как все это дома, то скорости обмена более чем хватает.
ProLiant DL380e Gen8 контроллер b320i.
Помогло. Спасибо. Результаты до и после!
1000000+0 records in
1000000+0 records out
real 14m 18.43s
user 0m 5.72s
sys 0m 0.00s
1000000+0 records in
1000000+0 records out
real 1m 1.49s
user 0m 5.73s
sys 0m 0.00s
ML350p G8
esxi 6.5 u2
p420i raid 1+0
scsi-hpvsa 5.5.0.102-1OEM.550.0.0.1331820
1000000+0 records in
1000000+0 records out
real 0m 23.91s
user 0m 6.43s
sys 0m 0.00s
Прошу помощи! Сам столкнулся с аналогичной проблемой. Сервер HP Proliant DL380 Gen7 RAID SmartArray P410i. Стоит esxi 6.0.0
Стоял драйвер как в статье (scsi-hpvsa 5.5.0.100-1OEM.550.0.0.1331820 Hewlett-Packard PartnerSupported 2018-04-10) результат был:
1000000+0 records in
1000000+0 records out
real 16m 26.83s
user 0m 6.65s
sys 0m 0.00s
установил (scsi-hpvsa 5.5.0-88OEM.550.0.0.1331820 Hewlett-Packard PartnerSupported 2018-04-10) результат:
1000000+0 records in
1000000+0 records out
real 15m 43.14s
user 0m 5.48s
sys 0m 0.00s
и эти 40 секунд разницы я считаю погрешность. Помогите пожалуйста как либо решить данную проблему. Раньше эти виртуалки крутились на обычном компьютере в роли сервера, и всё было существенно лучше, а сейчас полная опа
так для 410 рейда этот драйвер никакого влияния не оказывает.
в данной статье описывается конкретный случай с софтовым raid контроллером B120i , его драйвер для ESXi и меняется.
Да, все отлично на DL360eG8 с b320i, только через некоторое время все падает в PSOD. Решения пока нет.
Многомесячные тесты показали, что нужно ставить не 88, а 84 версию драйвера. Тогда производительнось максимальна и отсутствуют psod. На 88 версии меня замучали псоды.
Проверено на 5.5u3 и 6.0u3.
10GB у меня записываются за чуть более 1 минуты. Когда как на версиях драйвера выше 88 те же 10GB записываются за 12-14 минут.
К аппаратном raid с индексами P4XX данный драйвер hpvsa никоем образом не относится. Аппаратные рейды работают через hpsa.
О как.
А дай ссылочкугде качнуть 84 драйвера.
Поставлю себе потестить
Спасибо.
Нашел. Надо попробовать
5.5.0-84.00(18 Feb 2014)
Type: Driver - Storage Controller
Version: 5.5.0-84.00(18 Feb 2014)
Operating System(s): VMware vSphere 5.5
File name: scsi-hpvsa-5.5.0-84OEM.550.0.0.1198611.x86_64.vib (707 KB)
На сайте HP: scsi-hpvsa-5.5.0-84OEM.550.0.0.1198611.x86_64.vib
Кстати эту ссылку ты давал в статье.
На вкладке Revision History все версии можно скачать.
Кстати в версии драйвера 108 они там что-то пишут про фикс PSOD. Но я что-то им не верю. Да даже если так, он наверняка такой же тормозной и остался как все после 88-го.
Version:5.5.0.108-1 (14 Aug 2018)
Fixes
Upgrade Requirement:
Recommended — HPE recommends users update to this version at their earliest convenience.
Fixes the following issues:
— The controller might not be detected by SSACLI after OS installation.
— The ESXi host could crash due to a PSOD exception error in the driver controller.
Тормознул 🙂
В Revision History не посмотрел 🙂
Ах да. Забыл написать. Моя железка: HP ProLiant DL380e Gen8 с HP Dynamic Smart Array B320i/512MB Flash-Backed Write Cache (FBWC) Controller
между B320i и B120i — огромная разница 🙂
Я думаю, что те у кого система не падает в PSOD на 88 драйвере установили гипервизор на USB внутренний или внешний. У меня же работал гипервизор с RAID-контроллера. И периодически терял накопитель. Видимо срабатывал какой-то event, и при попытке записи его в лог хост вываливался в PSOD не находя накопитель для записи или чтения. Ошибка была по Heartbeat.
Да. Так и есть. Гипервизор на microSD. Из дисков в Gen8 стоит только SSD для кэширования. Все виртуалки
на домашнем NAS. 🙂 В качестве RAID этот контроллер использховать категорически не рекомендуют.
5 лет при работе ESXi с RAID-1. Все отлично кроме периода пока выяснял из-за чего PSOD после обновления.
НеRAID не устраивает. Нужно зеркало без замарочек.
Ну это кому как.
Я не стал набивать свой Gen8 хардами. Нет необходимости. Дома все стоит.
Никаких супер-транзакций или массовых чтения-записи.
У меня виртуалки, как я и писал, на внешнем NAS с RAID5 и регулярными бэкапами и копированием на второй NAS.
HP ProLiant MicroServer Gen8 G2020T
ESXi 6.5U2
В режиме AHCI
Спасибо, но увы:
scsi-hpvsa 5.5.0.102-1OEM.550.0.0.1331820 HPE PartnerSupported 2019-06-09
1000000+0 records in
1000000+0 records out
real 12m 51.49s
user 0m 7.27s
sys 0m 0.00s
scsi-hpvsa 5.5.0-88OEM.550.0.0.1331820 Hewlett-Packard PartnerSupported 2019-06-09
1000000+0 records in
1000000+0 records out
real 13m 28.15s
user 0m 7.32s
sys 0m 0.00s
Вернулся на ту же версию драйвера:
https://support.hpe.com/hpsc/swd/public/detail?swItemId=MTX-bc73ce1efb704505a77e021390
А я вот не смог с после 88 вернуться на новую версию , Storage ESXI созданный под 88 версией, под 102 уже не распознается, хотя само устройство доступно. Нужно очищать полностью раздел и создавать заново.
Бррр. И файловая система одинаковая VMFS6, а вот не видит и все.
А дату выпуска вашего микросервера не посмотрите?
Хотя, может быть ESXi 6.5U2 уже научилась работать с «кривым» контроллером.
спасибо
К сожалению нигде не могу найти сведения о дате выпуска. Могу только сказать, что сервер приобретен в октябре 2013.
Сегодня возился с 6.5. Да, понизить драйвер недостаточно. Нужно еще отключить vmw_ahci
esxcli system module set --enabled=false --module=vmw_ahci
Тогда включается старый драйвер ahci. Работает и Sata нормально и raid.
Подскажите, что я делал не так? По ссылке вывод терминала.
https://pastebin.com/K1N6AZRf
Всё шло нормально до установки драйвера.
esxcli software vib install -v file:scsi-hpvsa-5.5.0-88OEM.550.0.0.1331820.x86_64.vib —force —no-sig-check —maintenance-mode
С первого раза он не поставился, попробовал ещё пару раз, в итоге почему-то получилось. Но после перезагрузки не запустилась ESXI, ругалась как раз на файл k.b00. После повторной перезагрузки система поднялась штатно, но версия драйвера осталась старой.
Сервер hp microserver gen8, esxi стоит на флешке, версия 6.0.
ЧЯДТ?
Вроде всё по ману делал.
PS простите за тупые вопросы, я только учусь.
HP
Hypervisor: VMware ESXi, 6.7.0, 14320388
Model: ProLiant DL560 Gen8
Processor Type: Intel(R) Xeon(R) CPU E5-4627 v2 @ 3.30GHz
raid ssd intel
1000000+0 records in
1000000+0 records out
real 0m 29.55s
user 0m 21.14s
sys 0m 0.00s
Версию драйвера можно увидеть?
Просто интересно.
ESXi 6.7 не вижу смысла ставить на микро-сервер.
ESXi 5.1 U1, Dl380G8, 420i (2GB), 8HDD 10K RAID5 (1HS)
scsi-hpsa 5.0.0-40OEM.500.0.0.472560
Первый тест после создания tempfile 8GB
1000000+0 records in
1000000+0 records out
real 0m 13.63s
user 0m 9.32s
sys 0m 0.00s
Последующий тест с имеющимся файлом tempfile 8GB
1000000+0 records in
1000000+0 records out
real 0m 10.64s
user 0m 9.30s
sys 0m 0.00s
Не могу понять это хорошо или плохо?
И если это все же хорошо, то почему скорость резервирования по сети (10G) или копирование с Datastore в локальную папку не поднимается выше 45-50 М/с, и это еще самый пик к завершению процесса.
Это нормально.
Но у вас другой Gen8 — Dl380G8 и, соответственно,
другой контроллер 420i
«Затык» чётко ловится именно на HP MicroServer в котором установлен
недо-RAID контроллер SmartArray B120i
Не могу понять это хорошо или плохо?
И если это все же хорошо, то почему скорость резервирования по сети (10G) или копирование с Datastore в локальную папку не поднимается выше 45-50 М/с, и это еще самый пик к завершению процесса.
А вот это зависит от множества факторов.
В том числе от загрузки сети, от скорости отдачи с DataStore-источника, от скорости установленных дисков, от типа сетевого подключения сервера к DataStore (Samba и т.д.) и от размера копируемых файлов (много небольших — ниже средняя скорость).. Попробуйте создать файл размером 100-150 GB и прогнать копирование.
И посмотрите с какой скоростью скопирует.
Добрый день,
Спасибо за ответ.
Как-то пробовал давьненько, не помню команду в ESXi, создавался файл 32 гигабайта и производилось его чтение, так вот судя по esxtop, наглядно скорость чтения с этого же DataStore, была выше 680 М/с, что как раз сооветствует полученным вот только, что данным.
DataStore (DL380G8, RAID5 на 7-ми дисках 600GB 10K), выделенный vSwitch только Management -> 10Gb карта X520 -> SFP -> HPe JC100 A5800 -> SFP -> HP560 (10Gb (X520)) -> DL360 G7 с локальными дисками в RAID10 (250-300 М/с линейной записи).
Что я делаю не так?
Скорее вопрос к глубоким спецам по VMware/ESXi
Остается «грешить» только на настройку vSwitch ?
Подскажите пожалуйста команду по проверке скорости?
Такая?
cd /vmfs/volumes/datastore1
# time dd if=/dev/zero of=tempfile bs=8k count=1000000
Ну да. Так же и написано. А в чем сомнения?
Выполняем следующие команды из консоли ESXI:
cd /vmfs/volumes/[datastore]
time dd if=/dev/zero of=tempfile bs=8k count=1000000