Энтузиасту удалось полностью разблокировать NVIDIA CMP 170HX, получив 80 Гбайт HBM2e

На просторах Интернета был опубликован новый способ полностью раскрыть возможности майнинговой видеокарты NVIDIA CMP 170HX, которая в штатном виде ограничена 8 или 10 Гбайтами памяти HBM2e. Как мы знаем, в её основе лежит графический процессор GA100, как и у серверного ускорителя A100, а «лишняя» память и потоковые мультипроцессоры попросту отключены на заводе при помощи электронных предохранителей. Ранее для этой модели уже существовал программный метод разблокировки, но он позволял получить не всю память, не включал часть шейдерных блоков и оставлял интерфейс PCI Express на уровне версии 2.0.

Новый вариант разблокировки пошёл дальше и взламывает сам контроллер предохранителей. Для этого была собрана небольшая плата на микроконтроллере стоимостью около $8, которая перехватывает сигналы управления стабилизатором питания видеокарты и создаёт на линии питания графического процессора короткие скачки напряжения. В момент такого сбоя защитные флаги контроллера допускают запись, после чего их можно перенастроить. Из десяти проверенных экземпляров с 8 Гбайтами у девяти заработали все 80 Гбайт, и лишь у одного получилось только 64 Гбайта. Кроме того, заработали PCI Express 4.0, ECC, NVLink и режим MIG, чего софтовый метод не давал.

По результатам тестов, модифицированный экземпляр показал в вычислениях FP16 около 85.9 TFLOPS против 72.5 TFLOPS у обычной A100. Рост производительности объясняется разблокировкой SM-блоков, а не количеством памяти. Однако есть и обратная сторона: не у каждого GPU все блоки рабочие, поэтому прошивка может задействовать даже то, чего нет или что является дефектом производства. При этом вернуть ускоритель к заводскому состоянию невозможно, то есть присутствует риск «окирпичивания».

Идея оказалась настолько простой, что её уже повторили. Спустя пять дней после публикации пользователь Reddit показал, что для той же операции хватило платы Raspberry Pi Pico 2 за $5 и скрипта, написанного с помощью нейросети. Сама Kate, автор оригинального обхода, рассказала, что уведомила NVIDIA об уязвимости, но с уже проданными ускорителями вряд ли что-то можно сделать.