Hack de firmware pentru plăcile Nvidia: Puterea AI, descătușată?

Cum funcționează „deblocarea” performanței?

Un grup de dezvoltatori Linux a descoperit o metodă ingenioasă de a elimina limitările impuse de Nvidia pe plăcile video din seriile GeForce RTX 20, 30 și 40. Practic, aceștia au reușit să spargă „frâna” software care ținea performanța AI la jumătate din capacitatea teoretică a hardware-ului.

Această modificare, raportată inițial de comunitatea VideoCardz, permite utilizatorilor să dubleze rata de calcul tensor pe un RTX 4090, în timp ce posesorii de RTX 3090 Ti pot observa un salt de până la 80% în calculele matriceale. Totul se face fără a atinge componentele fizice, ci doar prin rescrierea modulului de kernel care gestionează comunicarea cu GPU-ul.

Nvidia impusese aceste restricții pentru a controla consumul de energie și emisia de căldură, însă, în practică, a limitat drastic potențialul plăcilor în sarcinile de lucru bazate pe inteligență artificială.

Modulul de kernel modificat interceptează apelurile către motorul AI al plăcii video și elimină pragul de viteză de 0.5x. Sistemul de operare nu detectează nicio schimbare, deci utilizatorul nu trebuie să modifice driverele sau setările. Testele efectuate de echipa VideoCardz sunt grăitoare: performanța tensor pe un RTX 4090 urcă de la 38,5 TFLOPS la 77 TFLOPS, iar un RTX 3090 Ti sare de la 27 TFLOPS la 48 TFLOPS.

Modelele mai vechi din seriile 20 și 30 beneficiază și ele de sporuri între 10% și 50%.

Beneficiul imediat este accelerarea vizibilă a antrenării rețelelor neuronale.

Dezvoltatorii pot obține rezultate mai rapide pe hardware-ul pe care îl dețin deja, amânând astfel investițiile costisitoare în GPU-uri noi. Totuși, există un preț: consumul de energie și temperaturile cresc semnificativ, depășind limitele TDP stabilite oficial de Nvidia.

Această breșă ridică semne de întrebare serioase privind viitorul accelerării AI pe plăcile de consum.

Dacă limitările Nvidia pot fi ocolite atât de ușor, producătorul ar putea fi nevoit să își regândească strategiile de gestionare a puterii. Pentru companiile mici care se bazează pe hardware accesibil, posibilitatea de a debloca întreaga putere de calcul ar putea schimba complet ecuația costurilor.

Cum ai putea dubla performanța AI pe GPU-urile Nvidia?

Din punct de vedere al securității, situația subliniază vulnerabilități în firmware care ar putea fi exploatate și în alte scopuri.

Nvidia nu a oferit încă un punct de vedere oficial, dar având în vedere cât de repede se propagă acest patch în comunitate, o actualizare de firmware care să închidă „portița” pare iminentă.

Până atunci, utilizatorii care aleg să facă acest pas ar trebui să monitorizeze atent temperaturile și să investească într-o soluție de răcire mai performantă.

Este legală această modificare?

Exploatarea modifică module de kernel open-source, însă ocolește limitele hardware impuse de producător. Deși nu încalcă licențele open-source, procedura contravine termenilor și condițiilor Nvidia și poate duce la pierderea garanției.

Afectează durata de viață a plăcii?

Utilizarea GPU-ului la capacitate maximă crește consumul și căldura, accelerând uzura componentelor. Efectele pe termen lung sunt incerte, așa că monitorizarea temperaturilor este esențială.

Funcționează pe plăcile mai vechi din seria 20?

Da, patch-ul este compatibil, însă câștigurile de performanță sunt mai modeste decât în cazul modelelor recente. Este recomandat să testați modulul într-un mediu controlat înainte de a-l folosi în sarcini de lucru critice.