Google dezvăluie TorchTPU, o punte open-source între PyTorch și TPU-urile sale în cloud

Un drum fără probleme de pe desktop

Google a anunțat astăzi că lansează TorchTPU, o bibliotecă open-source care permite dezvoltatorilor să execute modele PyTorch pe Unitățile de Procesare a Tensorului (TPU) și Google Cloud cu o configurație minimă. Proiectul, lansat la conferința Cloud Next din San Francisco, are ca scop simplificarea implementării sarcinilor de lucru AI atât pentru cercetători cât și pentru întreprinderi.

TorchTPU se bazează pe cadrul popular PyTorch, adăugând un strat subțire de compatibilitate care traduce operațiunile PyTorch în instrucțiuni compatibile cu TPU.

Prin manipularea automat a plasării dispozitivului, a gestionării memoriei și a compilației, instrumentul elimină necesitatea dezvoltatorilor de a rescrie codul în JAX sau TensorFlow pentru a profita de viteza TPU.

Google spune că valorile de referință timpurii arată o creștere de trei ori a performanței pentru modelele de limbi mari și o reducere cu 40% a timpului de instruire pentru sarcinile de viziune pe calculator.

Această mișcare reflectă, de asemenea, strategia mai largă a Google de a face hardware-ul său AI mai accesibil comunității open-source.

Dezvoltatorii pot instala TorchTPU printr-o singură comandă pip și pot începe instruirea pe un GPU local înainte de a escala la un Cloud TPU cu o singură linie de cod. Obiectivul nostru a fost de a elimina fricția, a declarat Priya Patel, senior product manager pentru Google Cloud AI.

Echipele pot face prototipuri pe laptop-urile lor, apoi împingând același script într-un cluster TPU fără a rescrie nicio strată. Biblioteca folosește XLA, compilatorul de algebra liniară accelerată de Google, pentru a optimiza executarea grafică pe TPU-uri, păstrând în același timp semantica grafică dinamică PyTorch.

Utilizatorii timpurii, inclusiv o startup care construiește diagnosticul de imagini medicale, au raportat că TorchTPU a redus ciclul de iterare a modelului de la săptămâni la zile, accelerând lansarea produselor. Introducerea TorchTPU ridică întrebări cu privire la echilibrul viitor între cadrele de IA concurente.

Întrebări frecvente

Istoric, TensorFlow a fost poarta principală către TPU-urile Google, în timp ce PyTorch a dominat comunitatea de cercetare.

Prin oferirea unei căi native PyTorch, Google poate eroda avantajul hardware al TensorFlow și poate încuraja mai mulți dezvoltatori să migreze sarcini de lucru către cloud-ul său.

Analiștii observă că această mișcare ar putea crește ratele de utilizare a TPU, determinând venituri pentru Google Cloud, în timp ce crește un ecosistem mai unificat pentru cercetarea și producția AI.

Natura open-source a TorchTPU invită, de asemenea, contribuții din partea comunității mai largi, accelerând potențial dezvoltarea caracteristicilor și remedierea bugurilor. Google a promis suport pe termen lung și planifică actualizări regulate aliniate cu lansările PyTorch.

Dacă comunitatea va adopta instrumentul, acesta ar putea deveni un standard de facto pentru formarea bazată pe TPU, transformând modul în care sunt construite și escalate proiectele AI.

Cum diferă TorchTPU de integrările PyTorch‐TPU existente? TorchTPU oferă o integrare mai strânsă, susținută oficial, care gestionează plasarea și compilarea dispozitivelor automat, în timp ce soluțiile anterioare au necesitat ajustări manuale de cod și suport limitat TPU.

TorchTPU este compatibil cu toate versiunile TPU? Versiunea inițială susține TPU-urile v3 și v4 pe Google Cloud. Google a indicat că suportul pentru generațiile viitoare TPU va fi adăugat prin actualizări regulate.

Pot fi utilizate modelele PyTorch existente fără modificări? Majoritatea modelelor funcționează neschimbat. S-ar putea să fie necesare modificări minore pentru kernele CUDA personalizate, dar biblioteca are ca scop păstrarea eforturilor de migrare la câteva linii de cod.