Cipurile Google au ajuns în centrul datelor Meta

Colaborare istorică prin software open-source?

Cipurile personalizate ale celor de la Google pentru inteligență artificială au început să ruleze în centrele de date ale celor de la Meta, conform unui anunț recent adresat dezvoltatorilor. Noua integrare aduce unitățile de procesare tensor Google direct în mediile de producție active, pentru a executa sarcini complexe de inteligență artificială. Această implementare se bazează pe motoare de inferență open-source nou-dezvoltate, concepute nativ pentru framework-ul PyTorch.

Colaborarea neașteptată construiește o punte între doi giganți rivali din tehnologie, totul prin intermediul software-ului open-source.

Meta a creat inițial PyTorch, framework-ul de inteligență artificială extrem de popular în industrie.

Prin lansarea unei versiuni native PyTorch a motorului de inferență SGLang, Google a făcut posibil ca procesoarele sale specializate să gestioneze eficient cererile uriașe venite de la Meta.

Ce înseamnă noul hardware pentru dezvoltatori?

Inginerii Google au lansat, de asemenea, o versiune open-source corespunzătoare pentru vLLM, un alt motor de inferență consacrat în comunitatea de dezvoltatori. Aceste straturi software specializate transformă modelele complexe de inteligență artificială în instrucțiuni pe care hardware-ul personalizat le poate procesa rapid. Ambele motoare de inferență asigură integrarea lină a cipurilor Google în infrastructura existentă, construită în jurul standardelor software ale celor de la Meta.

Implementarea subliniază un parteneriat operațional rar între companii care concurează zi de zi pentru dominația în cercetarea pe inteligență artificială și serviciile cloud. Utilizarea motoarelor open-source le permite ambelor corporații să profite de diversitatea hardware, fără să rămână blocate într-un singur ecosistem proprietar.

Dezvoltatorii din întreaga industrie pot acum să examineze și să folosească aceleași instrumente de integrare pentru propriile proiecte la scară largă.

Această implementare în producție confirmă că unitățile personalizate de procesare tensor pot rula eficient și în afara rețelei cloud proprietare a celor de la Google. La rândul său, Meta obține acces la hardware de procesare alternativ, capabil să ruleze modele masive de machine learning cu o eficiență ridicată.

Această flexibilitate ajută giganții tehnologici să depășească blocajele din lanțul de aprovizionare pentru componentele critice de inteligență artificială.

Întrebări frecvente despre parteneriatul Meta-Google?

Observatorii din industrie se așteaptă ca astfel de colaborări cross-platform să se înmulțească pe măsură ce cererea pentru infrastructură de inteligență artificială continuă să explodeze. Straturile software open-source standardizate vor juca, probabil, un rol central în conectarea diverselor arhitecturi hardware pe viitor.

Q: Care cipuri personalizate rulează acum în facilitățile Meta? A: Unitățile de procesare tensor dezvoltate de Google funcționează deja în centrele de date ale celor de la Meta.

Q: Ce software face posibilă această integrare hardware? A: Noile versiuni native PyTorch ale motoarelor de inferență SGLang și vLLM fac posibilă această conexiune.

Q: Cine a anunțat această implementare cross-platform? A: Anunțul oficial a fost făcut public prin intermediul blogului pentru dezvoltatori al celor de la Google.