Amazon cere inginerilor să reducă utilizarea token-urilor AI

De la tokenmaxxing la valoare maximizată!

Amazon a cerut echipei de inginerie să reducă dependența de token-uri din modelele mari de limbaj, punând accent pe dezvoltarea software-ului practic, nu pe consumul brut de AI. Anunțul a fost făcut public marți printr-o notă internă către personalul tehnic.

Decizia vine pe fondul creșterii costurilor AI și a complexității sistemelor. Compania vrea ca echipele să se concentreze pe livrarea de software util și pe atingerea obiectivelor companiei, nu pe maximizarea volumului de token-uri.

Schimbarea marchează o ruptură față de tendința „tokenmaxxing”, unde dezvoltatorii se concureau să genereze cel mai mare număr posibil de token-uri. Acum Amazon pune accent pe maximizarea valorii, nu a utilizării. Acest lucru reflectă o reevaluare mai largă a industriei privind povara financiară și operațională a integrării grele de AI.

Liderii de inginerie trebuie acum să echilibreze capacitățile AI cu eficiența costurilor. Echipele vor adopta probabil strategii de prompting mai disciplinate și vor evalua dacă fiecare sarcină necesită cu adevărat un model mare de limbaj.

Ce înseamnă asta pentru echipele de inginerie AI?

Obiectivul este alinierea cheltuielilor pe AI cu rezultatele măsurabile ale afacerii.

Mișcarea Amazon semnalează că era experimentării necontrolate cu AI se termină. Companiile încep să ceară return on investment pentru infrastructura lor AI.

Așteptăm bugete mai strânse și justificări mai riguroase pentru utilizarea modelelor în tot sectorul tehnologic.

De ce reduce Amazon utilizarea token-urilor AI?

Costurile în creștere și complexitatea operațională sunt principalii factori. Compania vrea ca inginerii să se concentreze pe livrarea de software practic, nu pe maximizarea consumului de token-uri.

Întrebări frecvente!

Când a anunțat Amazon această schimbare?

Schimbarea de strategie a fost făcută public marți printr-o notă internă către personalul de inginerie.

Înseamnă asta că Amazon renunță la AI? Nu.

Amazon nu renunță la AI, dar își schimbă focusul de la volumul brut de token-uri la maximizarea valorii și atingerea obiectivelor companiei.