Google har begynt å utvikle en prosessor designet eksklusivt for sin Gemini-modeller av kunstig intelligensProsjektet, internt kjent som Frossen v2Den søker å integrere deler av modellens arkitektur direkte i silisium, en strategi som lover å redusere energiforbruket drastisk og akselerere systemresponser.
Ifølge informasjon lekket til The Information og rapportert av flere medier, kunne den nye brikken behandle mellom seks og ti ganger flere tokens per watt enn Googles nåværende TPU-er. Selskapet har ikke offisielt bekreftet prosjektet, men planene peker mot en mulig utrulling som starter i 2028, forutsatt at det består evalueringsfasen det er i nå.
En brikke spesialdesignet for Gemini
I motsetning til konvensjonelle TPU-er, som kan kjøre forskjellige modeller og krever flytting av store mengder data, låser Frozen v2 visse strukturelle beslutninger spesifikke for Gemini inn i transistorene. Dette reduserer antallet operasjoner som trengs under inferens, det vil si når den trente modellen genererer responser. Resultatet er en raskere responstid og lavere energiforbruk, to kritiske faktorer i dagens datasentre.
Det opprinnelige designet, støttet av Google DeepMinds sjefsforsker, Jeff Dean, så for seg å legge modellens vekter direkte inn i brikken. Dette alternativet ville imidlertid ha gjort maskinvaren foreldet ved modelloppdateringer. Google valgte i stedet å holde vektene programvareoppdaterbare og bare fikse en del av arkitekturen. På denne måten, Frozen v2 kan brukes med flere versjoner av Gemini så lenge de deler en felles struktur. Selskapet bestemmer fortsatt hvor stor prosentandel av modellen som skal være låst i silisium.
Effektivitet og energisparing
Interne estimater indikerer at Frozen v2 kan være seks til ti ganger mer effektiv enn Googles nyeste generasjon av TPU-er når det gjelder tokens generert per watt. Dette representerer et betydelig fremskritt i en tid der energikostnadene for kunstig intelligens har blitt en av bransjens største utfordringer. Å redusere forbruket per spørring vil gjøre det mulig for Google å håndtere flere forespørsler uten å måtte utvide infrastrukturen proporsjonalt.
Den anslåtte produksjonen av Frozen v2 vil bli mye lavere enn for tradisjonelle TPU-er. Google anser denne generasjonen som en test for å vurdere i hvilken grad det er verdt å bevege seg mot brikker som er tettere knyttet til spesifikke modeller. Brikken vil sameksistere med åttende generasjons TPU-er, som allerede er delt inn i separate varianter for trening og inferens. Det handler ikke om å erstatte hele TPU-familienmen å lage en mer spesialisert løsning for visse Gemini-laster, spesielt i tjenester der mengden forespørsler og energikostnader er avgjørende faktorer.
Presset på Googles infrastruktur
Utviklingen av Frozen v2 svarer også på et presserende behov. Ifølge publiserte rapporter har Google Cloud til og med måttet avvise kontrakter med eksterne kunder på grunn av mangel på tilgjengelig datakapasitet. Etterspørselen etter AI-tjenester har vokst så raskt at selskapet har blitt tvunget til å prioritere ressurser mellom sine egne produkter og kundenes. En mer effektiv brikke ville tillate en utvidelse av datasentrenes brukbare kapasitet. uten å bare være avhengig av nye anlegg.
Googles strategi er ikke et isolert tilfelle. OpenAI jobber med sine egne brikker sammen med Broadcom, Meta utvikler interne akseleratorer, og NVIDIA har lisensiert teknologi fra Groq. Trenden mot spesialisert maskinvare for spesifikke modeller akselererer, og Frozen v2 passer inn i den bevegelsen. Integrasjonen mellom maskinvare og programvare er et av Googles viktigste konkurransefortrinn., som designer både Gemini-modellene og prosessorene de kjører på.
Project Frozen v2 representerer nok et skritt i Googles forpliktelse til å optimalisere sin kunstige intelligens-infrastruktur. Hvis spådommene stemmer, kan brikken tilby en forbedring på opptil ti ganger effektivitetenDette ville styrke lønnsomheten til tjenester som Gemini og lette presset på Google Cloud. Selv om initiativet fortsatt er under utvikling og uten offisiell bekreftelse, gjenspeiler det hvor viktig selskapet er med maskinvarespesialisering som en differensierende faktor mot konkurrenter som OpenAI, Microsoft og Meta. Alt tyder på at Frozen v2, hvis den kommer i produksjon i 2028, vil markere et vendepunkt i hvordan AI-modeller kjøres i stor skala.
