A Google chipbe égeti a Geminit: mit tud a „Frozen v2", és miért radikális ötlet

A legtöbb AI-chip általános célú: betöltünk rá egy modellt, és az lefuttatja azt. A Google most valami sokkal szokatlanabbal kísérletezik – egy olyan chippel, amely lényegében maga a modell, mert a Gemini architektúráját közvetlenül a hardverbe integrálják.

A The Information értesülései szerint a belsőleg „Frozen v2” néven futó projekt a cég új szerverchipje, amely a Gemini modell egyes szerkezeti elemeit építené be közvetlenül a szilíciumba, hogy lényegesen hatékonyabban és gyorsabban szolgálja ki a mesterséges intelligenciás válaszokat. A hírt a Reuters, a Bloomberg és a CNBC is átvette, az Alphabet részvényei pedig a bejelentésre 3,7 százalékkal emelkedtek.

Fontos kiemelni: A Google hivatalosan még nem erősítette meg a projektet, a chip pedig még évekre van a tényleges piaci bevezetéstől.

A működési elv: Miért radikális az ötlet?

Ahhoz, hogy megértsük, miért radikális ez a megközelítés, érdemes végiggondolni a mai gyorsítók működését. A jelenlegi chipek – köztük a Google saját TPU-i (Tensor Processing Unit) vagy az Nvidia GPU-i – a memóriában tartják a modellt, és folyamatosan oda-vissza mozgatják az adatokat a számítási egységek között. Ez a rugalmasság áram- és időigényes: minden egyes válasz rengeteg számítási lépést és intenzív adatmozgatást igényel.

A Frozen v2 ezt a logikát fordítja meg. Ahelyett, hogy a chip egy rugalmas, bármilyen modellt lefuttató számológép lenne, a Gemini neurális hálójának architektúráját közvetlenül a chip áramköreibe vésik. A hardver így a Google jelenlegi AI-tervrajzának formájához rögzül, drasztikusan csökkentve a valós idejű számítási lépéseket és a memória-sávszélesség terhelését.

Miért pont „Frozen”? A súlyoktól az architektúráig

Az AI-modelleknél a „fagyasztás” (freezing) azt jelenti, hogy bizonyos értékeket rögzítenek, hogy azok a tanítás vagy futtatás során többé ne változzanak. A Frozen v2 esetében a modell egy része véglegesen beég a chipbe. A projekt fejlődési szakasza jól mutatja a mérnöki kompromisszumokat:

• Frozen v1 (Eredeti ötlet, Jeff Dean): A konkrét súlyokat (weights) égették volna a chipbe. Előnye az extrém sebesség és minimális fogyasztás, hátránya viszont, hogy a chip csak egyetlen konkrét Gemini-verzióval működne, és a legkisebb modellfrissítésnél elavul.
• Frozen v2 (Jelenlegi fejlesztés): A modell architektúráját (alaprajzát) égetik a szilíciumba. Előnye, hogy új súlyok továbbra is betölthetők, így a modell frissíthető marad. Hátránya, hogy ha a Gemini alaparchitektúrája drasztikusan megváltozik, a chip használhatatlanná válik.

„A Frozen v2 tehát egy rugalmasabb középutat választ: a hardver-szoftver szoros csatolás révén óriási hatékonyságot nyer, de vállalja a kockázatot, hogy a szoftveres architektúra elavulásával a hardver is kárba veszhet.”

Akár tízszeres energiahatékonyság – elméletben

A mérnökök becslése szerint a Frozen v2 hatszor-tízszer annyi AI-tokent tudna kiszolgálni ugyanannyi energiából, mint a Google legújabb TPU-i. Ez azonban kulcsfontosságú fenntartással kezelendő: nem mért laboratóriumi adat, hanem előrejelzés, hiszen a chip még fejlesztés alatt áll. A hatékonyság ma az egész AI-iparág legégetőbb kérdése. Adatközponti léptékben minden megspórolt watt közvetlen profitot jelent. Egy egyetlen modellre hangolt chip emellett minimális késleltetéssel (latency) válaszol, ami különösen kritikus a valós idejű alkalmazásoknál – például a hangalapú asszisztenseknél.

Belső kapacitáshiány és az Apple-párhuzam

A háttérben egy sürgető üzleti probléma áll: a The Information szerint a Frozen v2 részben a Google belső kapacitáshiányára adott válasz. A szűkösség olyan súlyos volt, hogy a Google Cloud egyes külső ügyfeleket is kénytelen volt elutasítani, ami belső feszültségeket szült a cégen belül. A tágabb stratégiai olvasat szintén beszédes: a chip valószínűleg nem lesz bérbe adható felhős termék, épp azért, mert kizárólag a Google saját modelljéhez kötődik. Az a megközelítés, hogy egyetlen vállalat tervezi a modellt és a rá szabott szilíciumot is, az Apple zárt ökoszisztéma-modelljére emlékeztet. Az, hogy a Google ilyen mélységű hardveres K+F-et fektet a Geminibe, azt jelzi, hogy a modellt hosszú távú, stratégiai alappillérként kezeli.

Összegzés

A Frozen v2 egyelőre inkább egy kisebb volumenű tesztplatform, mintsem a tömeggyártott TPU-vonal közvetlen utódja. A tervek szerint legkorábban 2028-ban állhat munkába. Az irány azonban, amit kijelöl, sokat elárul az AI-hardverek következő korszakáról: az általános célú gyorsítóktól lassan elmozdulunk a kifejezetten egyetlen modellre szabott, specializált következtetőchipek (inference chips) felé.