Mi az a TPU, és miben más, mint a GPU?
A TPU a Google saját chipje mesterséges intelligenciához. Mitől más, mint a GPU, miért nem tudod megvenni, és miért a chip dönti el ma, ki marad versenyben az AI-ban?
A TPU a Google saját chipje, amit kifejezetten mesterséges intelligenciához terveztek. A neve Tensor Processing Unit, magyarul nagyjából tenzorfeldolgozó egység, és egyetlen dolgot csinál nagyon jól: rengeteg szorzást és összeadást végez el egyszerre. Ezen fut a Gemini, és az Anthropic is ezen futtatja a Claude egy részét.
A GPU-hoz képesti különbséget pár bekezdésben elmagyarázom. Engem viszont az a kérdés jobban érdekel, miért gyárt a Google saját chipet, amikor az Nvidiától is vehetne, mert ebből látszik, min dől el ma az AI-verseny.
Mi az a TPU?
Amikor a ChatGPT vagy a Gemini válaszol, a szöveg következő darabját jósolja meg, és ehhez minden egyes darabnál a modell sok milliárd belső számával kell számolnia. Ez a számolás szinte teljes egészében mátrixszorzás: hosszú számsorokat kell összeszorozni, és az eredményeket összeadni. A TPU olyan chip, amelyet erre az egy műveletre építettek, és minden mást elhagytak belőle.
A Google 2015 óta használja a saját adatközpontjaiban, 2016-ban mutatta be nyilvánosan, és 2018 óta bérelhető a Google Cloudon keresztül. Egy kisvállalkozás a nagy TPU-khoz csak bérléssel juthat hozzá. Létezik egy kicsi, megvásárolható rokona, a Coral Edge TPU, de az kamerás tárgyfelismeréshez és hasonló apró feladatokhoz készült, nyelvi modell futtatására nem való.
Miben más a TPU, mint a GPU és a CPU?
Képzelj el egy raktárat, ahol ezer doboz tartalmát kell összeszámolni. A CPU, vagyis a géped központi processzora, néhány nagyon ügyes raktáros: bármilyen feladatot megoldanak, de egyszerre csak keveset tudnak elvégezni. A GPU több ezer egyszerűbb munkás, akik párhuzamosan dolgoznak. Eredetileg a képernyő pixeleit számolták, aztán kiderült, hogy ugyanez a párhuzamos munka a mesterséges intelligenciának is pont jól jön.
A TPU ehhez képest egy futószalag, amit egyetlen feladatra építettek. A munkások egy rácsban állnak, mindegyik elvégez egy szorzást, hozzáadja az eredményt, és a számot továbbadja a szomszédjának, ahelyett hogy minden lépés után visszavinné a raktárba. A memóriába járkálás az egyik legdrágább rész, áramban és időben is, és ez a rács (a szakmában szisztolikus tömbnek hívják) pont ezt spórolja meg. Cserébe a TPU sok mindenre nem jó, amire a GPU igen: játékot vagy 3D-s renderelést nem futtatsz rajta, és a szoftvereket is hozzá kell igazítani.
A gyakorlatban a legnagyobb különbség az, hogyan jutsz hozzá a szükséges hardverhez. Az Nvidia videokártyái bárki számára elérhetők a kereskedelmi forgalomban, és a legtöbb AI-alkalmazás különösebb konfiguráció nélkül képes kihasználni őket, köszönhetően annak, hogy a CUDA az évek során iparági szabvánnyá vált. A TPU-k ezzel szemben nem vásárolhatók meg hagyományos módon, és nem használhatók otthoni számítógépben: a Google felhőszolgáltatásán keresztül, bérelt számítási kapacitásként lehet hozzájuk férni.
Miért kezdett a Google saját chipet gyártani?
A Google saját visszaemlékezése szerint 2013-ban kiszámolták, hogy ha több száz millió ember naponta csak három percig beszélne a Google-höz, a beszédfelismerés kiszolgálásához a meglévő processzorokkal nagyjából meg kellene duplázniuk az adatközpontjaikat. Ez annyira drága lett volna, hogy inkább saját chipet terveztek, és az első TPU nagyjából 15 hónap alatt elkészült.
Az első generáció még csak a kész modellek futtatására volt jó, a tanításra nem. A második, 2017-es generáció már a tanítást is tudta, azóta pedig egy-két évente jön újabb. A hetedik, Ironwood nevű 2025 végén lett általánosan elérhető. A nyolcadikat 2026 áprilisában jelentették be, és ez már két külön chip: a TPU 8t a modellek tanítására, a TPU 8i a kész modellek gyors futtatására, például az önállóan dolgozó AI-ügynökökhöz.
Miért a chip dönti el az AI-versenyt?
A ChatGPT mögötti alapötletet, a Transformert, a Google kutatói 2017-ben nyilvánosan publikálták, a betanítás receptje pedig 2023-ra nagyrészt ismertté vált. Az xAI például két év alatt épített élvonalbeli modellt, és ehhez nem titkos tudás kellett, hanem tapasztalt csapat, rengeteg pénz és rengeteg chip. Szerintem ma ez a három dönti el, ki marad versenyben, és ebből a chip a legszűkebb keresztmetszet.
Aki nem gyárt saját chipet, az főleg az Nvidiától vásárol, ugyanabban a sorban áll, mint mindenki más, és az Nvidia árrését is kifizeti. A Google ebből a körből kimaradhat. A Gemini 3-at a saját TPU-in tanította, és a 2025. novemberi megjelenése után a tőzsde is felkapta a fejét: a beszámolók szerint az Nvidia árfolyama a következő napokban esett, mert a befektetők látták, hogy élvonalbeli modell Nvidia nélkül is készülhet.
A TPU ráadásul már nem csak a Google belügye. Az Anthropic 2025 októberében jelentette be, hogy akár egymillió TPU-t is használhat, és ebből 2026-ban már egy gigawattnál is több kapacitás áll üzembe. 2026 áprilisában a Google-lel és a Broadcommal újabb, több gigawattos megállapodást kötött, ez a kapacitás 2027-től jön. A beszámolók szerint 2026 elején a Meta is többmilliárd dolláros szerződést kötött TPU-bérlésre, a Bloomberg pedig arról írt, hogy a Google annyi TPU-kapacitást adott el, hogy a saját kutatói is sorban állnak a maradékért. A chip tehát ma annyira szűkös, hogy a gyártója is beosztja.
Mit jelent ez neked?
TPU-t valószínűleg soha nem fogsz venni, és nem is kell. Ha egy kisvállalkozás AI-t használ, azt szinte mindig egy kész szolgáltatáson keresztül teszi, ChatGPT-n, Geminin vagy Claude-on, esetleg API-n bekötve a saját rendszerébe. Hogy a válasz mögött GPU vagy TPU dolgozik, azt nem látod, és nem is kell tudnod.
Azt viszont jó látni, hogy az AI-előfizetésed árában és a használati korlátokban a chip és az áram ára jelenik meg. Szerintem a verseny itt dől el: amíg szinte mindenki ugyanattól a gyártótól vásárol, a gyártó szabja az árat, és az olyan saját chipek, mint a TPU vagy az Amazon Trainiumja, ezen tudnak változtatni. Ugyanezért nem kötném magam egyetlen AI-szolgáltatóhoz sem, mert az erőviszonyok hónapról hónapra változnak, és ami ma a legjobb ár-érték arányú modell, az fél év múlva már nem biztos, hogy az.
Ha arra vagy kíváncsi, a gyakorlatban mire használhatod az AI-t a cégedben, és mire figyelj közben, azt az AI a vállalkozásban cikkben írtam le. Ha pedig van egy konkrét feladatod, és azon gondolkodsz, kész szolgáltatás legyen-e vagy saját gépen futó modell, írd meg, mi az, és megmondom, melyik való neki.
Utoljára frissítve: 2026. november 11.
Források
Gyakori kérdések
Hozzászólások
Hozzászóláshoz jelentkezz be vagy regisztrálj.
Még nincs hozzászólás. Legyél az első!