GPU (grafikus feldolgozóegység)
Párhuzamos számításokra tervezett processzor, amely képfeldolgozás mellett számos AI-feladat gyorsítására is alkalmas.
Analógia
Mint egy nagy csapat, amely sok hasonló részfeladatot végez párhuzamosan, míg egy általános processzor inkább sokféle munkát kezel sorban.
Miért fontos?
A GPU-k sok egyidejű műveletet tudnak végezni, ezért fontos szerepük lehet modellek tanításában és futtatásában.
Hogyan működik?
A GPU, vagyis grafikus feldolgozóegység olyan processzor, amely sok hasonló számítást képes párhuzamosan elvégezni. Eredetileg a képernyőn megjelenő grafika előállításában volt fontos, de a párhuzamos működés több gépi tanulási feladatnál is hasznos. Modellek tanításakor és futtatásakor nagy mennyiségű mátrixműveletre lehet szükség, amelyet megfelelő GPU gyorsíthat. A GPU nem önálló AI-modell: a szoftver és a modell határozza meg, milyen feladatot végez rajta a számítógép.
A GPU szerepe a helyi AI-futtatásnál is felmerül, de önmagában a megléte nem garantál jó sebességet vagy kompatibilitást. Számít a memória, a modell mérete, a szoftveres támogatás és az, hogy az alkalmazás valóban kihasználja-e a gyorsítót. Más processzorok és gyorsítók is képesek lehetnek AI-műveletekre. A felhasználónak ezért érdemes a teljes rendszerigényt vizsgálnia, nem csupán egy alkatrész nevét. A GPU kifejezés a hétköznapi géphasználatban gyakran videokártyát jelent, bár a két fogalom nem teljesen azonos.
Példa
Egy fejlesztő helyi gépen futtat modellt, és ellenőrzi, hogy az alkalmazás a számítógép GPU-ját használja-e, illetve elegendő-e hozzá a rendelkezésre álló memória.
Gyakori tévhit
A GPU nem maga a mesterséges intelligencia, hanem egy számítási eszköz, amely bizonyos műveleteket gyorsíthat.