Function calling (eszközhívás)
Az a képesség, amikor a modell nem csak szöveget ír, hanem strukturált hívást készít egy külső funkció vagy API felé. Ez az egyik alapja annak, hogy az AI valódi műveleteket tudjon indítani.
Analógia
Mint amikor egy asszisztens nemcsak leírja, mit kellene csinálni, hanem ténylegesen fel is hívja az ügyfelet vagy lefoglalja a találkozót.
Miért fontos?
Enélkül az AI csak javasolni tudna, de nem tudna például naptárbejegyzést létrehozni vagy adatot lekérni. Nem-fejlesztői szempontból ez választja el a sima chatet a ténylegesen dolgozó asszisztenstől.
Hogyan működik?
Function calling esetén a modell a szabad szöveges válasz helyett vagy mellett strukturált kérést állít elő egy előre leírt funkcióhoz. A funkció leírása megadja a nevét és az elvárt bemeneti mezőket, a modell pedig kitöltheti ezeket a feladat alapján. Ez a kimenet önmagában még nem hajtja végre a műveletet: az alkalmazás ellenőrzi a hívást, meghívja a megfelelő programot, majd az eredményt visszaadhatja a modellnek további válasz készítéséhez.
A felhasználó ezt például naptári esemény előkészítésekor vagy raktárkészlet lekérdezésekor tapasztalhatja. A modell kiválasztja a megfelelő funkciót és mezőket, az alkalmazás pedig végrehajtja a műveletet a megadott jogosultságokkal. A fejlesztőnek ellenőriznie kell a paramétereket, kezelnie kell a hibákat, és érzékeny vagy visszafordíthatatlan műveletnél jóváhagyást kell kérnie. A funkcióhívás így összeköti a nyelvi kérést a programozott eszközzel, miközben a végrehajtás szabályai az alkalmazásnál maradnak.
Példa
A felhasználó azt kéri, hogy az asszisztens tegyen emlékeztetőt a naptárába. A modell strukturált eseményadatokat ad át, az alkalmazás megmutatja azokat ellenőrzésre, és csak jóváhagyás után menti el.
Gyakori tévhit
A funkcióhívás nem egyenlő a művelet végrehajtásával; az alkalmazásnak kell ellenőriznie és ténylegesen meghívnia a funkciót.