Az egység, amiben a modellek olvasnak és írnak — angolul nagyjából egy szó háromnegyede. Az "orchestration" szó körülbelül négy token. A modelleket tokenenként árazzák, be- és kimenetre külön, mint egy taxaméter, ami mindkét irányban jár.
Miért számít: a token itt minden valuta. A költség, a sebesség és a modell "figyelmi kapacitása" is ebben mérhető.
Egy különálló security token (biztonsági token, egyfajta bejelentkezési belépő szoftverekhez) egészen más dolog, ami csak a szót osztja meg vele — mindkettő állandóan előkerül az ügynöki munkában.