Aller au contenu

Token

Jeton

Unité de texte (morceau de mot, mot ou signe) que traite un modèle de langage ; sert aussi d'unité de facturation des IA génératives.

Un modèle de langage ne lit pas des mots mais des tokens : en français, un mot correspond en moyenne à un peu plus d’un token. La taille de la « fenêtre de contexte » d’un modèle, c’est-à-dire la quantité de texte qu’il peut prendre en compte, s’exprime en tokens.

Les API d’IA facturent généralement au nombre de tokens envoyés et générés : c’est un paramètre clé pour estimer le coût d’un usage à grande échelle.

Nos articles sur ce sujet