Le RAG (Retrieval-Augmented Generation) combine une recherche documentaire avec un modele de langage. Quand un apprenant pose une question, le systeme retrouve les passages les plus pertinents de vos documents, puis les transmet au LLM comme contexte pour generer une reponse fondee sur vos sources.

Une collection regroupe des documents autour d'un meme theme ou cours. Chaque collection a son propre system prompt et son modele LLM. Les apprenants n'accedent qu'a la collection qui leur est attribuee via un lien de partage.

Vos documents sont automatiquement decoupes en segments (chunks) d'environ 500 tokens. Lors d'une question, seuls les chunks les plus pertinents sont envoyes au LLM. Cela permet de traiter des documents tres longs sans depasser les limites du modele.

L'espace global definit un contexte pedagogique commun a toutes les collections. Le texte du contexte et les documents de reference sont injectes dans chaque requete, permettant au LLM de completer ses reponses avec ses connaissances generales dans le perimetre defini.

Le system prompt est une instruction donnee au LLM qui definit son comportement. Par exemple, "Tu es un tuteur socratique" lui indique de guider l'apprenant par des questions plutot que de donner les reponses directement. Vous pouvez le modifier a tout moment dans la page Collections.

Le cout est calcule en tokens (unites de texte). Chaque modele a un prix par million de tokens en entree et en sortie. Le cout affiche dans le chat inclut les chunks, le system prompt, l'historique de conversation et la reponse. Les modeles Claude beneficient en plus d'un cache qui reduit les couts des requetes repetitives.