Aller plus loin

Du routeur à l'agent : le LLM choisit ses outils

LLM
raisonne

chercher_documents(q)

interroger_donnees(sql)

lister_documents()

appel, résultat, nouvel appel… puis réponse

Le routeur décide une fois. Un agent décide à chaque étape : chercher, lire, interroger les données, chercher encore, puis répondre.

Utile pour les questions en plusieurs temps : « Combien de contrôles dans la santé en 2025, et que dit le guide de la CNIL sur ce secteur ? »

En contrepartie : latence, coût, comportement moins prévisible et plus difficile à évaluer.

Bonus : la boucle d'appel d'outils est fournie.

llm.run_tools(messages, tools=[…])