Aller au contenu

LLMs

Définition

Le module LLMs permet de configurer et gérer les modèles de langage (LLM) utilisés par l'assistant IA de Canopsis.

L'assistant IA aide les utilisateurs à créer, modifier, valider et corriger des patterns Canopsis au moyen d'un LLM.

Ce module est accessible via le menu Administration → Objets personnalisés → LLMs.

Notes importantes

  • Les modèles Gemini peuvent être activés ou désactivés depuis ce module, mais la gestion des limites de jetons et des quotas se configure directement dans la console Gemini AI.
  • Une surveillance régulière des limites Google Cloud est nécessaire, car les politiques d'API et les conditions d'utilisation sont susceptibles d'évoluer.

Vue d'ensemble

La page LLMs affiche la liste des modèles configurés. Tant qu'aucun modèle n'a été ajouté, la liste est vide.

Colonnes du tableau

Colonne Description
Nom du modèle LLM Nom personnalisé du modèle LLM
Type de modèle LLM Type du modèle (actuellement : gemini uniquement)
Modèle LLM Identifiant du modèle sélectionné
Niveau de réflexion Niveau de réflexion configuré (si disponible pour le modèle)
Activé État du modèle : activé ou désactivé
Modèle par défaut Indique si ce modèle est le modèle par défaut (Oui / Non)
Dernière utilisation Date de dernière utilisation du modèle
Actions Boutons Modifier et Supprimer

Ajouter un modèle LLM

Cliquez sur le bouton Ajouter pour ouvrir le formulaire de création.

Champs du formulaire

Champ Obligatoire Type Description
Activé Oui Interrupteur Activé par défaut
Nom du modèle LLM Oui Saisie Nom personnalisé affiché dans le sélecteur de modèle du chat
Type de modèle LLM Oui Sélecteur Actuellement gemini uniquement (sélecteur désactivé)
Clé API Oui Saisie Clé API du fournisseur LLM
Modèle LLM Oui Sélecteur Modèle à utiliser (voir Modèles disponibles)
Niveau de réflexion Oui* Sélecteur Affiché uniquement si le modèle sélectionné le supporte (voir Niveau de réflexion)
Modèle par défaut Non Interrupteur Voir Modèle par défaut

Modèles disponibles

Les modèles disponibles sont définis dans la configuration TOML de Canopsis.

Modèle Note
gemini-2.5-flash
gemini-2.5-pro
gemini-3.1-flash-lite-preview
gemini-3.1-pro-preview Recommandé (les tests ont été réalisés avec ce modèle)

Niveau de réflexion

Le sélecteur de niveau de réflexion est affiché uniquement si le modèle choisi le prend en charge.

Niveau Libellé Note
minimal Minimal Comportement difficile à prédire
low Faible Comportement difficile à prédire
medium Moyen Recommandé par défaut (niveau utilisé lors des tests)
high Élevé Résultats probablement satisfaisants

Note

La température est fixée à 0.1 et ne peut pas être modifiée. Une légère variabilité dans les réponses est donc possible.

Modèle par défaut

  • Un seul modèle peut être défini comme modèle par défaut.
  • Il n'est pas obligatoire d'en avoir un.
  • Si aucun modèle par défaut n'est défini, le chat sélectionne automatiquement le premier modèle activé par ordre alphabétique.
  • Si Activé est désactivé, Modèle par défaut est automatiquement désactivé et grisé.
  • Pour le premier modèle ajouté, ou si tous les modèles existants sont désactivés, l'interrupteur Modèle par défaut est activé automatiquement.
  • Dans tous les autres cas, cet interrupteur est désactivé par défaut.
  • Le modèle par défaut actuel est affiché dans la modale d'ajout et d'édition via la mention Modèle par défaut actuel :.

Modifier un modèle LLM

Les champs sont identiques à ceux du formulaire d'ajout, à l'exception du champ Clé API.

Gestion de la clé API en modification

État Comportement
État initial Libellé « Clé API » + bouton REMPLACER LA CLÉ API
Après clic sur le bouton Un champ « Nouvelle clé API » apparaît vide
Champ rempli et formulaire enregistré La clé API est remplacée par la nouvelle valeur
Clic sur l'icône Supprimer Le champ est supprimé, le bouton REMPLACER LA CLÉ API réapparaît
Champ supprimé ou laissé vide Aucun changement n'est appliqué à la clé API existante

Supprimer un modèle LLM

Cliquez sur l'icône Supprimer dans la colonne Actions pour ouvrir la modale de confirmation.

Suppression irréversible

La suppression d'une connexion LLM est définitive et ne peut pas être annulée.

Pour confirmer, saisissez le nom exact du modèle LLM dans le champ prévu à cet effet. Le bouton SUPPRIMER n'est activé que lorsque le nom saisi correspond exactement au nom du modèle.

Comportement en cas d'utilisation active :

  • Si une requête est en cours au moment de la suppression, elle est d'abord traitée et la réponse affichée, avant que le modèle ne soit effectivement supprimé ou désactivé.
  • Si un modèle est désactivé ou supprimé alors qu'un utilisateur l'utilise dans le chat, un message d'erreur s'affiche dans le chat concerné.

Actions groupées

Les actions groupées sont disponibles en sélectionnant plusieurs modèles dans le tableau.

Action Comportement
Activer les modèles LLM Appliqué uniquement aux modèles sélectionnés qui étaient désactivés
Désactiver les modèles LLM Appliqué uniquement aux modèles sélectionnés qui étaient activés
Supprimer Supprime les modèles sélectionnés après confirmation

Historique des invites

Chaque modèle dispose d'un historique des invites soumises par les utilisateurs. Cet historique est visible directement depuis la liste des LLMs en développant la ligne du modèle concerné.

Onglet « Toutes les invites »

Colonne Description
Utilisateur Utilisateur ayant envoyé l'invite
Date et heure Date et heure de l'invite
Jetons utilisés Nombre de jetons consommés (invite + réponse)
Modal Contexte d'ouverture du chat (voir Contextes disponibles)
Nom Nom de la règle ou du filtre où le chat était ouvert. Affiche « Non enregistré » si la règle ou le filtre n'a pas encore été sauvegardé
Utilisation Type d'usage (pour l'instant toujours patterns)
Lié à Canopsis Indique si l'invite est liée à un objet Canopsis
Invite Texte de l'invite (tronqué à 3 lignes, le texte complet est visible dans l'historique du chat)
Voir le chat Ouvre la modale d'historique du chat complet

Option « Regrouper par conversation » : le tableau affiche la même structure, mais sans les colonnes « Lié à Canopsis » et « Invite ». La colonne « Date et heure » est remplacée par « Date de la dernière invite ». Les invites sans lien avec Canopsis sont masquées. Les jetons affichés correspondent à la somme de toutes les invites et réponses de la conversation.

Recherche : par utilisateur, nom de modal ou nom de règle/filtre.

Onglet « Par utilisateur »

Cet onglet liste les utilisateurs ayant utilisé le modèle.

Colonne Description
Utilisateur Nom de l'utilisateur
Dernière utilisation Date de dernière utilisation
Jetons utilisés Somme de tous les jetons utilisés dans l'historique disponible (les jetons des historiques supprimés ne sont pas comptabilisés)

En développant une ligne utilisateur, les invites de cet utilisateur sont affichées avec les colonnes suivantes :

Colonne Description
Date de la dernière invite Date du dernier échange de la session
Jetons utilisés Jetons consommés (invite + réponse)
Modal Contexte d'ouverture du chat
Nom Nom de la règle ou du filtre
Utilisation Type d'usage
Voir le chat Ouvre la modale d'historique du chat

Option « Regrouper par conversation » : même structure sans « Lié à Canopsis » et « Invite », « Date et heure » remplacée par « Date de la dernière invite », invites sans lien avec Canopsis masquées.

Recherche : liste des utilisateurs par nom d'utilisateur. Invites d'un utilisateur par nom de modal ou nom de règle/filtre.

Tri

  • Dans le tableau principal : tri par Dernière utilisation (la plus récente en premier), quel que soit l'état du regroupement par conversation.
  • Dans le détail d'un utilisateur : tri par date (la plus récente en premier).

Le tri manuel par d'autres colonnes n'est pas disponible.

Paramètres de stockage de l'historique des conversations IA

Une entrée dédiée est disponible dans les Paramètres de stockage :

Paramètre Valeur par défaut Description
Supprimer l'historique des conversations IA Activé Supprime automatiquement les historiques des conversations IA
Durée de rétention 1 mois Période après laquelle les historiques sont supprimés

Note

Ce paramètre est activé par défaut avec une rétention d'1 mois. Les jetons comptabilisés dans la vue « Par utilisateur » ne tiennent pas compte des historiques déjà supprimés.