Aller au contenu

LLMs

Définition

Le module LLMs permet de configurer et gérer les modèles de langage (LLM) utilisés par l'assistant IA de Canopsis.

L'assistant IA aide les utilisateurs à créer, modifier, valider et corriger des patterns Canopsis au moyen d'un LLM.

Ce module est accessible via le menu Administration → Objets personnalisés → LLMs.

Trois fournisseurs de modèles sont pris en charge :

Type Fournisseur Console du fournisseur (clé API, quotas)
gemini Google Google AI Studio
claude Anthropic Console Anthropic
chatgpt OpenAI Plateforme OpenAI

Notes importantes

  • Les modèles peuvent être activés ou désactivés depuis ce module, mais la gestion des limites de jetons et des quotas se configure directement dans la console du fournisseur.
  • Une surveillance régulière des limites du fournisseur est nécessaire, car les politiques d'API et les conditions d'utilisation sont susceptibles d'évoluer.

Vue d'ensemble

La page LLMs affiche la liste des modèles configurés. Tant qu'aucun modèle n'a été ajouté, la liste est vide.

Colonnes du tableau

Colonne Description
Nom du modèle LLM Nom personnalisé du modèle LLM
Type de modèle LLM Fournisseur du modèle : gemini, claude ou chatgpt
Modèle LLM Identifiant du modèle sélectionné
Niveau de réflexion Niveau de réflexion configuré (si disponible pour le modèle)
Activé État du modèle : activé ou désactivé
Modèle par défaut Indique si ce modèle est le modèle par défaut (Oui / Non)
Dernière utilisation Date de dernière utilisation du modèle
Actions Boutons Modifier et Supprimer

Ajouter un modèle LLM

Cliquez sur le bouton Ajouter pour ouvrir le formulaire de création.

Champs du formulaire

Champ Obligatoire Type Description
Activé Oui Interrupteur Activé par défaut
Nom du modèle LLM Oui Saisie Nom personnalisé affiché dans le sélecteur de modèle du chat
Type de modèle LLM Oui Sélecteur Fournisseur du modèle : Gemini, Claude ou ChatGPT
Clé API Oui Saisie Clé API du fournisseur, créée dans sa console
Modèle LLM Oui Sélecteur Modèle à utiliser (voir Modèles disponibles)
Niveau de réflexion Oui* Sélecteur Affiché uniquement si le modèle sélectionné le supporte (voir Niveau de réflexion)
Modèle par défaut Non Interrupteur Voir Modèle par défaut

Modèles disponibles

Les modèles proposés dans le formulaire sont définis dans la configuration TOML de Canopsis (section [Canopsis.api.llm]). Le modèle signalé « recommandé » dans le formulaire est celui qui a été testé pour chaque fournisseur.

Type Modèle Niveaux de réflexion Note
Gemini gemini-2.5-flash
Gemini gemini-2.5-pro
Gemini gemini-3.1-flash-lite-preview Minimal, Faible, Moyen, Élevé Recommandé
Gemini gemini-3.1-pro-preview Faible, Moyen, Élevé
Claude claude-sonnet-5 Faible, Moyen, Élevé, Extra élevé, Max Recommandé
Claude claude-opus-5 Faible, Moyen, Élevé, Extra élevé, Max
ChatGPT gpt-5.6-luna Aucun, Faible, Moyen, Élevé, Extra élevé, Max Recommandé
ChatGPT gpt-5.6-terra Aucun, Faible, Moyen, Élevé, Extra élevé, Max
ChatGPT gpt-5.6-sol Aucun, Faible, Moyen, Élevé, Extra élevé, Max

Pour proposer d'autres modèles, complétez la liste suggested_models du fournisseur dans un fichier de surcharge de canopsis.toml :

[[Canopsis.api.llm.suggested_models.claude]]
name = "claude-sonnet-5"
thinking_levels = ["low", "medium", "high", "xhigh", "max"]
recommended = true

Niveau de réflexion

Le sélecteur de niveau de réflexion est affiché uniquement si le modèle choisi le prend en charge, avec les niveaux propres à ce modèle (voir Modèles disponibles). Un niveau plus élevé donne en général de meilleurs résultats, mais consomme plus de jetons et allonge le temps de réponse.

Niveau Libellé Note
none Aucun Pas de réflexion (ChatGPT)
minimal Minimal Comportement difficile à prédire
low Faible Comportement difficile à prédire
medium Moyen Recommandé par défaut (niveau utilisé lors des tests)
high Élevé Résultats probablement satisfaisants
xhigh Extra élevé Claude et ChatGPT
max Max Claude et ChatGPT

Note

La température est fixée à 0.1 et ne peut pas être modifiée. Une légère variabilité dans les réponses est donc possible.

Modèle par défaut

  • Un seul modèle peut être défini comme modèle par défaut.
  • Il n'est pas obligatoire d'en avoir un.
  • Si aucun modèle par défaut n'est défini, le chat sélectionne automatiquement le premier modèle activé par ordre alphabétique.
  • Si Activé est désactivé, Modèle par défaut est automatiquement désactivé et grisé.
  • Pour le premier modèle ajouté, ou si tous les modèles existants sont désactivés, l'interrupteur Modèle par défaut est activé automatiquement.
  • Dans tous les autres cas, cet interrupteur est désactivé par défaut.
  • Le modèle par défaut actuel est affiché dans la modale d'ajout et d'édition via la mention Modèle par défaut actuel :.

Modifier un modèle LLM

Les champs sont identiques à ceux du formulaire d'ajout, à l'exception du champ Clé API.

Gestion de la clé API en modification

État Comportement
État initial Libellé « Clé API » + bouton REMPLACER LA CLÉ API
Après clic sur le bouton Un champ « Nouvelle clé API » apparaît vide
Champ rempli et formulaire enregistré La clé API est remplacée par la nouvelle valeur
Clic sur l'icône Supprimer Le champ est supprimé, le bouton REMPLACER LA CLÉ API réapparaît
Champ supprimé ou laissé vide Aucun changement n'est appliqué à la clé API existante

Serveurs MCP

Un modèle LLM peut utiliser un ou plusieurs serveurs MCP comme sources d'outils, par exemple le serveur MCP Canopsis. L'assistant IA peut alors consulter les alarmes, ou agir dessus, au cours d'une conversation.

Ce paramètre n'est pas proposé dans le formulaire : il se définit par l'API, avec le champ mcp_servers de la configuration du modèle (POST ou PUT sur /internal/cat/llm-configs).

Champ Obligatoire Description
url Oui URL du serveur MCP (transport HTTP Streamable)
auth_key Non Clé envoyée au serveur MCP pour s'authentifier
authorization_header Non En-tête dans lequel envoyer la clé. Par défaut, la clé est envoyée dans Authorization: Bearer <clé> ; si un en-tête est indiqué, la clé y est envoyée sans préfixe
use_user_auth_key Non Si true, la clé envoyée est l'authkey du compte Canopsis de la personne qui utilise l'assistant, à la place de auth_key

Exemple :

{
  "name": "Gemini avec MCP Canopsis",
  "type": "gemini",
  "model": "gemini-3.1-flash-lite-preview",
  "enabled": true,
  "mcp_servers": [
    {
      "url": "https://mcp.example.com/",
      "use_user_auth_key": true
    }
  ]
}

Avec use_user_auth_key, chaque personne n'accède via l'assistant qu'à ce que ses propres droits Canopsis autorisent. Si son compte n'a pas d'authkey, la conversation ne peut pas démarrer.

Modèles et exposition du serveur MCP

  • Les serveurs MCP sont disponibles avec les modèles Gemini et OpenAI. Ils sont refusés pour les modèles Claude.
  • Avec Gemini et OpenAI, c'est le fournisseur du modèle qui appelle le serveur MCP depuis son infrastructure : l'URL doit être accessible publiquement en HTTPS (une adresse locale ou privée ne fonctionne pas).
  • La clé d'authentification est transmise au fournisseur du modèle, qui la renvoie à chaque appel d'outil. Utilisez une authkey à moindre privilège (voir Sécurité et audit).
  • Les appels d'outils sont exécutés automatiquement, sans validation intermédiaire. Le commutateur d'écriture du serveur MCP permet de limiter l'assistant à la lecture.

Supprimer un modèle LLM

Cliquez sur l'icône Supprimer dans la colonne Actions pour ouvrir la modale de confirmation.

Suppression irréversible

La suppression d'une connexion LLM est définitive et ne peut pas être annulée.

Pour confirmer, saisissez le nom exact du modèle LLM dans le champ prévu à cet effet. Le bouton SUPPRIMER n'est activé que lorsque le nom saisi correspond exactement au nom du modèle.

Comportement en cas d'utilisation active :

  • Si une requête est en cours au moment de la suppression, elle est d'abord traitée et la réponse affichée, avant que le modèle ne soit effectivement supprimé ou désactivé.
  • Si un modèle est désactivé ou supprimé alors qu'un utilisateur l'utilise dans le chat, un message d'erreur s'affiche dans le chat concerné.

Actions groupées

Les actions groupées sont disponibles en sélectionnant plusieurs modèles dans le tableau.

Action Comportement
Activer les modèles LLM Appliqué uniquement aux modèles sélectionnés qui étaient désactivés
Désactiver les modèles LLM Appliqué uniquement aux modèles sélectionnés qui étaient activés
Supprimer Supprime les modèles sélectionnés après confirmation

Historique des invites

Chaque modèle dispose d'un historique des invites soumises par les utilisateurs. Cet historique est visible directement depuis la liste des LLMs en développant la ligne du modèle concerné.

Onglet « Toutes les invites »

Colonne Description
Utilisateur Utilisateur ayant envoyé l'invite
Date et heure Date et heure de l'invite
Jetons utilisés Nombre de jetons consommés (invite + réponse)
Modal Contexte d'ouverture du chat (voir Contextes disponibles)
Nom Nom de la règle ou du filtre où le chat était ouvert. Affiche « Non enregistré » si la règle ou le filtre n'a pas encore été sauvegardé
Utilisation Type d'usage (pour l'instant toujours patterns)
Lié à Canopsis Indique si l'invite est liée à un objet Canopsis
Invite Texte de l'invite (tronqué à 3 lignes, le texte complet est visible dans l'historique du chat)
Voir le chat Ouvre la modale d'historique du chat complet

Option « Regrouper par conversation » : le tableau affiche la même structure, mais sans les colonnes « Lié à Canopsis » et « Invite ». La colonne « Date et heure » est remplacée par « Date de la dernière invite ». Les invites sans lien avec Canopsis sont masquées. Les jetons affichés correspondent à la somme de toutes les invites et réponses de la conversation.

Recherche : par utilisateur, nom de modal ou nom de règle/filtre.

Onglet « Par utilisateur »

Cet onglet liste les utilisateurs ayant utilisé le modèle.

Colonne Description
Utilisateur Nom de l'utilisateur
Dernière utilisation Date de dernière utilisation
Jetons utilisés Somme de tous les jetons utilisés dans l'historique disponible (les jetons des historiques supprimés ne sont pas comptabilisés)

En développant une ligne utilisateur, les invites de cet utilisateur sont affichées avec les colonnes suivantes :

Colonne Description
Date de la dernière invite Date du dernier échange de la session
Jetons utilisés Jetons consommés (invite + réponse)
Modal Contexte d'ouverture du chat
Nom Nom de la règle ou du filtre
Utilisation Type d'usage
Voir le chat Ouvre la modale d'historique du chat

Option « Regrouper par conversation » : même structure sans « Lié à Canopsis » et « Invite », « Date et heure » remplacée par « Date de la dernière invite », invites sans lien avec Canopsis masquées.

Recherche : liste des utilisateurs par nom d'utilisateur. Invites d'un utilisateur par nom de modal ou nom de règle/filtre.

Tri

  • Dans le tableau principal : tri par Dernière utilisation (la plus récente en premier), quel que soit l'état du regroupement par conversation.
  • Dans le détail d'un utilisateur : tri par date (la plus récente en premier).

Le tri manuel par d'autres colonnes n'est pas disponible.

Paramètres de stockage de l'historique des conversations IA

Une entrée dédiée est disponible dans les Paramètres de stockage :

Paramètre Valeur par défaut Description
Supprimer l'historique des conversations IA Activé Supprime automatiquement les historiques des conversations IA
Durée de rétention 1 mois Période après laquelle les historiques sont supprimés

Note

Ce paramètre est activé par défaut avec une rétention d'1 mois. Les jetons comptabilisés dans la vue « Par utilisateur » ne tiennent pas compte des historiques déjà supprimés.