Distinguer mémoire, recherche et apprentissage
Ajouter un document à une base de connaissances ne modifie pas nécessairement les poids d’un modèle. Une recherche retrouve des passages ; une mémoire conserve des informations ; un entraînement ajuste un modèle à partir d’exemples. Ces mécanismes peuvent se compléter, mais ils n’ont pas les mêmes exigences. Pour un site communautaire, la première amélioration utile consiste souvent à retrouver le bon passage et à montrer sa source, avant de chercher à entraîner un modèle plus grand.
Choisir ce qui peut entrer dans la mémoire
Chaque ressource doit avoir un propriétaire, une origine, une date, un statut de visibilité et une règle d’usage. Un document accessible à son auteur n’est pas automatiquement public ni utilisable pour entraîner un système. Appliquez les droits avant l’extraction, puis au moment de répondre. Une suppression ou une restriction doit retirer les passages correspondants de la recherche et des caches. Sans ce mécanisme, la mémoire peut restituer une information qui n’est plus disponible sur le site.
Pour une vidéo, commencez par les métadonnées, les chapitres et la transcription fournie ou produite avec autorisation. Pour une image, utilisez sa légende, son texte alternatif et son contexte. Si un traitement local extrait du texte, conservez le lien vers la zone ou la page d’origine et permettez une correction. Le texte extrait est une proposition de lecture, pas une vérité nouvelle. Les fichiers inconnus doivent être contrôlés avant d’être ouverts par des outils.
Construire une réponse traçable
Une réponse utile distingue ce qu’elle a retrouvé de ce qu’elle déduit. Affichez les titres des sources, les passages pertinents et leur date. Lorsqu’une question dépend d’une information absente, le système doit pouvoir le signaler et demander une précision. Ne complétez pas un tarif, une règle ou une qualification avec une valeur plausible. Une réponse courte et sourcée est préférable à une explication longue qui invente les éléments manquants.
Un contenu fourni par un membre peut contenir des instructions destinées à détourner l’outil. Traitez les documents comme des données à analyser : un passage ne doit pas décider de nouveaux droits, demander un transfert d’argent ou autoriser l’envoi d’un fichier privé. Séparez les outils de lecture des outils de mutation. Chaque action qui modifie un contenu doit rester attribuable, limitée et réversible selon les droits de l’utilisateur.
Mesurer une amélioration avant de la déployer
Préparez un jeu de questions représentatif : retrouver une consigne, comparer deux ressources, expliquer un terme, reconnaître une information absente et respecter un contenu privé. Écrivez la réponse attendue ou les critères de réussite. Gardez un groupe de questions à l’écart des réglages pour détecter une adaptation trop étroite aux exemples connus. Une progression sur les questions utilisées pendant les réglages ne prouve pas une amélioration générale.
Mesurez la pertinence des passages, la fidélité des citations, les erreurs, les refus justifiés et le temps de réponse. Testez aussi une suppression de document, un changement de droit et une tentative d’instruction hostile. Comparez deux versions dans les mêmes conditions. Publiez les différences observées et leurs limites. Un résultat peut être meilleur dans un domaine et moins bon dans un autre ; il faut conserver cette nuance plutôt que résumer le tout par une promesse d’intelligence croissante.
Apprendre avec des corrections autorisées
Les retours des utilisateurs peuvent devenir des exemples après validation, anonymisation et contrôle des droits. Une correction explique le problème et montre une meilleure réponse avec ses sources. Évitez d’entraîner automatiquement sur tous les clics ou tous les commentaires : un comportement ne constitue pas une validation et les contributions peuvent être erronées ou malveillantes. Conservez la provenance de chaque exemple et une procédure pour le retirer.
Si un entraînement local est envisagé, vérifiez les licences du modèle et des données, le matériel disponible et le bénéfice mesurable. Un hébergement mutualisé convient à des tâches bornées de collecte autorisée, d’indexation et de maintenance ; sa capacité ne garantit pas l’exécution d’un grand modèle. Les traitements dans un navigateur doivent être visibles, facultatifs et interrompables. Indiquez la consommation prévue et respectez la batterie, le réseau et les préférences de l’appareil.
Un cycle d’amélioration raisonnable
Une boucle fiable suit cinq étapes : recueillir un besoin, préparer un changement, l’évaluer, le publier progressivement et pouvoir revenir en arrière. Conservez un journal des versions du modèle, des règles, des sources et des outils. Un tableau de bord peut montrer les documents indexés, les travaux en attente, les erreurs et les dernières évaluations. Ce tableau rend l’activité observable ; il n’attribue pas de volonté ou de compréhension générale au système. L’avantage durable vient de la qualité de la mémoire et de la confiance dans ses limites.
Sources et repères pour approfondir
Ce dossier propose une méthode générale. Les sources externes évoluent : vérifiez leurs informations pour votre situation. Texte et illustrations originaux, CC BY 4.0.