Ingénierie de l’IA générative
Apprenez l'ingestion, l'indexation, la récupération, le classement, l'ancrage, la citation et les modèles d'invite RAG utilisés pour créer des réponses d'AI vérifiables à partir de documents de confiance.
19 termes
Aperçu
Retrieval-augmented generation (RAG)
Un modèle qui récupère des informations externes pertinentes et les fournit à un modèle avant la génération.
Utilisez-le lorsque les réponses doivent s'appuyer sur des documents actuels, privés ou spécifiques au domaine.
Récupérer les passages de politique pour la question, puis répondre en utilisant uniquement ces passages.Ingestion
Chunking
Diviser les documents en unités plus petites qui peuvent être indexées et récupérées.
Choisissez les limites des blocs qui préservent le sens tout en maintenant la focalisation de la récupération.
Diviser le manuel par section et conserver chaque titre avec ses paragraphes.Indexation
Embedding
Un vecteur numérique représentant les caractéristiques sémantiques d'un texte ou d'un autre contenu.
Utilisez des embeddings pour comparer la similarité sémantique au-delà des correspondances exactes de mots-clés.
Créer des embeddings pour chaque segment de document et pour la requête de l'utilisateur.Indexation
Vector store
Un système qui stocke les embeddings et prend en charge la recherche de voisins les plus proches.
Utilisez-le pour gérer les index sémantiques et les métadonnées associées aux documents.
Stocker chaque vecteur de chunk avec son URL source, son titre et sa portée d'accès.Récupération
Similarity search
Récupération basée sur la proximité des représentations vectorielles selon une mesure de distance choisie.
Utilisez-le pour trouver les passages ayant un sens lié à la requête.
Rechercher dans le stockage vectoriel les passages les plus proches de l'intégration de la requête.Récupération
Retriever
Le composant qui sélectionne les documents ou les fragments candidats pour une requête.
Configurez-le pour combiner la réécriture des requêtes, les filtres, les méthodes de recherche et les limites des résultats.
Le récupérateur renvoie des blocs de stratégie que l'utilisateur actuel est autorisé à consulter.Récupération
Top-k
Le nombre de résultats de récupération les mieux classés sélectionnés pour l'étape suivante.
Ajustez-le pour équilibrer la couverture des preuves par rapport au bruit et à l'utilisation du contexte.
Récupérer les 8 candidats les plus performants, puis les réévaluer et conserver les 4 meilleurs.Récupération
Metadata filter
Une contrainte qui limite la récupération en fonction d'attributs tels que la date, le produit, la langue ou les autorisations.
Utilisez-le avant le classement sémantique pour faire respecter la portée et le contrôle d'accès.
Filtrer les documents coréens publiés après 2025 que l'utilisateur peut consulter.Récupération
Hybrid search
Une méthode de recherche qui combine les signaux lexicaux de mots-clés avec les signaux sémantiques vectoriels.
Utilisez-le lorsque les identifiants exacts et la similarité conceptuelle sont tous deux importants.
Combiner les résultats de mots-clés BM25 avec la similarité des embeddings pour le code d'erreur AB-104.Classement.
Reranking
Un modèle ou une règle de deuxième étape qui réorganise les candidats récupérés en fonction de leur pertinence.
Utilisez-le pour améliorer la précision après avoir collecté un ensemble de candidats plus large.
Réévaluer 20 fragments candidats et envoyer les 5 meilleurs au générateur.Réponse étayée
Grounding
Connecter une réponse générée à des preuves fournies ou récupérées.
Utilisez-le pour réduire les affirmations non étayées et rendre la réponse vérifiable.
Répondez uniquement aux affirmations étayées par les extraits de politique récupérés.Réponse étayée
Citation
Une référence qui identifie la source étayant une affirmation.
Ajoutez des citations au niveau de l'affirmation afin que les lecteurs puissent vérifier rapidement les preuves.
Une citation peut toujours pointer vers des preuves non pertinentes ; vérifiez qu'elle prend réellement en charge l'affirmation.
Incluez le titre du document, la section et le lien source direct pour chaque affirmation de politique.Modèles de requête RAG.
Query rewriting prompt
Une instruction qui transforme la requête d'un utilisateur en une ou plusieurs requêtes plus adaptées à la recherche par mot-clé, sémantique, hybride ou filtrée.
Utilisez-le pour les questions vagues, conversationnelles, non spécifiées ou mal adaptées au domaine, tout en préservant l'intention originale.
Ne modifiez pas silencieusement l'intention de l'utilisateur, n'ajoutez pas de faits non pris en charge ou n'affaiblissez pas les filtres d'accès.
Réécrire la question pour la recherche hybride. Conserver l'intention originale, ajouter la terminologie documentaire probable et renvoyer la question originale ainsi que jusqu'à trois requêtes réécrites.Modèles de requête RAG.
Grounded-answer instruction
Une règle d'invite exigeant que les affirmations factuelles soient étayées par des passages récupérés fournis à l'étape de génération.
Utilisez-le lorsque les réponses doivent être vérifiables et que les connaissances du modèle non prises en charge ne doivent pas être présentées comme des preuves.
Répondez à la question en utilisant les passages fournis. Attachez l'ID de la source de support à chaque affirmation factuelle et séparez toute inférence clairement étiquetée.Modèles de requête RAG.
Context-only answering
Une règle de génération stricte qui limite la réponse aux informations explicitement prises en charge par le contexte de récupération fourni.
Utilisez-le pour les politiques, les contrats, le contenu réglementé ou d'autres tâches où les connaissances externes du modèle ne doivent pas combler les lacunes.
Cette règle ne peut pas compenser les résultats de récupération médiocres, incomplets, obsolètes ou non autorisés.
Utilisez uniquement <retrieved_context>. Si le contexte ne contient pas la réponse, renvoyez insufficient_evidence au lieu d'utiliser des connaissances antérieures.Modèles de requête RAG.
No-evidence response and abstention
Une réponse de repli définie utilisée lorsque les preuves récupérées sont absentes, insuffisantes, contradictoires ou inférieures à un seuil de support.
Utilisez-le pour empêcher les suppositions hasardeuses et pour orienter le cas vers une clarification, une nouvelle tentative de récupération ou un examen humain.
Si aucun passage ne soutient directement la réponse, renvoyez le statut : insufficient_evidence, expliquez ce qui manque et suggérez une question de clarification.Modèles de requête RAG.
Citation format instruction
Un contrat d'invite définissant où et comment les identifiants de source doivent apparaître dans une réponse générée.
Utilisez-le pour générer des références au niveau des affirmations que les applications et les examinateurs peuvent valider de manière cohérente.
Le simple fait de formater une citation ne prouve pas que le passage cité soutient l'affirmation ; validez la correction de la citation séparément.
Après chaque phrase prise en charge, citez une ou plusieurs sources IDrécupérées dans le format S1. N'inventez jamais une ID et ne citez pas une source qui ne soutient pas la phrase.Modèles de requête RAG.
Retrieved-context synthesis
Combiner des preuves complémentaires provenant de plusieurs passages extraits pour former une réponse cohérente sans effacer les limites de la source.
Utilisez-le pour la comparaison, le résumé ou les questions complexes qui nécessitent plus d'un passage.
Regroupez les passages par sous-question, supprimez les doublons, conservez les dates et la portée, puis synthétisez la réponse avec les identifiants de source au niveau de l'affirmation.Modèles de requête RAG.
Conflicting-source handling
Une règle d'invite pour détecter et signaler les contradictions entre les sources récupérées plutôt que de choisir silencieusement l'une d'entre elles.
Utilisez-le lorsque les documents peuvent différer par version, date, juridiction, autorité ou interprétation.
La récence seule ne détermine pas toujours l'autorité ; encodez la politique de priorité de la source du domaine en dehors ou à côté de l'invite.
Si les sources sont en conflit, listez chaque affirmation avec sa source, sa version et sa date ; identifiez le conflit ; appliquez une règle d'autorité explicite ou demandez un examen.La qualité de la récupération et les instructions de génération doivent être conçues et évaluées ensemble ; une invite ne peut pas corriger les preuves manquantes ou non autorisées.
| Étape | Responsabilité des requêtes. |
|---|---|
| Avant la récupération | Préserver l'intention tout en réécrivant, en développant, en filtrant ou en décomposant la requête. |
| Assemblage du contexte | Étiquetez les identifiants de source, les versions, les dates, les autorisations et les limites de passage. |
| Génération de réponses | Limitez les affirmations aux preuves, définissez le format de citation et spécifiez le comportement en cas d'abstention. |
| Après la génération | Validez le support des affirmations, la correction des citations, les conflits, l'exhaustivité et la conformité d'accès. |
Non. Cela réduit la portée des preuves autorisées, mais la réponse peut toujours mal interpréter des passages, combiner des sources incompatibles, ajouter des citations incorrectes ou s'appuyer sur une récupération médiocre. Validez la précision de la récupération, le support des affirmations, la correction des citations et le comportement d'abstention.
S'abstenir lorsque aucun passage autorisé ne soutient directement la revendication requise, que les preuves sont inférieures au seuil défini, que les sources sont contradictoires sans règle d'autorité, ou que la question est trop ambiguë pour être traitée en toute sécurité. Renvoie une raison structurée et la prochaine action utile.
Oui, lorsque les utilisateurs ou les systèmes en aval doivent vérifier des affirmations, mais l'application doit conserver les identifiants de source réels et vérifier que chaque passage cité prend en charge l'affirmation voisine. Le modèle ne doit jamais inventer d'identifiants de source.
Guide architectural officiel sur l'augmentation, la décomposition, la réécriture, la récupération, le rééchelonnement et le contexte cumulatif des requêtes.
Documentation officielle pour les modèles de prompts d'orchestration et de génération, les espaces réservés d'exécution, le contexte récupéré, les requêtes et les instructions de sortie de citation.
Guide officiel pour mesurer si les affirmations générées sont étayées par les faits fournis et pour identifier les preuves à l'appui ou contradictoires.
Examiner les instructions, les contraintes, les schémas de sortie, la décomposition des tâches, le raisonnement et les modèles de vérification.
Budget, assemblez, commandez, compressez, mettez en cache et suivez les preuves et l'état de la conversation récupérés.
Mesurer la pertinence, la qualité des citations, l'exhaustivité, la régression, la latence et le coût.
Protéger les pipelines de récupération contre l'injection indirecte de requêtes, l'accès non autorisé aux données et les résultats non sécurisés.