[Explication détaillée d'un conseil en brevets] Analyse du brevet « AI Guardrail » de NVIDIA (US 2024/0354319 A1) | Contrôler les LLM lors de l'exécution sans les réentraîner

À l’ère où les agents IA agissent de manière autonome, l’une des principales préoccupations est celle d’une « dérive ». S’éloigner du sujet, générer des contenus inappropriés, produire des hallucinations (erreurs plausibles) : comment prévenir ces risques ?La réponse apportée par NVIDIA à ce défi est la demande de brevet US 2024/0354319 A1 intitulée « Runtime alignment of language models in conversational AI systems » (Alignement à l’exécution des modèles linguistiques dans les systèmes d’IA conversationnelle), que nous allons examiner en détail dans cet article.

Dans cette série, nous avons jusqu’à présent examiné des brevets protégeant « l’infrastructure d’exécution », le « corps », « l’apprentissage », la « coordination » et la « construction » des agents.Cet article traite d’une couche distincte, celle des « garde-fous » (safety rails). Il s’agit d’ailleurs d’un cas particulièrement intéressant dans la mesure où ce brevet correspond au projet « NeMo Guardrails » publié en open source par NVIDIA. Un conseil en propriété industrielle spécialisé dans la propriété intellectuelle liée à l’IA nous livre ses explications en s’appuyant sur les revendications du brevet.

Résumé en 30 secondes | Un brevet protégeant les « garde-fous » de l’IA

Informations de base sur la demande de brevet

Contexte | Comment empêcher la « dérive » des agents IA

Les modèles de langage de grande envergure (LLM) sont puissants, mais leurs résultats ne peuvent pas être entièrement contrôlés. S’écarter du sujet, tenir des propos inappropriés, affirmer des informations erronées (hallucinations) : ces risques constituent des obstacles majeurs à l’intégration de l’IA dans les services et les activités réels.

Les conséquences d’un « dérapage » sont particulièrement graves dans le cas d’agents IA agissant de manière autonome. Il est tout aussi important de « rendre l’IA plus intelligente » que de « la maintenir dans des limites sûres ». Le présent brevet présente une technologie permettant de résoudre ce dernier défi.

Point clé n° 1 | Le concept « contrôler au moment de l’exécution, sans réapprentissage »

Les méthodes traditionnelles visant à optimiser le comportement de l’IA consistaient à « réentraîner le modèle lui-même », par exemple via le réglage fin (fine-tuning) ou le RLHF. Cependant, ces approches sont coûteuses et chronophages, et ne se prêtent pas à des ajustements fréquents.

L’approche de ce brevet est fondamentalement différente. Le descriptif précise clairement qu’il est possible « de contrôler la sortie au moment de l’exécution sans entraîner ni réentraîner le modèle linguistique ». Laisser le modèle tel quel et placer une couche de contrôle (une « glissière de sécurité ») « autour » de celui-ci : voilà l’idée centrale.

Point clé n° 2 | Mécanisme « forme canonique → flux interactif → exécution »

Comment alors assurer le contrôle au moment de l’exécution ? Le traitement décrit dans la revendication 1 se déroule en trois étapes :

Le point essentiel consiste à convertir d’abord les entrées en une « forme canonique », c’est-à-dire une représentation sémantique standardisée. Cela permet de regrouper diverses entrées telles que « Dis-moi la météo » ou « Quel temps fait-il aujourd’hui ? » sous une forme commune, et de les comparer à un flux de dialogue prédéfini (c’est-à-dire un scénario de comportements autorisés).

Point clé n° 3 | Colang | Langage de description du comportement de l’IA

Le document technique explique que l’on utilise un « langage de modélisation formel (conversationnel ou en langage naturel) » pour définir les flux de conversation et la forme canonique. Cela correspond à « Colang » de NVIDIA.

Colang est un langage permettant de décrire des règles du type « si l’utilisateur dit ceci, l’IA se comporte ainsi », ainsi que les flux de conversation autorisés (flux et sous-flux) et une syntaxe de programmation structurée. Il se caractérise par le fait qu’il permet d’écrire explicitement le « code de conduite » de l’IA, à la manière d’un code.

Point clé n° 4 | Une approche en deux étapes : entrée (ingress) et sortie (egress)

Selon le mémoire descriptif, les garde-fous fonctionnent à la fois à l’entrée (ingress) et à la sortie (egress).

La mise en place de garde-fous à la fois « en entrée » et « en sortie » permet d’assurer une sécurité à plusieurs niveaux. Ce cadre unique permet de gérer à la fois la défense contre les entrées malveillantes, telles que l’injection de prompts (entrée), et la prévention des sorties nuisibles ou erronées (sortie).

Lecture article par article de la revendication indépendante 1

Points à retenir de la revendication 1

Cette revendication 1 se caractérise par sa concision et sa portée étendue, même par rapport aux autres brevets examinés dans cette série. Elle se résume en trois étapes : « génération d’une forme canonique → détermination d’un flux de dialogue → exécution ».

Outre la revendication 1 (méthode), les revendications 11 et 19 sont également formulées en tant que revendications indépendantes.

Obtenir la protection juridique de la « couche de sécurité » de l’agent

Si l’on classe les brevets examinés dans cette série en tant qu’« éléments constitutifs d’un agent IA », la place qu’occupe le présent brevet apparaît clairement.

Stratégie | Conciliation entre l’open source (NeMo Guardrails) et les brevets

Il est intéressant de noter que NVIDIA a publié en open source la technologie « NeMo Guardrails » correspondant à ce brevet. Vous vous demandez peut-être : « Pourquoi déposer un brevet alors qu’il s’agit d’un projet open source ? », mais cela n’est pas contradictoire.

Comment cela sera-t-il évalué lors des examens au Japon, aux États-Unis et en Europe ?

États-Unis (USPTO)

La revendication 1 étant concise et large, la question de savoir si elle sera considérée comme une « idée abstraite (organisation de l’information, application de règles) » selon les critères des tests Alice et Mayo pourrait faire l’objet d’un débat. La clé réside dans la mesure dans laquelle des traitements concrets tels que la forme canonique, le flux de dialogue et le contrôle d’exécution seront reconnus comme une mise en œuvre technique ; l’examen est actuellement en cours.

Japon (JPO)

La description fait état de traitements de données concrets, tels que la conversion des entrées en forme canonique ainsi que la détermination et l’exécution du flux de dialogue, ce qui constitue une structure permettant de faire valoir facilement l’admissibilité à un brevet en tant qu’invention liée aux logiciels. En ce qui concerne l’activité inventive, l’effet consistant à « rendre le réapprentissage inutile » ainsi que le mécanisme concret des garde-fous seront déterminants.

Europe (OEB)

Cette configuration peut facilement être considérée comme une solution technique au problème technique du « contrôle sécurisé des sorties des LLM » et est susceptible d’être évaluée comme une caractéristique technique même dans le cadre de l’approche COMVIK.

Leçons à tirer pour vos propres demandes de brevet

① Protégez également les aspects « sécurité et contrôle ». Outre l’intelligence de l’IA (le modèle), les technologies permettant de contrôler et de sécuriser ses sorties constituent également des objets de brevet importants.

② Mettre en avant « l’absence de réapprentissage » comme effet technique. Les effets en termes de réduction des coûts et du temps constituent un argument solide pour étayer le caractère inventif.

③ Concrétiser un langage et un format de description propres. Un « mécanisme de description du comportement » tel que Colang permet de sortir de l’abstraction.

④ L’open source et les brevets sont compatibles. Il convient d’envisager la combinaison d’une stratégie de diffusion (OSS) et d’une stratégie de défense (brevets).

⑤ Associez des revendications indépendantes larges à des revendications dépendantes concrètes. Les revendications larges en instance comportant des risques, il est important de mettre en place une défense à plusieurs niveaux.

Foire aux questions (FAQ)

Source

• US 2024/0354319 A1 (Google Patents) : https://patents.google.com/patent/US20240354319A1/en
• Revendications et description (FreePatentsOnline) : https://www.freepatentsonline.com/y2024/0354319.html