In un’epoca in cui gli agenti di intelligenza artificiale agiscono in modo autonomo, una delle principali preoccupazioni è quella di un “funzionamento fuori controllo”. Allontanarsi dall’argomento, generare contenuti inappropriati, produrre allucinazioni (errori plausibili): come prevenire tali rischi?La risposta di NVIDIA a questa sfida è la domanda di brevetto US 2024/0354319 A1, «Runtime alignment of language models in conversational AI systems» (Allineamento in fase di esecuzione dei modelli linguistici nei sistemi di IA conversazionale), che approfondiremo in questo articolo.
In questa serie abbiamo finora esaminato i brevetti che proteggono la «piattaforma di esecuzione», il «corpo», l’«apprendimento», la «collaborazione» e la «costruzione» degli agenti.Il presente articolo tratta invece un nuovo livello, diverso da quelli precedenti, denominato «binari di sicurezza (guardrail)». Si tratta inoltre di un caso interessante in quanto riguarda il brevetto corrispondente a «NeMo Guardrails», che NVIDIA rende disponibile come open source. Un consulente in proprietà industriale nel campo dell’IA fornirà una spiegazione citando le rivendicazioni effettive.
💡 Punti chiave: il presente articolo fa parte della serie dedicata ai brevetti sugli agenti di IA. Per un confronto tra le varie aziende, si prega di consultare la sezione dedicata alla strategia di Anthropic e quella dedicata ai casi di studio in Giappone, Stati Uniti ed Europa.
Indice
| Voce | Contenuto |
|---|---|
| Numero di pubblicazione | US 2024/0354319 A1 |
| Denominazione dell’invenzione | Allineamento in tempo reale dei modelli linguistici nei sistemi e nelle applicazioni di intelligenza artificiale conversazionale |
| Data di pubblicazione | 24 ottobre 2024 |
| Data di deposito / Data di priorità | 20 aprile 2023 |
| Richiedente | NVIDIA Corporation |
| Inventori | Razvan Dinu, Jonathan M. Cohen, Christopher M. Parisien, Traian-Eugen Rebedea |
| Numero di rivendicazioni | 20 (3 indipendenti: rivendicazioni 1, 11 e 19) |
| Stato | Domanda pubblicata (in fase di esame) |
| Tecnologia di riferimento | NeMo Guardrails／Colang |
Sebbene i modelli di linguaggio di grandi dimensioni (LLM) siano potenti, i loro risultati non sono completamente controllabili. Deviazioni dall’argomento, affermazioni inappropriate, affermazioni categoriche su contenuti non veritieri (allucinazioni): tali rischi rappresentano un ostacolo significativo all’integrazione dell’IA nei servizi e nelle attività operative concrete.
In particolare, nel caso di agenti di IA che agiscono in modo autonomo, le conseguenze di un comportamento fuori controllo sono particolarmente gravi. È importante non solo «rendere l’IA più intelligente», ma anche «mantenere l’IA entro limiti di sicurezza». Il presente brevetto descrive una tecnologia volta a risolvere proprio quest’ultima sfida.
I metodi tradizionali per ottimizzare il comportamento dell’IA consistevano nel «riaddestramento del modello stesso», come la messa a punto (fine-tuning) o l’RLHF. Tuttavia, tali approcci sono costosi e richiedono molto tempo, risultando inadatti a regolazioni frequenti.
L’approccio del presente brevetto è radicalmente diverso. La descrizione tecnica afferma chiaramente che «è possibile controllare l’output in fase di esecuzione senza addestrare o riaddestrare il modello linguistico». Lasciare il modello così com’è e posizionare un livello di controllo (una sorta di «guardrail») «attorno» ad esso: questa è l’idea centrale.
💡 Punto chiave: la progettazione basata sul principio di «controllare dall’esterno senza modificare il modello» offre il vantaggio di rendere l’IA più sicura in modo rapido e flessibile, semplicemente modificando le impostazioni. L’eliminazione della necessità di elaborazioni onerose come il riaddestramento costituisce l’effetto tecnico fondamentale che sostiene la rivendicazione di innovatività.
Ma come avviene il controllo in fase di esecuzione? Il processo indicato nella rivendicazione 1 si articola nei seguenti tre passaggi.
Il punto fondamentale consiste nel convertire innanzitutto l’input in un’espressione semantica standardizzata denominata «forma canonica». In questo modo, è possibile raggruppare in una forma comune input diversi, quali «Dimmi che tempo fa» o «Che tempo fa oggi?», e confrontarli con un flusso di dialogo predefinito (= copione dei comportamenti consentiti).
Il documento tecnico spiega che per definire i flussi di dialogo e la forma canonica si utilizza un «linguaggio di modellazione formale (conversazionale o in linguaggio naturale)». Ciò corrisponde a «Colang» di NVIDIA.
Colang è un linguaggio che consente di descrivere regole del tipo «se l’utente dice questo, l’IA si comporta in quel modo», nonché i flussi di dialogo consentiti (flussi e sottoflussi) e una sintassi di programmazione strutturata. La sua caratteristica distintiva è quella di consentire di scrivere in modo esplicito, come se si trattasse di codice, il «codice di condotta» dell’IA.
Secondo la descrizione, il sistema di protezione opera sia all’ingresso (ingress) che all’uscita (egress).
| Fasi | Ruolo |
|---|---|
| Ingresso (ingress) | Controllo degli input dell’utente. Blocco degli input inappropriati o pericolosi all’ingresso |
| Uscita (egress) | Verifica dell’output del modello. Blocco degli output indesiderati in uscita |
Garantiamo la sicurezza su più livelli installando «barriere di protezione» sia sul «lato in entrata» che sul «lato in uscita». È possibile gestire in un unico quadro sia la difesa dagli input offensivi, quali l’iniezione di prompt (ingresso), sia la prevenzione di output dannosi o errati (uscita).
US 2024/0354319 A1 | Rivendicazione 1 (testo originale / inglese)
Un metodo comprendente: la generazione, basata almeno su un input dell’utente, di una forma canonica che comprende una rappresentazione semantica vincolata dell’input dell’utente; la determinazione, basata almeno sulla forma canonica, di un flusso di dialogo che controlla l’output di un modello linguistico; e l’esecuzione di una o più operazioni per attuare il flusso di dialogo al fine di generare un output.
Traduzione di riferimento a cura di un consulente in brevetti (in giapponese)
La rivendicazione 1 si caratterizza per essere piuttosto concisa e ampia anche rispetto agli altri brevetti esaminati in questa serie. È sintetizzata in tre fasi: «Generazione della forma canonica → Determinazione del flusso di dialogo → Esecuzione».
💡 Punto chiave: una rivendicazione ampia, una volta registrata, è molto efficace, ma comporta anche un rischio di rigetto dovuto allo stato dell’arte. Il presente caso è ancora pendente (A1) e l’ambito di registrazione finale di questa concisa rivendicazione 1 dipenderà dall’esito del futuro esame.Dal punto di vista pratico, la strategia standard consiste nel combinare rivendicazioni indipendenti di ampia portata (1, 11, 19) con rivendicazioni subordinate che introducono limitazioni specifiche, al fine di trovare un equilibrio tra rischio e copertura.
Oltre alla rivendicazione 1 (metodo), anche le rivendicazioni 11 e 19 sono state formulate come rivendicazioni indipendenti.
Se si allineano i brevetti esaminati in questa serie come «componenti dell’agente AI», la posizione del presente caso risulta chiara.
| Livello | Brevetto rappresentativo (questa serie) | Oggetto della tutela |
|---|---|---|
| Apprendimento | OpenAI VPT (US 11.887.367) | Metodo di apprendimento delle operazioni |
| Corpo del sistema e esecuzione | Anthropic (US 12.430.150 ecc.) | Runtime e agenti |
| Cooperazione | OpenAI/Salesforce | Multiagente |
| Sviluppo | OpenAI/Anthropic | Creazione di agenti |
| Sicurezza (il presente articolo) | NVIDIA (US 2024/0354319) | Meccanismi di protezione e controllo dell’output |
💡 Punto chiave: non solo l’«intelligenza», ma anche la «sicurezza e il controllo» costituiscono oggetti di brevettabilità a sé stanti. Considerando che la governance dell’IA sta assumendo sempre maggiore rilevanza come esigenza sociale, si ritiene che i brevetti relativi ai livelli di sicurezza acquisiranno un’importanza ancora maggiore in futuro. Se la propria azienda dispone di tecnologie di controllo e sicurezza proprietarie, vale sicuramente la pena valutare la possibilità di ottenere la tutela brevettuale.
È interessante notare che NVIDIA abbia reso disponibile come open source la tecnologia «NeMo Guardrails», oggetto del presente brevetto. Ci si potrebbe chiedere: «Ma come è possibile ottenere un brevetto su un progetto open source?», tuttavia ciò non costituisce una contraddizione.
Poiché la rivendicazione 1 è concisa e di ampia portata, potrebbe diventare oggetto di discussione il rischio che venga valutata come «idea astratta (organizzazione delle informazioni, applicazione di regole)» in base ai test di Alice e Mayo. Il punto chiave è fino a che punto le operazioni concrete quali la forma canonica, il flusso di dialogo e il controllo in fase di esecuzione saranno riconosciute come implementazione tecnica; attualmente la domanda è in fase di esame.
Poiché sono descritti trattamenti concreti dei dati, quali la conversione degli input in forma canonica e la determinazione e l’esecuzione del flusso di interazione, la struttura consente di sostenere facilmente l’ammissibilità al brevetto come invenzione relativa al software. Per quanto riguarda l’attività inventiva, gli elementi chiave sono l’effetto di «eliminare la necessità di un nuovo apprendimento» e il meccanismo specifico del sistema di protezione.
È facile classificare questa struttura come una soluzione tecnica alla sfida tecnica del «controllo sicuro dell’output degli LLM»; si tratta di una configurazione che può essere facilmente valutata come caratteristica tecnica anche nell’ambito dell’approccio COMVIK.
① Registrare anche gli aspetti relativi a «sicurezza e controllo». Non solo l’intelligenza dell’IA (il modello), ma anche le tecnologie volte a controllare e rendere sicuri i suoi output costituiscono importanti oggetti di brevetto.
② Evidenziare la «non necessità di riaddestramento» come effetto tecnico. L’effetto di riduzione dei costi e dei tempi costituisce una solida prova del carattere innovativo.
③ Concretizzare un linguaggio e un formato di descrizione propri. Un «meccanismo di descrizione del comportamento» come Colang costituisce un punto di partenza per superare l’astrazione.
④ L’open source e i brevetti possono coesistere. Si valuti l’opzione di combinare una strategia di diffusione (OSS) con una strategia di difesa (brevetti).
⑤ Abbinare rivendicazioni indipendenti di ampio respiro a rivendicazioni dipendenti concrete. Poiché le rivendicazioni di ampio respiro pendenti comportano dei rischi, è fondamentale predisporre una difesa a più livelli.
Perché non proteggere con diritti di proprietà intellettuale l’intelligenza artificiale della Sua azienda, comprese le tecnologie di sicurezza e controllo?
I nostri avvocati specializzati in proprietà industriale, esperti nei settori IT, software e IA, Le forniranno un supporto completo che spazia dalla progettazione delle rivendicazioni, comprese le tecnologie di sicurezza e governance dell’IA, alla valutazione gratuita della possibilità di protezione, alla compatibilità con le strategie open source, fino alle strategie di deposito delle domande di brevetto in Giappone, Stati Uniti ed Europa.
Prenoti una prima consulenza gratuita Servizi di proprietà intellettuale nel settore IT e IAD. Che tipo di brevetto è l’US 2024/0354319 A1?
R. Si tratta di una domanda di brevetto statunitense presentata da NVIDIA, relativa alla tecnologia “Guardrails” che consente di controllare e rendere sicuri gli output dei modelli linguistici su larga scala (LLM) in “tempo di esecuzione (runtime)”. La tecnologia converte l’input dell’utente in una “forma canonica (espressione semantica vincolata)” e, sulla base di questa, determina ed esegue il “flusso di interazione” che controlla l’output.La caratteristica distintiva è la possibilità di controllare il comportamento senza la necessità di un riaddestramento dell’LLM; il brevetto è stato pubblicato il 24 ottobre 2024 ed è attualmente in fase di esame. È compatibile con il progetto open source di NVIDIA «NeMo Guardrails».
D. Che cos’è il «Guardrail»?
R. Si tratta di un meccanismo che “limita e guida” l’output dell’IA affinché non risulti inappropriato, dannoso o fuori tema. Proprio come i guardrail stradali impediscono alle auto di uscire di strada, questo meccanismo mantiene l’output dell’LLM entro i limiti desiderati. Il presente brevetto realizza ciò non tramite il riaddestramento del modello, bensì attraverso un controllo in fase di esecuzione basato sul flusso di interazione.
D. Cosa significa «controllo senza riaddestramento»?
A. I metodi tradizionali per modificare il comportamento dell’IA (come il fine-tuning o l’RLHF) richiedono il riaddestramento del modello stesso, con conseguenti costi e tempi elevati. L’approccio descritto nel presente brevetto consiste nel mantenere il modello invariato, inserendo un livello di controllo (il «guardrail») attorno ad esso per regolare l’output in fase di esecuzione. Il vantaggio risiede nella possibilità di garantire la sicurezza in modo rapido e flessibile, semplicemente modificando le impostazioni.
D. Che cos’è la «forma canonica (canonical form)»?
A. Si tratta della conversione dell’input dell’utente in una “rappresentazione semantica vincolata” standardizzata (ad esempio: sintesi, definizione dell’intenzione). Normalizzando gli input espressi con formulazioni diverse in una forma comune, si facilita il confronto con flussi di dialogo predefiniti.
D. Anche le tecnologie relative alla sicurezza e al controllo dell’IA possono essere oggetto di brevetto?
A. Sì. Se descritte come meccanismi specifici – quali la forma canonica, i flussi di dialogo e il controllo in fase di esecuzione – come nel caso del presente brevetto, è possibile valutare la registrazione dei diritti sia in Giappone che negli Stati Uniti e in Europa. La sicurezza e la governance dell’IA rappresentano settori che acquisiranno sempre maggiore importanza in futuro e costituiscono un ambito di grande rilevanza per la registrazione dei diritti.
Note relative al presente articolo: il presente articolo costituisce una spiegazione generale delle tecnologie e dei sistemi basata sui bollettini delle domande di brevetto pubblicate. US 2024/0354319 A1 è una domanda pubblicata attualmente in fase di esame e non è stata ancora registrata. Poiché le rivendicazioni possono subire modifiche a seguito di correzioni, l’ambito di protezione definitivo non è ancora stato stabilito.Le rivendicazioni, la sintesi e il contenuto della descrizione citati si basano sui dati delle pubblicazioni (Google Patents, FreePatentsOnline ecc.), ma per scopi giuridicamente rilevanti (FTO, analisi di violazione, depositi di domande, ecc.) si raccomanda di verificare sempre l’originale dell’USPTO e le informazioni aggiornate sullo stato di avanzamento della pratica, avvalendosi di una valutazione individuale da parte di un esperto.La traduzione in giapponese è da intendersi come traduzione di riferimento a scopo di comprensione; il testo ufficiale è quello originale in inglese.
AUTORE / Autore
Takefumi Sugiura (SUGIURA Takefumi)
Studio di proprietà intellettuale EVORIX – Consulente in proprietà industriale, titolare
Assiste clienti operanti in un’ampia gamma di settori, tra cui IT, produzione, start-up, moda e sanità, in ogni fase, dalla presentazione delle domande di brevetto, marchio, disegno e modello e diritto d’autore fino ai procedimenti di opposizione e alle cause di contraffazione.È inoltre esperto in strategie di proprietà intellettuale nei settori all’avanguardia quali AI, IoT, Web3 e FinTech. È membro di diverse associazioni, tra cui l’Ordine dei Patentisti del Giappone, l’Associazione Asiatica dei Patentisti (APAA) e l’Associazione Giapponese dei Marchi (JTA).