Per «far utilizzare il computer all’IA», è necessario innanzitutto insegnarle «come utilizzarlo».In questa serie abbiamo già illustrato il gruppo di brevetti alla base della funzione «Computer Use» di Anthropic; ma come fa OpenAI a insegnare all’IA a gestire lo schermo? La risposta è contenuta nel brevetto registrato US 11.887.367 B1, che approfondiremo in questo articolo.
L’approccio di OpenAI illustrato da questo brevetto può essere sintetizzato in una sola frase: «farle memorizzare le operazioni mostrandole una grande quantità di video in cui una persona esegue tali operazioni». Inoltre, utilizza un ingegnoso meccanismo che assegna automaticamente etichette ai video privi di etichette operative, grazie a una metodologia proprietaria. Si tratta di un caso esemplare che persegue lo stesso obiettivo seguendo un percorso completamente diverso rispetto ai brevetti “Computer Use” di Anthropic.Un consulente in proprietà industriale nel campo dell’IA fornirà una spiegazione, citando le rivendicazioni effettive.
💡 Punti chiave: il presente articolo fa parte della serie dedicata ai brevetti sugli agenti di IA. L’approccio contrastante di Anthropic è illustrato nei brevetti sul flusso di dati e nel brevetto fondamentale relativo all’uso del computer.
Indice
| Voce | Contenuto |
|---|---|
| Numero di brevetto | US 11.887.367 B1 |
| Denominazione dell’invenzione | Utilizzo dell’apprendimento automatico per addestrare e impiegare un modello al fine di eseguire azioni automatiche dell’interfaccia sulla base di set di dati video e di input |
| Data di registrazione | 30 gennaio 2024 |
| Data di deposito / Data di priorità | 19 aprile 2023 |
| Richiedente | OpenAI OpCo, LLC |
| Inventori | Bowen Baker, Jeffrey Clune e altri (9 in totale) |
| Numero di rivendicazioni | 20 (3 indipendenti: rivendicazioni 1, 13 e 20) |
| Denominazione comune | VPT (Video PreTraining) |
| Stato | Brevetto registrato (concesso) |
Il metodo più diretto per insegnare all’intelligenza artificiale le operazioni sullo schermo consiste nel fornire una grande quantità di dati corretti (dati etichettati) del tipo «in questa schermata, premere questo tasto» e farle apprendere tali informazioni. Tuttavia, il lavoro di annotazione manuale dei video per indicare «quando, quale tasto o quale clic è stato effettuato» comporta costi enormi.
D’altra parte, su Internet esistono innumerevoli video che mostrano persone mentre utilizzano software o giochi. Il problema è che tali video non sono corredati di etichette relative alle operazioni. La sfida tecnica che il presente brevetto intende risolvere consiste proprio nel capire come sfruttare questi «video disponibili in grande quantità ma privi di etichette».
Il fulcro della soluzione proposta dal presente brevetto è il modello di dinamica inversa (Inverse Dynamics Model, IDM).
Il flusso di elaborazione è il seguente.
💡 Punti chiave: il punto fondamentale è utilizzare l’IDM, creato con «una piccola quantità di dati corretti», come «macchina di etichettatura», trasformando in un colpo solo un’enorme quantità di video non etichettati in dati di addestramento. Ciò ha ridotto drasticamente i costi dell’annotazione manuale e ha aperto la strada all’addestramento su larga scala degli agenti basati sull’uso del computer.
Nella rivendicazione 1 è espressamente indicato che le previsioni dell’IDM si basano su «una combinazione non causale di informazioni passate e future». Questo rappresenta il punto di forza tecnico.
In realtà, il «modello di strategia» gestito in tempo reale dall’IA può vedere solo il passato (il futuro non si è ancora verificato = causale). Tuttavia, poiché l’IDM è un processo di post-elaborazione finalizzato all’etichettatura, può fare riferimento anche ai fotogrammi precedenti e successivi a un determinato momento, ovvero a quelli futuri.
💡 Punto chiave: grazie alla condizione che «è possibile considerare anche il futuro», l’IDM è in grado di indovinare con maggiore precisione «quale operazione sia stata eseguita in quel preciso istante».Ad esempio, a partire dall’informazione futura «il cursore si è spostato a destra nel fotogramma successivo», è possibile dedurre con elevata precisione che «in questo momento il mouse è stato spostato verso destra». Sfruttare questa «non causalità» per l’assegnazione delle etichette costituisce il nucleo intellettuale della presente invenzione.
Secondo la descrizione, le operazioni generate dal modello (automatic interface actions) includono la pressione di tasti, la pressione di pulsanti, l’input tramite touchscreen, l’uso del joystick, i clic del mouse, lo scorrimento e lo spostamento del mouse. Tra i campi di applicazione figurano i videogiochi, varie applicazioni di elaborazione dati, i browser web, i fogli di calcolo e l’Esplora file.
In altre parole, l’obiettivo è consentire all’IA di eseguire, senza alcun intervento umano (without human intervention), qualsiasi operazione che un essere umano compia tramite l’interfaccia grafica (GUI). Si tratta proprio della tecnologia di base dell’agente di «computer use».
US 11.887.367 B1 | Rivendicazione 1 (testo originale / inglese)
Un metodo per addestrare un modello di apprendimento automatico a eseguire azioni automatizzate, comprendente: la ricezione di dati video digitali non etichettati; la generazione di pseudo-etichette per i dati video digitali non etichettati, dove la generazione comprende: la ricezione di dati video digitali etichettati; l’addestramento di un primo modello di apprendimento automatico che include un modello di dinamica inversa (IDM) utilizzando i dati video digitali etichettati; e la generazione di almeno una pseudo-etichetta per i dati video digitali non etichettati, in cui: la suddetta almeno una pseudo-etichetta si basa su una previsione, generata dall’IDM, di una o più azioni che riproducono almeno un intervallo di tempo dei dati video digitali non etichettati, e la previsione di una o più azioni viene generata sulla base di una combinazione non causale di informazioni passate e future all’interno dei dati video digitali non etichettati, essendo le informazioni passate e future relative a uno o più fotogrammi di riferimento all’interno dei dati video digitali non etichettati; aggiungere l’almeno una pseudo-etichetta ai dati video digitali non etichettati per formare dati video digitali pseudo-etichettati; e addestrare ulteriormente il primo modello di apprendimento automatico o un secondo modello di apprendimento automatico utilizzando i dati video digitali pseudo-etichettati per generare almeno una pseudo-etichetta aggiuntiva per il video digitale non etichettato.
Traduzione di riferimento a cura di un consulente in brevetti (in giapponese)
| Limitazioni | Significato tecnico | Motivo della validità |
|---|---|---|
| IDM (modello di dinamica inversa) | Inferenza delle operazioni dalle schermate precedenti e successive | Algoritmi concreti = allontanamento dalle idee astratte |
| Previsione non causale (passato + futuro) | Maggiore precisione grazie al riferimento anche ai fotogrammi futuri | Il fulcro dell’originalità e del carattere innovativo della presente invenzione |
| Etichettatura simulata | Trasformazione di video non etichettati in dati di addestramento | Risoluzione delle sfide tecniche (costi di annotazione) |
| Ulteriore addestramento | Apprendimento del modello operativo tramite dati simulati | Flusso di elaborazione completo come metodo di apprendimento |
Il presente brevetto è composto da un totale di 20 rivendicazioni e presenta la struttura classica di un brevetto software, con rivendicazioni indipendenti suddivise in tre categorie: metodo (rivendicazione 1), sistema (rivendicazione 13) e supporto non temporaneo leggibile da computer (rivendicazione 20).In questo modo, si coprono i diversi soggetti responsabili di violazione: chi attua il metodo, chi produce o utilizza l’apparecchiatura e chi distribuisce il programma.
Pur perseguendo lo stesso obiettivo, ovvero «far utilizzare il PC all’IA», OpenAI e Anthropic hanno ottenuto brevetti con approcci tecnologici diversi. Confrontando i brevetti delle due società esaminati in questa serie, le differenze strategiche risultano evidenti.
| OpenAI (il presente articolo) | Anthropic (già illustrato) | |
|---|---|---|
| Brevetti rappresentativi | US 11.887.367 B1 (VPT) | US 12.430.150 B1 e altri |
| Oggetto di tutela | Metodo di addestramento per l’apprendimento delle operazioni tramite video | Piattaforma di esecuzione degli agenti, DSL, flusso di dati |
| Approccio | Grandi quantità di video non etichettati + etichettatura automatica tramite IDM | Architettura di runtime e linguaggio dedicato |
| Origini della tecnologia | Ricerca interna (VPT) | Acquisizione di Adept |
| Esempi | si comprenda il «metodo di insegnamento (metodo di apprendimento)» | Padroneggiare il «modo di far funzionare (sistema di esecuzione)» |
💡 Punto chiave: OpenAI sta brevettando principalmente «come far apprendere (metodi di addestramento e dati)», mentre Anthropic si concentra su «come farlo funzionare (architettura di esecuzione)».Si tratta di un ottimo esempio di come, anche nello stesso settore di prodotti, ciascuna azienda ottenga brevetti nel proprio ambito di competenza. Anche nelle domande di brevetto presentate dalla propria azienda, è fondamentale stabilire «in quale ambito competere».
Poiché i metodi di addestramento dell’apprendimento automatico possono essere considerati tecniche matematiche astratte, il punto cruciale è rappresentato dai test di Alice e Mayo.Poiché il caso in esame coinvolge algoritmi specifici quali IDM, previsione non causale e pseudo-etichettatura, nonché azioni concrete quali la pressione dei tasti e le operazioni con il mouse, è più facile sostenere che si tratti di una «soluzione concreta a un problema tecnico»; il brevetto è attualmente registrato.
Anche in Giappone i metodi di apprendimento e i modelli già addestrati sono oggetto di brevetto. Tuttavia, secondo i casi di riferimento dell’Ufficio Brevetti giapponese in materia di IA, se si tratta semplicemente di «sostituire il lavoro umano con l’IA», il carattere innovativo viene negato.Nel caso in esame, l’ingegnosità tecnica consistente nell’«utilizzo della non causalità per l’assegnazione delle etichette» e l’effetto di una «drastica riduzione dei costi di annotazione» sono chiari, rendendo la struttura del brevetto idonea a sostenere facilmente il requisito di progressività.
Sebbene i metodi matematici in sé siano esclusi, il presente caso presenta un chiaro contributo tecnico alla sfida tecnica della «trasformazione efficiente di video non etichettati in dati di addestramento» e presenta una struttura che può essere facilmente valutata come caratteristica tecnica anche nell’ambito dell’approccio COMVIK.
① Protegga con un brevetto i metodi di apprendimento e le modalità di creazione dei dati. Non solo il modello in sé, ma anche «come addestrarlo» e «come creare i dati di addestramento» costituiscono elementi di brevetto di grande valore.
② Mettere in primo piano le soluzioni tecniche originali. È opportuno porre al centro delle rivendicazioni idee concrete efficaci per la risoluzione dei problemi, come «l’utilizzo di previsioni non causali».
③ Abbandonare la matematica astratta. Descrivete algoritmi concreti e output specifici (ad esempio, operazioni con il mouse o la tastiera) per garantire l’ammissibilità al brevetto.
④ Competere a livello dei propri punti di forza. Anche se l’obiettivo è lo stesso dei concorrenti, è efficace una strategia volta a ottenere diritti di proprietà intellettuale nei settori in cui la propria azienda eccelle (metodi di apprendimento, sistemi di esecuzione, dati, ecc.).
Perché non proteggere con un brevetto la propria IA, compresi i metodi di apprendimento e i dati?
I nostri avvocati specializzati in proprietà intellettuale, esperti nei settori IT, software e IA, Le forniranno un supporto completo che spazia dalla progettazione delle rivendicazioni – comprese le metodologie di apprendimento, i dati e i modelli – alla valutazione gratuita della brevettabilità, fino alla strategia di deposito delle domande di brevetto in Giappone, Stati Uniti ed Europa.
Prenoti una prima consulenza gratuita Servizi di proprietà intellettuale nel settore IT e IAD. Che tipo di brevetto è il US 11,887,367 B1?
R. Si tratta di un brevetto registrato negli Stati Uniti a nome di OpenAI che tutela un metodo per far apprendere all’IA il “controllo automatico dello schermo”.Si tratta di una tecnologia che prevede l’etichettatura automatica (pseudo-etichettatura) di un’enorme quantità di video non etichettati (ad esempio, filmati che mostrano persone mentre utilizzano un software) tramite un «modello di dinamica inversa (IDM)» addestrato con una piccola quantità di dati etichettati, per poi addestrare il modello di interazione utilizzando tali dati in grande volume.È compatibile con la tecnica denominata da OpenAI «VPT (Video PreTraining)» ed è stato registrato il 30 gennaio 2024.
D. Che cos’è il «modello di dinamica inversa (IDM)»?
R. Si tratta di un modello che, a partire dalle immagini (osservazioni) precedenti e successive a un determinato istante, stima «quali operazioni (azioni) siano state eseguite» in quel lasso di tempo. Mentre l’IA tradizionale (modello di strategia) prevede «cosa si debba fare successivamente», l’IDM stima a posteriori «cosa sia stato fatto».Poiché è in grado di fare riferimento non solo ai fotogrammi passati ma anche a quelli futuri, la precisione nella stima delle operazioni è elevata ed è possibile generare grandi quantità di etichette a costi contenuti.
D. Perché è importante «imparare dai video»?
R. Su Internet sono disponibili innumerevoli video che mostrano persone mentre utilizzano software o giochi. Tuttavia, tali video non sono corredati di etichette operative che indichino «quando e quale tasto è stato premuto».La presente invenzione ha aperto la strada all’addestramento su larga scala e a basso costo di agenti specializzati nell’uso del computer, addestrando l’IDM a partire da una piccola quantità di dati etichettati e assegnando automaticamente etichette a un’enorme quantità di video non etichettati.
D. In che cosa differisce dal brevetto di Anthropic relativo all’uso del computer?
R. L’approccio è fondamentalmente diverso. Anthropic (derivato da Adept) tutela «l’infrastruttura di esecuzione dell’agente, il DSL e il flusso di dati».D’altra parte, il presente brevetto di OpenAI tutela il «metodo di addestramento per l’apprendimento delle operazioni a partire da filmati». È interessante notare come, pur affrontando la stessa sfida di «far utilizzare il PC all’IA», entrambe le società abbiano ottenuto brevetti basati su approcci tecnologici distinti.
D. Anche i metodi di apprendimento (metodi di addestramento) possono essere oggetto di brevetto?
A. Sì. Come nel caso del presente brevetto, se si descrivono chiaramente algoritmi specifici (IDM, previsione non causale, etichettatura simulata) e gli effetti tecnici che ne derivano (etichettatura su larga scala a basso costo), è possibile ottenere la tutela dei diritti sia in Giappone che negli Stati Uniti e in Europa.Le modalità di creazione dei dati e i metodi di apprendimento costituiscono la fonte della competitività dell’IA e rappresentano oggetti importanti per la registrazione di un brevetto.
Note relative al presente articolo: il presente articolo costituisce una spiegazione generale delle tecnologie e del sistema basata su pubblicazioni di brevetti rese pubbliche. Il brevetto US 11,887,367 B1 è un brevetto registrato, ma l’effettivo ambito di protezione è determinato dal testo delle singole rivendicazioni, dalla dottrina dell’equivalenza e dalle informazioni relative alla cronologia.Le rivendicazioni, la sintesi e le descrizioni citate si basano sui dati dei bollettini pubblicati (ad esempio su FreePatentsOnline); tuttavia, per gli scopi giuridicamente rilevanti (FTO, analisi di violazione, nullità, depositi di domande, ecc.), si raccomanda di verificare sempre l’originale dell’USPTO e le informazioni aggiornate sullo stato della domanda, avvalendosi di una valutazione individuale da parte di un esperto.La traduzione in giapponese è da intendersi come traduzione di riferimento a scopo di comprensione; il testo ufficiale è quello originale in inglese.
AUTORE / Autore
Takefumi Sugiura (SUGIURA Takefumi)
Studio di proprietà intellettuale EVORIX – Consulente in proprietà industriale, titolare
Assiste clienti operanti in un’ampia gamma di settori – tra cui IT, produzione, start-up, moda e sanità – in ogni fase, dalla presentazione delle domande di brevetto, marchio, disegno industriale e diritto d’autore fino ai procedimenti di ricorso e alle cause per violazione.È inoltre esperto in strategie di proprietà intellettuale relative a settori all’avanguardia quali l’intelligenza artificiale (AI), l’Internet delle cose (IoT), il Web3 e il FinTech. È membro di diverse associazioni, tra cui l’Ordine dei consulenti in brevetti del Giappone, l’Associazione asiatica dei consulenti in brevetti (APAA) e l’Associazione giapponese dei marchi (JTA).