Nesta era em que os agentes de IA agem de forma autônoma, uma das maiores preocupações é o “descontrolado”. Desviar-se do assunto, gerar conteúdo inadequado, produzir alucinações (erros que parecem verossímeis) — como prevenir esses riscos?A resposta da NVIDIA a esse desafio é o pedido de patente US 2024/0354319 A1, “Runtime alignment of language models in conversational AI systems” (Alinhamento em tempo de execução de modelos de linguagem em sistemas de IA conversacional), que será analisado em profundidade neste artigo.
Nesta série, já analisamos até agora as patentes que protegem a “infraestrutura de execução”, o “corpo”, o “aprendizado”, a “cooperação” e a “construção” do agente.Este artigo aborda uma camada nova, diferente das anteriores, chamada “guarda-corpos de segurança”. Além disso, trata-se de um caso interessante, pois se refere à patente correspondente ao “NeMo Guardrails”, que a NVIDIA disponibiliza como código aberto. Um advogado especializado em propriedade intelectual de IA fará a explicação, citando as reivindicações reais.
💡 Ponto-chave: este artigo faz parte da série sobre patentes de agentes de IA. Para comparações entre empresas, consulte a edição sobre a estratégia da Anthropic ou a edição com casos do Japão, dos EUA e da Europa.
Índice
| Item | Conteúdo |
|---|---|
| Número de publicação | US 2024/0354319 A1 |
| Nome da invenção | Alinhamento em tempo de execução de modelos de linguagem em sistemas e aplicações de IA conversacional |
| Data de publicação | 24 de outubro de 2024 |
| Data de depósito / Data de prioridade | 20 de abril de 2023 |
| Requerente | NVIDIA Corporation |
| Inventores | Razvan Dinu, Jonathan M. Cohen, Christopher M. Parisien, Traian-Eugen Rebedea |
| Número de reivindicações | 20 (3 independentes: reivindicações 1, 11 e 19) |
| Status | Pedido publicado (em tramitação) |
| Tecnologia relacionada | NeMo Guardrails/Colang |
Os LLMs são poderosos, mas suas saídas não podem ser totalmente controladas. Desviar-se do assunto, fazer comentários inadequados, afirmar conteúdos que não correspondem à realidade (alucinações) — esses riscos constituem um grande obstáculo à integração da IA em serviços e operações reais.
Especialmente no caso de agentes de IA que agem de forma autônoma, o impacto de um desvio de controle é ainda maior. “Como manter a IA dentro de limites seguros” torna-se tão importante quanto “como tornar a IA mais inteligente”. Esta patente apresenta uma tecnologia que resolve esse último desafio.
Os métodos convencionais para otimizar o comportamento da IA consistiam no “reaprendizado do próprio modelo”, como o ajuste fino (fine-tuning) ou o RLHF. No entanto, isso envolve custos e tempo elevados, sendo inadequado para ajustes frequentes.
A abordagem desta patente é fundamentalmente diferente. A descrição técnica afirma claramente que “é possível controlar a saída durante a execução sem treinar ou retreinar o modelo de linguagem”. Manter o modelo como está e colocar uma camada de controle (guarda-corpos) ao seu “redor” — essa é a essência da ideia.
💡 Ponto-chave: o projeto de “controlar externamente, sem alterar o modelo” tem a vantagem de permitir tornar a IA mais segura de forma rápida e flexível, apenas com alterações nas configurações. Eliminar o pesado processo de retreinamento — esse efeito técnico é um ponto importante que sustenta a alegação de avanço técnico.
Então, como se realiza o controle durante a execução? O processamento indicado na reivindicação 1 consiste nas três etapas a seguir.
O ponto-chave é converter primeiro a entrada em uma expressão semântica padronizada, chamada de “forma canônica”. Dessa forma, entradas diversas, como “Como está o tempo?” ou “Qual é o tempo hoje?”, são unificadas em um formato comum, permitindo a comparação com o fluxo de diálogo pré-definido (ou seja, o roteiro de comportamentos permitidos).
A descrição técnica explica que, para definir fluxos de diálogo e a forma canônica, é utilizada uma “linguagem de modelagem formal (conversacional ou de linguagem natural)”. Isso corresponde ao “Colang” da NVIDIA.
O Colang é uma linguagem que permite descrever regras do tipo “se o usuário disser isso, a IA se comportará assim”, bem como fluxos de diálogo permitidos (fluxos e subfluxos) e sintaxe de programação estruturada. Sua característica principal é permitir que o “código de conduta” da IA seja escrito de forma explícita, como se fosse um código de programação.
De acordo com a descrição da patente, o sistema de proteção funciona tanto na entrada (ingress) quanto na saída (egress).
| Etapas | Função |
|---|---|
| Entrada (ingress) | Controle da entrada do usuário. Bloqueia entradas inadequadas ou perigosas na entrada |
| Saída (egress) | Verificação da saída do modelo. Bloqueio de saídas indesejáveis na saída |
Ao estabelecer “barreiras de proteção” tanto no “lado da entrada” quanto no “lado da saída”, garantimos a segurança em várias camadas. É possível lidar, em uma única estrutura, com a defesa contra entradas maliciosas, como a injeção de prompts (entrada), e com a prevenção de saídas prejudiciais ou incorretas (saída).
US 2024/0354319 A1 | Reivindicação 1 (texto original / inglês)
Um método que compreende: gerar, com base, pelo menos, em uma entrada do usuário, uma forma canônica que compreenda uma representação semântica restrita da entrada do usuário; determinar, com base, pelo menos, na forma canônica, um fluxo de diálogo que controle a saída de um modelo de linguagem; e realizar uma ou mais operações para executar o fluxo de diálogo a fim de gerar uma saída.
Tradução de referência feita por um advogado de patentes (japonês)
Esta reivindicação 1 se caracteriza por ser bastante concisa e abrangente, mesmo quando comparada às outras patentes analisadas nesta série. Ela está condensada em três etapas: “gerar a forma canônica → determinar o fluxo de diálogo → executar”.
💡 Ponto-chave: reivindicações amplas são poderosas quando registradas, mas, por outro lado, apresentam risco de rejeição com base na técnica anterior. Este caso está pendente (A1), e o escopo final em que esta concisa reivindicação 1 será registrada dependerá do resultado do exame futuro.Na prática, a estratégia padrão é combinar reivindicações independentes amplas (1, 11 e 19) com reivindicações dependentes que incluem limitações específicas, a fim de equilibrar risco e cobertura.
Além da reivindicação 1 (método), as reivindicações 11 e 19 também foram formuladas como reivindicações independentes.
Ao organizar as patentes analisadas nesta série como “componentes do agente de IA”, fica clara a posição deste caso.
| Camada | Patente representativa (esta série) | O que se protege |
|---|---|---|
| Aprendizado | OpenAI VPT (US 11.887.367) | Método de aprendizado de operações |
| Corpo do sistema e execução | Anthropic (US 12.430.150, etc.) | Runtime e agente |
| Cooperação | OpenAI/Salesforce | Multiagente |
| Construção | OpenAI/Anthropic | Criação de agentes |
| Segurança (este artigo) | NVIDIA (US 2024/0354319) | Barreiras de proteção e controle de saída |
💡 Ponto-chave: Não apenas a “inteligência”, mas também a “segurança e o controle” são objetos independentes de patente. À medida que a governança da IA se torna uma exigência social cada vez mais forte, acredita-se que as patentes relacionadas à camada de segurança ganharão ainda mais importância no futuro. Se sua empresa possui tecnologias próprias de controle e segurança, vale a pena considerar a possibilidade de patentear essas tecnologias.
O que é interessante é o fato de a NVIDIA ter disponibilizado a tecnologia “NeMo Guardrails”, correspondente a esta patente, como código aberto. Você pode se perguntar: “Por que registrar uma patente se é código aberto?”, mas isso não é uma contradição.
Como a reivindicação 1 é concisa e ampla, pode ser questionado se ela será avaliada como uma “ideia abstrata (organização de informações e aplicação de regras)” nos testes de Alice/Mayo. O ponto-chave é até que ponto os processos específicos — forma canônica, fluxo de diálogo e controle em tempo de execução — serão reconhecidos como implementação técnica; atualmente, o processo está em análise.
Como estão descritos processos concretos de tratamento de dados — como a conversão da entrada para a forma canônica e a determinação e execução do fluxo de diálogo —, trata-se de uma configuração que facilita a alegação de elegibilidade para patente como invenção relacionada a software. A originalidade será determinada pelo efeito de “eliminar a necessidade de reaprendizagem” e pelo mecanismo específico do “guard-rail”.
É uma configuração que pode ser facilmente posicionada como uma solução técnica para o desafio técnico de “controle seguro da saída de LLM” e que, mesmo sob a abordagem COMVIK, tende a ser avaliada como característica técnica.
① Patenteie também a “segurança e o controle”. Não apenas a inteligência da IA (modelo), mas também as tecnologias que controlam e garantem a segurança de sua saída são importantes objetos de patente.
② Destacar a “ausência de necessidade de reaprendizado” como efeito técnico. Os efeitos de redução de custos e tempo constituem um forte fundamento para a novidade.
③ Concretize linguagens e formatos de descrição próprios. Mecanismos como o Colang, que “descrevem comportamentos”, servem como ponto de partida para sair da teoria abstrata.
④ Código aberto e patentes podem coexistir. Considere a opção de combinar estratégias de difusão (OSS) com estratégias de defesa (patentes).
⑤ Combinar reivindicações independentes amplas com reivindicações dependentes específicas. Como reivindicações amplas em processo envolvem riscos, é importante criar camadas de defesa.
Que tal proteger por meio de direitos de propriedade intelectual até mesmo a IA da sua empresa, incluindo tecnologias de segurança e controle?
Nossos advogados especializados em TI, software e IA oferecem suporte completo, desde a elaboração de reivindicações que incluam tecnologias de segurança e governança de IA, passando por um diagnóstico gratuito da viabilidade de proteção, até a compatibilidade com estratégias de código aberto e estratégias de depósito de pedidos no Japão, nos EUA e na Europa.
Agende uma consulta inicial gratuita Serviços de Propriedade Intelectual em TI e IAP. Que tipo de patente é a US 2024/0354319 A1?
R. Trata-se de um pedido de patente nos Estados Unidos da NVIDIA que abrange a tecnologia “Guardrails”, destinada a controlar e tornar mais segura a saída de modelos de linguagem em grande escala (LLM) em “tempo de execução (runtime)”. Ela converte a entrada do usuário em uma “forma canônica (expressão semântica restrita)” e, com base nisso, determina e executa um “fluxo de diálogo” para controlar a saída.Sua característica principal é a capacidade de controlar o comportamento sem a necessidade de retreinamento do LLM. A patente foi publicada em 24 de outubro de 2024 e está em processo de análise. É compatível com o projeto de código aberto da NVIDIA, o “NeMo Guardrails”.
P. O que é “Guardrails”?
R. É um mecanismo que “restringe e orienta” a saída da IA para que ela não seja inadequada, prejudicial ou fora do contexto. Assim como os guard-rails nas estradas evitam que os carros saiam da pista, ele mantém a saída do LLM dentro dos limites desejáveis. Esta patente realiza isso não por meio do retreinamento do modelo, mas por meio do controle em tempo de execução por meio do fluxo de interação.
P. O que significa “controle sem retreinamento”?
R. Os métodos convencionais para alterar o comportamento da IA (como o ajuste fino ou o RLHF) exigem o retreinamento do próprio modelo, o que envolve custos e tempo. A técnica desta patente mantém o modelo inalterado e, em vez disso, coloca uma camada de controle (guardrails) “ao redor” dele para controlar a saída em tempo de execução. A vantagem é que a segurança pode ser garantida de forma rápida e flexível, apenas com alterações nas configurações.
P. O que é “forma canônica (canonical form)”?
R. É a conversão da entrada do usuário em uma “expressão semântica restrita” padronizada (por exemplo: resumo, definição de intenção). Ao normalizar entradas com diversas formulações para um formato comum, fica mais fácil compará-las com um fluxo de diálogo pré-definido.
P. As tecnologias de segurança e controle de IA também podem ser patenteadas?
R. Sim. Assim como nesta patente, se forem descritos como mecanismos específicos — tais como forma canônica, fluxo de diálogo e controle em tempo de execução —, é possível considerar o registro de direitos tanto no Japão quanto nos Estados Unidos e na Europa. A segurança e a governança da IA são áreas que se tornarão cada vez mais importantes no futuro e representam um campo promissor para o registro de direitos.
Observações sobre este artigo: Este artigo é uma explicação geral sobre tecnologia e regulamentação com base em boletins de pedidos de patente divulgados. O US 2024/0354319 A1 é um pedido divulgado em processo de exame e ainda não foi registrado. Como as reivindicações podem ser alteradas por meio de emendas, o escopo final dos direitos ainda não está definido.As reivindicações, o resumo e o conteúdo da descrição citados baseiam-se em dados de publicações (Google Patents/FreePatentsOnline, etc.), mas, para fins juridicamente importantes (análise de liberdade para utilizar [FTO], análise de violação, pedidos de patente, etc.), verifique sempre o original do USPTO e as informações mais recentes sobre o andamento do processo e recorra à análise individual de um especialista.A tradução para o japonês é uma tradução de referência para facilitar a compreensão; o texto oficial é o original em inglês.