[Explicação detalhada do advogado de patentes] Analisando a patente “AI Guardrail” da NVIDIA (US 2024/0354319 A1) | Controlando o LLM em tempo de execução, sem necessidade…

Nesta era em que os agentes de IA agem de forma autônoma, uma das maiores preocupações é o “descontrolado”. Desviar-se do assunto, gerar conteúdo inadequado, produzir alucinações (erros que parecem verossímeis) — como prevenir esses riscos?A resposta da NVIDIA a esse desafio é o pedido de patente US 2024/0354319 A1, “Runtime alignment of language models in conversational AI systems” (Alinhamento em tempo de execução de modelos de linguagem em sistemas de IA conversacional), que será analisado em profundidade neste artigo.

Nesta série, já analisamos até agora as patentes que protegem a “infraestrutura de execução”, o “corpo”, o “aprendizado”, a “cooperação” e a “construção” do agente.Este artigo aborda uma camada nova, diferente das anteriores, chamada “guarda-corpos de segurança”. Além disso, trata-se de um caso interessante, pois se refere à patente correspondente ao “NeMo Guardrails”, que a NVIDIA disponibiliza como código aberto. Um advogado especializado em propriedade intelectual de IA fará a explicação, citando as reivindicações reais.

Resumo em 30 segundos | Patente que protege as “barreiras de segurança” da IA

Informações básicas do pedido de patente

Contexto | Como evitar o “descontrolamento” de agentes de IA

Os LLMs são poderosos, mas suas saídas não podem ser totalmente controladas. Desviar-se do assunto, fazer comentários inadequados, afirmar conteúdos que não correspondem à realidade (alucinações) — esses riscos constituem um grande obstáculo à integração da IA em serviços e operações reais.

Especialmente no caso de agentes de IA que agem de forma autônoma, o impacto de um desvio de controle é ainda maior. “Como manter a IA dentro de limites seguros” torna-se tão importante quanto “como tornar a IA mais inteligente”. Esta patente apresenta uma tecnologia que resolve esse último desafio.

Ponto-chave ① | A ideia de “controlar na hora da execução, sem retreinamento”

Os métodos convencionais para otimizar o comportamento da IA consistiam no “reaprendizado do próprio modelo”, como o ajuste fino (fine-tuning) ou o RLHF. No entanto, isso envolve custos e tempo elevados, sendo inadequado para ajustes frequentes.

A abordagem desta patente é fundamentalmente diferente. A descrição técnica afirma claramente que “é possível controlar a saída durante a execução sem treinar ou retreinar o modelo de linguagem”. Manter o modelo como está e colocar uma camada de controle (guarda-corpos) ao seu “redor” — essa é a essência da ideia.

Ponto-chave 2 | Mecanismo: forma canônica → fluxo de diálogo → execução

Então, como se realiza o controle durante a execução? O processamento indicado na reivindicação 1 consiste nas três etapas a seguir.

O ponto-chave é converter primeiro a entrada em uma expressão semântica padronizada, chamada de “forma canônica”. Dessa forma, entradas diversas, como “Como está o tempo?” ou “Qual é o tempo hoje?”, são unificadas em um formato comum, permitindo a comparação com o fluxo de diálogo pré-definido (ou seja, o roteiro de comportamentos permitidos).

Ponto-chave ③ | Colang | Linguagem para descrever o comportamento da IA

A descrição técnica explica que, para definir fluxos de diálogo e a forma canônica, é utilizada uma “linguagem de modelagem formal (conversacional ou de linguagem natural)”. Isso corresponde ao “Colang” da NVIDIA.

O Colang é uma linguagem que permite descrever regras do tipo “se o usuário disser isso, a IA se comportará assim”, bem como fluxos de diálogo permitidos (fluxos e subfluxos) e sintaxe de programação estruturada. Sua característica principal é permitir que o “código de conduta” da IA seja escrito de forma explícita, como se fosse um código de programação.

Ponto-chave ④ | Estrutura em duas etapas: entrada (ingress) e saída (egress)

De acordo com a descrição da patente, o sistema de proteção funciona tanto na entrada (ingress) quanto na saída (egress).

Ao estabelecer “barreiras de proteção” tanto no “lado da entrada” quanto no “lado da saída”, garantimos a segurança em várias camadas. É possível lidar, em uma única estrutura, com a defesa contra entradas maliciosas, como a injeção de prompts (entrada), e com a prevenção de saídas prejudiciais ou incorretas (saída).

Leitura detalhada da reivindicação independente 1

Destaques da reivindicação 1

Esta reivindicação 1 se caracteriza por ser bastante concisa e abrangente, mesmo quando comparada às outras patentes analisadas nesta série. Ela está condensada em três etapas: “gerar a forma canônica → determinar o fluxo de diálogo → executar”.

Além da reivindicação 1 (método), as reivindicações 11 e 19 também foram formuladas como reivindicações independentes.

Patenteando a “camada de segurança” do agente

Ao organizar as patentes analisadas nesta série como “componentes do agente de IA”, fica clara a posição deste caso.

Estratégia | Conciliação entre código aberto (NeMo Guardrails) e patentes

O que é interessante é o fato de a NVIDIA ter disponibilizado a tecnologia “NeMo Guardrails”, correspondente a esta patente, como código aberto. Você pode se perguntar: “Por que registrar uma patente se é código aberto?”, mas isso não é uma contradição.

Como isso será avaliado nos exames do Japão, dos EUA e da Europa

Estados Unidos (USPTO)

Como a reivindicação 1 é concisa e ampla, pode ser questionado se ela será avaliada como uma “ideia abstrata (organização de informações e aplicação de regras)” nos testes de Alice/Mayo. O ponto-chave é até que ponto os processos específicos — forma canônica, fluxo de diálogo e controle em tempo de execução — serão reconhecidos como implementação técnica; atualmente, o processo está em análise.

Japão (JPO)

Como estão descritos processos concretos de tratamento de dados — como a conversão da entrada para a forma canônica e a determinação e execução do fluxo de diálogo —, trata-se de uma configuração que facilita a alegação de elegibilidade para patente como invenção relacionada a software. A originalidade será determinada pelo efeito de “eliminar a necessidade de reaprendizagem” e pelo mecanismo específico do “guard-rail”.

Europa (EPO)

É uma configuração que pode ser facilmente posicionada como uma solução técnica para o desafio técnico de “controle seguro da saída de LLM” e que, mesmo sob a abordagem COMVIK, tende a ser avaliada como característica técnica.

Lições para os pedidos da própria empresa

① Patenteie também a “segurança e o controle”. Não apenas a inteligência da IA (modelo), mas também as tecnologias que controlam e garantem a segurança de sua saída são importantes objetos de patente.

② Destacar a “ausência de necessidade de reaprendizado” como efeito técnico. Os efeitos de redução de custos e tempo constituem um forte fundamento para a novidade.

③ Concretize linguagens e formatos de descrição próprios. Mecanismos como o Colang, que “descrevem comportamentos”, servem como ponto de partida para sair da teoria abstrata.

④ Código aberto e patentes podem coexistir. Considere a opção de combinar estratégias de difusão (OSS) com estratégias de defesa (patentes).

⑤ Combinar reivindicações independentes amplas com reivindicações dependentes específicas. Como reivindicações amplas em processo envolvem riscos, é importante criar camadas de defesa.

Perguntas frequentes (FAQ)

Fonte

• US 2024/0354319 A1 (Google Patents): https://patents.google.com/patent/US20240354319A1/en
• Reivindicações e descrição (FreePatentsOnline): https://www.freepatentsonline.com/y2024/0354319.html