Saltar al contenido
Español
お問い合わせ

[Explicación detallada de un agente de patentes] Análisis de la patente «AI Guardrail» de NVIDIA (US 2024/0354319 A1) | Control en tiempo de ejecución sin necesidad de…

Picture of 弁理士 杉浦健文

Gemini_Generated_Image_naxriznaxriznaxr

En una era en la que los agentes de IA actúan de forma autónoma, una de las mayores preocupaciones es que «se descontrolen». Desviarse del tema, generar contenidos inapropiados, producir alucinaciones (errores que parecen verosímiles)... ¿Cómo prevenir estos riesgos?La respuesta de NVIDIA a este reto es la solicitud de patente US 2024/0354319 A1, «Runtime alignment of language models in conversational AI systems» (Alineación en tiempo de ejecución de modelos de lenguaje en sistemas de IA conversacional), que analizaremos en profundidad en este artículo.

En esta serie hemos analizado hasta ahora las patentes que protegen la «base de ejecución», el «cuerpo», el «aprendizaje», la «cooperación» y la «construcción» de los agentes.Este artículo trata una capa nueva, distinta de las anteriores, denominada «barandillas de seguridad» (guardrails). Además, se trata de un caso interesante por ser una patente relacionada con «NeMo Guardrails», que NVIDIA publica en código abierto. Un abogado especializado en propiedad intelectual de IA lo explicará citando las reivindicaciones reales.

💡 Punto clave: este artículo forma parte de la serie sobre patentes de agentes de IA. Para ver comparativas entre empresas, consulta la sección dedicada a la estrategia de Anthropic o la sección de casos prácticos de Japón, EE. UU. y Europa.

Índice

  1. Resumen de 30 segundos | Patentes que protegen las «barreras de seguridad» de la IA
  2. Información básica sobre la solicitud de patente
  3. Antecedentes | ¿Cómo evitar que los agentes de IA «se descontrolen»?
  4. Punto clave n.º 1 | El concepto de «no reaprender, sino controlar en el momento de la ejecución»
  5. Punto clave n.º 2 | El mecanismo: forma canónica → flujo de diálogo → ejecución
  6. Punto clave n.º 3 | Colang | Lenguaje para describir el comportamiento de la IA
  7. Punto clave ④｜Estructura de dos niveles: entrada (ingress) y salida (egress)
  8. Lectura detallada de la reivindicación independiente 1
  9. Proteger con derechos de propiedad intelectual la «capa de seguridad» del agente
  10. Estrategia | Compatibilidad entre el código abierto (NeMo Guardrails) y las patentes
  11. ¿Cómo se evaluará en los exámenes de Japón, EE. UU. y Europa?
  12. Lecciones para nuestras propias solicitudes
  13. Preguntas frecuentes (FAQ)

Resumen de 30 segundos | Patente que protege las «barreras de seguridad» de la IA

● De qué trata la patente: tecnología de «barandillas de seguridad» que controla y garantiza la seguridad de la salida de los modelos de lenguaje grande (LLM) en tiempo de ejecución (runtime).
● Aspectos clave: ① Control en tiempo de ejecución sin necesidad de reentrenar el modelo; ② Conversión de las entradas del usuario a una forma canónica (expresión semántica restringida); ③ Control de la salida mediante la verificación (o generación nueva) del flujo de diálogo; ④ Descripción del comportamiento mediante el lenguaje formal Colang.
● Titular de la patente: NVIDIA Corporation.
● Estado: Publicación de la solicitud de patente en EE. UU. (A1) = en proceso de examen (publicada el 24 de octubre de 2024, 20 reivindicaciones en total).
● Tecnología correspondiente: el proyecto de código abierto «NeMo Guardrails».

Información básica de la solicitud de patente

Concepto Contenido
Número de publicación US 2024/0354319 A1
Denominación de la invención Alineación en tiempo de ejecución de modelos de lenguaje en sistemas y aplicaciones de IA conversacional
Fecha de publicación 24 de octubre de 2024
Fecha de presentación de la solicitud / Fecha de prioridad 20 de abril de 2023
Solicitante NVIDIA Corporation
Inventores Razvan Dinu, Jonathan M. Cohen, Christopher M. Parisien, Traian-Eugen Rebedea
Número de reivindicaciones 20 (3 independientes: reivindicaciones 1, 11 y 19)
Estado Solicitud publicada (en tramitación)
Tecnología relacionada NeMo Guardrails／Colang

Antecedentes | ¿Cómo evitar que los agentes de IA se «descontrolen»?

Los modelos de lenguaje grande (LLM) son potentes, pero sus resultados no se pueden controlar por completo. Desviarse del tema, realizar comentarios inapropiados o afirmar contenidos que no son ciertos (alucinaciones): estos riesgos suponen un gran obstáculo a la hora de integrar la IA en servicios y operaciones reales.

En particular, en el caso de los agentes de IA que actúan de forma autónoma, las consecuencias de un «descontrol» son aún mayores. «Mantener la IA dentro de unos límites seguros» es tan importante como «hacer que la IA sea más inteligente». Esta patente es una tecnología que resuelve este último reto.

Punto clave n.º 1 | El concepto de «controlar en tiempo de ejecución sin necesidad de reaprendizaje»

Los métodos convencionales para optimizar el comportamiento de la IA consistían en el «reaprendizaje del propio modelo», como el ajuste fino o el RLHF. Sin embargo, estos métodos son costosos y lentos, y no son adecuados para ajustes frecuentes.

El enfoque de esta patente es radicalmente diferente. La descripción técnica especifica que «se puede controlar la salida en tiempo de ejecución sin necesidad de entrenar ni reentrenar el modelo de lenguaje». Mantener el modelo tal cual y colocar una capa de control (una barrera de seguridad) «a su alrededor»: esta es la idea central.

💡 Punto clave: el diseño de «controlar desde el exterior sin modificar el modelo» tiene la ventaja de permitir que la IA sea más segura de forma rápida y flexible con solo cambiar la configuración. El hecho de que elimine la necesidad de un proceso tan pesado como el reentrenamiento constituye un efecto técnico clave que respalda la alegación de carácter innovador.

Aspecto clave n.º 2 | Mecanismo: forma canónica → flujo de diálogo → ejecución

Entonces, ¿cómo se lleva a cabo el control en el momento de la ejecución? El proceso descrito en la reivindicación 1 consta de los tres pasos siguientes.

[Flujo de procesamiento de «Guardrail» (reivindicación 1)] ① Generación de la forma canónica (canonical form) ・Conversión de la entrada del usuario en una «expresión semántica restringida» ・Normalización de diversas expresiones a una forma estándar común ▼ ② Determinación del flujo de diálogo (dialog flow) ・Determinación del flujo de diálogo que controla la salida basándose en la forma canónica ・«Comparación» con el flujo predeterminado; si no existe, «generación» de uno nuevo ▼ ③ Ejecución del flujo de diálogo ・Ejecución del flujo para generar la salida ・= Mantener la salida dentro de los límites de la «barandilla de seguridad»

La clave está en convertir primero la entrada en una «forma canónica», es decir, una expresión semántica estandarizada. De este modo, se pueden agrupar en un formato común entradas tan diversas como «¿Qué tiempo hace?» o «¿Qué tiempo hace hoy?», y compararlas con el flujo de diálogo predefinido (es decir, el guion de comportamientos permitidos).

Punto clave ③ | Colang | Lenguaje para describir el comportamiento de la IA

La descripción técnica explica que se utiliza un «lenguaje de modelado formal (conversacional o de lenguaje natural)» para definir los flujos de diálogo y la forma canónica. Esto se corresponde con «Colang» de NVIDIA.

Colang es un lenguaje que permite describir reglas del tipo «si el usuario dice esto, la IA se comporta así», así como flujos de diálogo permitidos (flujos y subflujos) y sintaxis de programación estructurada. Se caracteriza por permitir escribir de forma explícita, como si se tratara de código, el «código de conducta» de la IA.

Punto clave ④ | Estructura de dos niveles: entrada (ingress) y salida (egress)

Según la descripción de la patente, las barreras de seguridad funcionan tanto en la entrada (ingress) como en la salida (egress).

Etapas Función
Entrada (ingress) Control de las entradas del usuario. Rechaza las entradas inadecuadas o peligrosas en la entrada
Salida (egress) Verificación de la salida del modelo. Bloqueo de salidas indeseables en la salida

Al establecer medidas de protección tanto en el «lado de entrada» como en el «lado de salida», se garantiza la seguridad en múltiples niveles. Permite gestionar en un único marco la defensa contra entradas maliciosas, como la inyección de prompts (entrada), y la prevención de salidas perjudiciales o erróneas (salida).

Lectura detallada de la reivindicación independiente 1

US 2024/0354319 A1 | Reivindicación 1 (texto original / inglés)

Un método que comprende: generar, basándose al menos en una entrada del usuario, una forma canónica que comprende una representación semántica restringida de la entrada del usuario; determinar, basándose al menos en la forma canónica, un flujo de diálogo que controla la salida de un modelo de lenguaje; y realizar una o más operaciones para ejecutar el flujo de diálogo con el fin de generar una salida.

Traducción de referencia realizada por un agente de patentes (japonés)

Método que comprende:・un paso de
generar, basándose al menos en una entrada del usuario, una forma canónica que incluya una representación semántica restringida de dicha entrada;
・un paso de determinar
, basándose al menos en dicha forma canónica, un flujo de diálogo que controle la salida de un modelo lingüístico; y・un paso que consiste en realizar una o más operaciones para ejecutar dicho flujo de diálogo y generar una salida.

Aspectos destacados de la reivindicación 1

Esta reivindicación 1 se caracteriza por ser bastante concisa y amplia, incluso en comparación con otras patentes que hemos visto en esta serie. Se condensa en tres pasos: «generar la forma canónica → determinar el flujo de diálogo → ejecutar».

💡 Punto clave: las reivindicaciones amplias son muy potentes si se registran, pero conllevan un mayor riesgo de denegación por estado de la técnica. Este caso se encuentra en trámite (A1) y el alcance final con el que se registrará esta concisa reivindicación 1 dependerá del resultado del examen posterior.En la práctica, lo habitual es combinar reivindicaciones independientes amplias (1, 11 y 19) con reivindicaciones dependientes que incorporen limitaciones específicas, a fin de lograr un equilibrio entre el riesgo y la cobertura.

Además de la reivindicación independiente 1 (método), también se han formulado como reivindicaciones independientes las reivindicaciones 11 y 19.

Patentar la «capa de seguridad» del agente

Si ordenamos las patentes que hemos visto en esta serie como «componentes del agente de IA», queda clara la posición de este caso.

Capa Patente representativa (esta serie) Lo que se protege
Aprendizaje OpenAI VPT (US 11.887.367) Método de aprendizaje de operaciones
Cuerpo principal y ejecución Anthropic (US 12.430.150, entre otras) Entorno de ejecución y agente
Colaboración OpenAI/Salesforce Multiagente
Desarrollo OpenAI/Anthropic Creación de agentes
Seguridad (este artículo) NVIDIA (US 2024/0354319) Barreras de seguridad y control de salida

💡 Punto clave: No solo la «inteligencia», sino también la «seguridad y el control» son objeto de protección independiente. A medida que aumenta la demanda social de una gobernanza de la IA, se prevé que las patentes relacionadas con las capas de seguridad cobren aún más importancia en el futuro. Si su empresa cuenta con tecnologías propias de control y seguridad, merece la pena considerar la posibilidad de patentarlas.

Estrategia | Conciliación entre el código abierto (NeMo Guardrails) y las patentes

Lo interesante es que NVIDIA ha publicado como código abierto la tecnología correspondiente a esta patente, denominada «NeMo Guardrails». Quizás te preguntes: «¿Se puede solicitar una patente si es código abierto?», pero esto no supone ninguna contradicción.

Compatibilidad entre código abierto y patentes: se trata de una estrategia que consiste en difundir ampliamente la tecnología y fomentar el ecosistema (código abierto), al tiempo que se cuenta con el respaldo legal de las patentes (una medida defensiva) para la tecnología central. Se trata de una gestión sofisticada de la propiedad intelectual que permite conciliar la difusión con el control.En contraste con Anthropic, que ha publicado su investigación más destacada en forma de artículo (sin solicitar la patente), NVIDIA ha adoptado un enfoque que consiste en «divulgarla y, al mismo tiempo, protegerla mediante una patente».

¿Cómo se evaluará en los exámenes de Japón, EE. UU. y Europa?

Estados Unidos (USPTO)

Dado que la reivindicación 1 es concisa y amplia, podría plantearse la cuestión de si se evaluará como una «idea abstracta (organización de la información y aplicación de reglas)» en las pruebas de Alice y Mayo. La clave radica en hasta qué punto se reconocerán como implementación técnica los procesos concretos de «forma canónica», «flujo de diálogo» y «control en tiempo de ejecución»; actualmente, el examen está pendiente.

Japón (JPO)

Se describen procesos concretos de tratamiento de datos, como la conversión de la entrada a la forma canónica y la determinación y ejecución del flujo de diálogo, por lo que se trata de una estructura que facilita la reivindicación de la patentabilidad como invención relacionada con el software. En cuanto a la actividad inventiva, son fundamentales el efecto de «eliminar la necesidad de reaprendizaje» y el mecanismo concreto de las «barras de seguridad».

Europa (EPO)

Es fácil posicionarla como una solución técnica al reto técnico del «control seguro de la salida de los LLM», y se trata de una estructura que, incluso bajo el enfoque COMVIK, resulta fácil de evaluar como característica técnica.

La comparación de las prácticas de examen de las patentes de agentes de IA en Japón, EE. UU. y Europa se explica detalladamente en «Casos de patentes y prácticas de examen en Japón, EE. UU. y Europa».

Lecciones para las solicitudes propias

① Patentar también la «seguridad y el control». No solo la inteligencia de la IA (el modelo), sino también la tecnología que controla y garantiza la seguridad de sus resultados es un objeto importante de patente.

② Destacar la «ausencia de necesidad de reaprendizaje» como efecto técnico. El efecto de reducción de costes y tiempo constituye un sólido respaldo de la actividad inventiva.

③ Concretar el lenguaje y el formato de descripción propios. Los «mecanismos para describir el comportamiento», como Colang, sirven de punto de partida para alejarse de la teoría abstracta.

④ El código abierto y las patentes pueden coexistir. Hay que considerar la opción de combinar una estrategia de difusión (OSS) con una estrategia de defensa (patentes).

⑤ Combinar reivindicaciones independientes amplias con reivindicaciones dependientes concretas. Dado que las reivindicaciones amplias pendientes de resolución conllevan riesgos, es importante establecer una defensa en varios niveles.

¿Por qué no protege con derechos de propiedad intelectual su IA, así como sus tecnologías de seguridad y control?

Nuestros agentes de la propiedad industrial, expertos en los campos de las tecnologías de la información, el software y la IA, le ofrecen un apoyo integral que abarca desde el diseño de reivindicaciones que incluyan tecnologías de seguridad y gobernanza de la IA, pasando por un diagnóstico gratuito de la viabilidad de la protección, hasta la compatibilidad con estrategias de código abierto y las estrategias de presentación de solicitudes en Japón, EE. UU. y Europa.

Reserva tu primera consulta gratuita Servicios de propiedad intelectual en TI e IA

Preguntas frecuentes (FAQ)

P. ¿En qué consiste la patente US 2024/0354319 A1?

R. Se trata de una solicitud de patente estadounidense de NVIDIA que se refiere a la tecnología «Guardrails», destinada a controlar y garantizar la seguridad de la salida de los modelos de lenguaje a gran escala (LLM) en «tiempo de ejecución (runtime)». Convierte la entrada del usuario en una «forma canónica (expresión semántica restringida)» y, basándose en ella, determina y ejecuta el «flujo de interacción» para controlar la salida.Se caracteriza por permitir controlar el comportamiento sin necesidad de reentrenar el LLM; se publicó el 24 de octubre de 2024 y se encuentra en fase de examen. Es compatible con el proyecto de código abierto de NVIDIA «NeMo Guardrails».

P. ¿Qué es «Guardrails»?

R. Es un mecanismo que «restringe y orienta» la salida de la IA para evitar que resulte inapropiada, perjudicial o fuera de tema. Al igual que las barreras de seguridad de las carreteras evitan que los coches se salgan de la calzada, este mecanismo mantiene la salida del LLM dentro de los límites deseados. Esta patente lo consigue mediante un control en tiempo de ejecución a través del flujo de interacción, en lugar de mediante el reentrenamiento del modelo.

P. ¿Qué significa «control sin reentrenamiento»?

R. Los métodos tradicionales para modificar el comportamiento de la IA (como el ajuste fino o el RLHF) requieren volver a entrenar el propio modelo, lo que conlleva costes y tiempo. La técnica de esta patente consiste en mantener el modelo tal cual y colocar una capa de control (la «barandilla de seguridad») a su «alrededor» para controlar la salida en tiempo de ejecución. La ventaja es que permite garantizar la seguridad de forma rápida y flexible con solo cambiar la configuración.

P. ¿Qué es la «forma canónica (canonical form)»?

R. Es la conversión de la entrada del usuario en una «expresión semántica restringida» estandarizada (por ejemplo, un resumen o la definición de una intención). Al normalizar las entradas, que pueden tener diversas formulaciones, a un formato común, se facilita su comparación con flujos de diálogo predefinidos.

P. ¿Se pueden patentar también las tecnologías de seguridad y control de la IA?

R. Sí. Si se describen como mecanismos concretos —como la forma canónica, los flujos de diálogo o el control en tiempo de ejecución—, tal y como ocurre en esta patente, se puede considerar la obtención de derechos tanto en Japón como en Estados Unidos y Europa. La seguridad y la gobernanza de la IA son ámbitos que cobrarán cada vez más importancia en el futuro y constituyen un campo prometedor para la obtención de derechos.

Notas sobre este artículo: Este artículo es una explicación general de la tecnología y el sistema basada en el boletín de solicitudes de patente publicadas. La solicitud US 2024/0354319 A1 es una solicitud publicada que se encuentra en proceso de examen y aún no ha sido registrada. Dado que las reivindicaciones pueden modificarse mediante correcciones, el alcance definitivo de los derechos aún no está determinado.Las reivindicaciones, el resumen y el contenido de la descripción citados se basan en los datos de los boletines de publicación (Google Patents, FreePatentsOnline, etc.), pero para usos de importancia jurídica (análisis de libertad para actuar, análisis de infracción, solicitudes, etc.), es imprescindible que consulte el original de la USPTO y la información más reciente sobre el estado de la tramitación, y que recurra al análisis individual de un experto.La traducción al japonés es una traducción de referencia para facilitar la comprensión; el texto oficial es el original en inglés.

Fuente
, , , , , , , , , ,