이 특허가 보여주는 OpenAI의 접근 방식은 한마디로 ‘사람이 조작하는 동영상을 대량으로 보여주어 익히게 한다’는 것입니다. 게다가 조작 라벨이 없는 동영상에 독자적인 기법으로 자동으로 라벨을 붙이는 교묘한 구조를 사용합니다. Anthropic의 Computer Use 특허와는 완전히 다른 길로 같은 목표를 지향하는, 대조적인 사례입니다.AI 지적재산권에 정통한 변리사가 실제 청구항을 인용하며 해설합니다.
💡 핵심: 본 기사는 AI 에이전트 특허 시리즈 중 하나입니다. Anthropic의 대조적인 접근 방식은 데이터 플로우 특허와 Computer Use 핵심 특허에서 해설하고 있습니다.
목차
| 항목 | 내용 |
|---|---|
| 특허 번호 | US 11,887,367 B1 |
| 발명의 명칭 | 기계 학습을 이용하여 모델을 훈련 및 활용하여 영상 및 입력 데이터 세트를 기반으로 자동 인터페이스 동작을 수행하는 방법 |
| 등록일 | 2024년 1월 30일 |
| 출원일／우선일 | 2023년 4월 19일 |
| 출원인 | OpenAI OpCo, LLC |
| 발명자 | Bowen Baker, Jeffrey Clune 외 (총 9명) |
| 청구항 수 | 20건 (독립 청구항 3건: 청구항 1·13·20) |
| 통칭 | VPT(Video PreTraining) |
| 상태 | 등록 특허(granted) |
AI에게 화면 조작을 가르치는 가장 직접적인 방법은 ‘이 화면에서는 이 키를 누른다’는 정답 데이터(라벨이 붙은 데이터)를 대량으로 준비하여 학습시키는 것입니다. 그러나 수작업으로 ‘언제, 어떤 키, 어떤 클릭을 했는지’를 동영상에 주석으로 달아주는 작업에는 막대한 비용이 듭니다.
반면, 인터넷상에는 사람이 소프트웨어나 게임을 조작하는 동영상이 무수히 존재합니다. 문제는 이 동영상들에 조작 라벨이 붙어 있지 않다는 점입니다. 이 ‘대량으로 존재하지만 라벨이 없는 동영상’을 어떻게 활용할 것인가가 본 특허가 해결하고자 하는 기술적 과제입니다.
본 특허의 해결책의 핵심은 역동역학 모델(Inverse Dynamics Model, IDM)입니다.
처리 흐름은 다음과 같습니다.
💡 요점: 핵심은 ‘소량의 정답 데이터’로 만든 IDM을 ‘라벨링 기계’로 활용하여, 방대한 양의 라벨이 없는 동영상을 단번에 학습 데이터로 전환하는 것입니다. 수작업 주석 작업의 비용을 획기적으로 절감하고, 컴퓨터 기반 에이전트를 대규모로 학습시킬 수 있는 길을 열었습니다.
클레임 1에는 IDM의 예측이 “과거 정보와 미래 정보의 비인과적(non-causal) 조합에 기반한다”고 명시되어 있습니다. 이것이 기술적인 하이라이트입니다.
실제로 AI가 실시간으로 조작하는 ‘정책 모델’은 과거만 볼 수 있습니다(미래는 아직 일어나지 않았으므로 = 인과적). 하지만 IDM은 라벨링을 위한 후처리 과정이므로, 특정 시점의 전후, 즉 미래의 프레임도 참조할 수 있습니다.
💡 요점: ‘미래도 볼 수 있다’는 조건 덕분에, IDM은 “그 순간에 어떤 조작이 이루어졌는지”를 훨씬 더 정확하게 예측할 수 있습니다.예를 들어 ‘커서가 다음 프레임에서 오른쪽으로 움직였다’는 미래 정보를 바탕으로 ‘지금 마우스를 오른쪽으로 움직였다’고 높은 정확도로 추정할 수 있습니다. 이 ‘비인과성’을 라벨링에 활용하는 것이 본 발명의 지적 핵심입니다.
명세서에 따르면, 모델이 생성하는 조작(automatic interface actions)에는 키 입력, 버튼 누르기, 터치스크린 입력, 조이스틱 조작, 마우스 클릭, 스크롤, 마우스 이동 등이 포함됩니다. 적용 분야로는 비디오 게임, 각종 처리 앱, 웹 브라우저, 스프레드시트, 파일 탐색기 등이 꼽히고 있습니다.
즉, 인간이 GUI에서 수행하는 모든 조작을 AI가 인간의 개입 없이(without human intervention) 실행할 수 있도록 하는 것이 목표입니다. 이는 바로 ‘컴퓨터 사용(computer use)’ 에이전트의 기초 기술입니다.
US 11,887,367 B1｜청구항 1(원문/영어)
자동화된 동작을 수행하도록 머신 러닝 모델을 훈련하는 방법으로서, 다음을 포함한다: 라벨이 지정되지 않은 디지털 비디오 데이터를 수신하는 단계; 라벨이 지정되지 않은 디지털 비디오 데이터에 대한 의사 라벨을 생성하는 단계, 여기서 생성 단계는 다음을 포함한다: 라벨이 지정된 디지털 비디오 데이터를 수신하는 단계; 라벨이 지정된 디지털 비디오 데이터를 사용하여 역동역학 모델(IDM)을 포함하는 제1 머신 러닝 모델을 훈련하는 단계; 그리고 라벨이 지정되지 않은 디지털 비디오 데이터에 대한 적어도 하나의 의사 라벨을 생성하는 단계를 포함하며, 여기서: 상기 적어도 하나의 의사 라벨은 IDM에 의해 생성된, 라벨이 지정되지 않은 디지털 비디오 데이터의 적어도 하나의 타임스텝을 모방하는 하나 이상의 동작에 대한 예측을 기반으로 하며, 그리고 하나 이상의 동작에 대한 예측은 라벨이 없는 디지털 비디오 데이터 내의 과거 정보와 미래 정보의 비인과적 조합을 기반으로 생성되며, 이 과거 및 미래 정보는 라벨이 없는 디지털 비디오 데이터 내의 하나 이상의 기준 프레임에 상대적인 것이다; 라벨이 지정되지 않은 디지털 비디오 데이터에 상기 적어도 하나의 의사 라벨을 추가하여 의사 라벨이 지정된 디지털 비디오 데이터를 형성하는 단계; 및 의사 라벨이 지정된 디지털 비디오 데이터를 사용하여 제1 기계 학습 모델 또는 제2 기계 학습 모델을 추가로 훈련시켜, 라벨이 지정되지 않은 디지털 비디오에 대한 적어도 하나의 추가 의사 라벨을 생성하는 단계.
변리사에 의한 참고 번역(일본어)
| 한정 | 기술적 의미 | 효력이 있는 이유 |
|---|---|---|
| IDM(역동역학 모델) | 전후 화면을 통해 조작을 추론 | 구체적인 알고리즘 = 추상적인 아이디어에서 벗어나기 |
| 비인과적(과거 + 미래) 예측 | 미래 프레임도 참조하여 정확도 향상 | 본 발명의 독창성·진보성의 핵심 |
| 의사 라벨링 | 라벨이 없는 동영상을 훈련 데이터로 전환 | 기술적 과제(주석 비용)에 대한 해결 |
| 추가 훈련 | 가상 데이터를 활용한 조작 모델 학습 | 학습 방법으로서의 완결된 처리 흐름 |
본 특허는 총 20개의 청구항으로 구성되어 있으며, 독립 청구항을 방법(청구항 1)·시스템(청구항 13)·비일시적 컴퓨터 가독 매체(청구항 20)의 3가지 범주로 설정하는, 소프트웨어 특허의 정석적인 구성입니다.이를 통해 해당 방법을 실시하는 자, 장치를 제조·사용하는 자, 프로그램을 배포하는 자 등 서로 다른 침해 주체를 포괄합니다.
같은 ‘AI가 PC를 조작하게 한다’는 목표에 대해, OpenAI와 Anthropic은 서로 다른 기술적 접근 방식으로 특허를 취득했습니다. 본 시리즈에서 살펴본 양사의 특허를 비교해 보면, 전략의 차이가 뚜렷하게 드러납니다.
| OpenAI (본 기사) | Anthropic(이미 해설) | |
|---|---|---|
| 대표 특허 | US 11,887,367 B1 (VPT) | US 12,430,150 B1 외 |
| 보호 대상 | 동영상을 통해 조작법을 학습하는 훈련 방법 | 에이전트 실행 기반·DSL·데이터 흐름 |
| 접근 방식 | 대량의 라벨이 없는 동영상 + IDM을 통한 자동 라벨링 | 런타임 아키텍처와 전용 언어 |
| 기술의 기원 | 자체 연구(VPT) | Adept사 인수 |
| 비유 | ‘가르치는 방법(학습법)’을 파악한다 | 「운영 방식(실행 체계)」을 확보 |
💡 요점: OpenAI는 ‘어떻게 학습시킬 것인가(훈련 방법·데이터)’를, Anthropic은 ‘어떻게 작동시킬 것인가(실행 아키텍처)’를 중심으로 특허를 확보하고 있습니다.같은 제품 분야라도 각 기업이 자사의 강점이 있는 계층에서 특허를 취득하는 좋은 사례입니다. 자사 출원 시에도 ‘어떤 계층에서 경쟁할 것인가’를 정확히 파악하는 것이 중요합니다.
기계 학습의 훈련 방법은 추상적인 수학적 기법으로 간주될 수 있으므로, Alice/Mayo 테스트가 쟁점이 됩니다.본 건은 IDM·비인과적 예측·가상 라벨링이라는 구체적인 알고리즘과 키 입력·마우스 조작이라는 구체적인 동작을 수반하기 때문에, ‘기술적 과제에 대한 구체적인 해결’을 주장하기 쉬워 현재 등록되어 있습니다.
일본에서도 학습 방법 및 학습 완료된 모델은 특허 대상입니다. 다만 특허청의 AI 사례에 따르면 ‘단순히 인간의 작업을 AI로 대체한 것’은 진보성이 부정됩니다.본 건은 ‘비인과성을 라벨링에 활용한다’는 기술적 고안과 ‘주석 비용의 획기적인 절감’이라는 효과가 명확하여, 진보성을 주장하기 쉬운 구성입니다.
수학적 기법 그 자체는 제외되지만, 본 건은 ‘라벨이 없는 동영상을 효율적으로 훈련 데이터로 전환하는 것’이라는 기술적 과제에 대한 기술적 기여가 명확하여, COMVIK 접근법 하에서도 기술적 특징으로 평가받기 쉬운 구성입니다.
① 학습 방법 및 데이터 생성 방식을 권리화합니다. 모델 자체뿐만 아니라 ‘어떻게 훈련할 것인가’, ‘어떻게 훈련 데이터를 만들 것인가’도 강력한 특허가 됩니다.
② 독자적인 기술적 기법을 전면에 내세웁니다. ‘비인과적 예측의 활용’과 같이 과제 해결에 효과적인 구체적인 아이디어를 청구항의 중심에 두어야 합니다.
③ 추상적인 수학에서 벗어나십시오. 구체적인 알고리즘과 구체적인 출력(마우스·키 조작 등)을 기재하여 특허 적격성을 확보합니다.
④ 자사의 강점이 있는 영역에서 경쟁합니다. 경쟁사와 목표가 같더라도, 자사가 특화된 영역(학습법·실행 시스템·데이터 등)에서 권리를 확보하는 전략이 효과적입니다.
자사의 AI, 학습 방법 및 데이터까지 포함하여 권리를 확보해 보시지 않겠습니까?
IT·소프트웨어·AI 분야에 정통한 변리사가 학습 방법·데이터·모델을 포함한 청구항 설계, 권리화 가능성 무료 진단, 일본·미국·유럽에서의 출원 전략까지 종합적으로 지원해 드립니다.
첫 상담 무료 예약 IT·AI 지식재산권 서비스Q. US 11,887,367 B1은 어떤 특허입니까?
A. OpenAI의 미국 등록 특허로, AI가 ‘화면 자동 조작’을 학습하도록 하는 방법을 보호합니다.방대한 양의 라벨이 없는 동영상(사람이 소프트웨어를 조작하는 모습 등)을 소량의 라벨이 붙은 데이터로 훈련시킨 ‘역동역학 모델(IDM)’을 통해 자동으로 라벨링(의사 라벨링)하고, 그 대량의 데이터로 조작 모델을 훈련시키는 기술입니다.OpenAI가 ‘VPT(Video PreTraining)’라고 부르는 기법에 해당하며, 2024년 1월 30일에 등록되었습니다.
Q. ‘역동역학 모델(IDM)’이란 무엇입니까?
A. 특정 시점 전후의 화면(관측)을 바탕으로, 그 사이에 ‘어떤 조작(액션)이 이루어졌는지’를 추정하는 모델입니다. 일반적인 AI(정책 모델)가 ‘다음에 무엇을 해야 할지’를 예측하는 데 반해, IDM은 ‘무엇이 이루어졌는지’를 사후에 추정합니다.과거뿐만 아니라 미래의 프레임도 참조할 수 있기 때문에 조작 추정 정확도가 높으며, 저렴한 비용으로 대량의 라벨을 생성할 수 있습니다.
Q. 왜 ‘동영상에서 학습하는 것’이 중요한가요?
A. 인터넷상에는 사람이 소프트웨어나 게임을 조작하는 동영상이 무수히 존재합니다. 그러나 이러한 동영상에는 ‘언제, 어떤 키를 눌렀는지’에 대한 조작 라벨이 붙어 있지 않습니다.본 발명은 소량의 라벨이 붙은 데이터로 IDM을 훈련시키고, 방대한 양의 라벨이 없는 동영상에 자동으로 라벨을 붙임으로써, 컴퓨터 사용(computer use) 에이전트를 저렴하고 대규모로 학습시킬 수 있는 길을 열었습니다.
Q. Anthropic의 컴퓨터 사용 특허와는 무엇이 다른가요?
A. 접근 방식이 근본적으로 다릅니다. Anthropic(Adept에서 유래)은 ‘에이전트의 실행 기반·DSL·데이터 흐름’을 보호합니다.반면, OpenAI의 본 특허는 ‘동영상을 통해 조작을 학습시키는 훈련 방법’을 보호합니다. 같은 “AI가 PC를 조작하게 하는” 과제에 대해, 양사가 서로 다른 기술적 접근 방식으로 특허를 취득했다는 점이 흥미로운 부분입니다.
Q. 학습 방법(훈련 방법)도 특허가 될 수 있나요?
A. 그렇습니다. 본 특허와 같이 구체적인 알고리즘(IDM, 비인과적 예측, 의사 라벨링)과, 그것이 가져오는 기술적 효과(저비용 대규모 라벨링)를 명확히 기재하면 일본·미국·유럽 어디에서든 특허권을 취득할 수 있습니다.데이터 생성 방법 및 학습 방법은 AI의 경쟁력 원천이며, 중요한 특허 대상입니다.
본 기사의 주의사항: 본 기사는 공개된 특허 공보를 바탕으로 한 일반적인 기술·제도 해설입니다. US 11,887,367 B1은 등록된 특허이지만, 실제 권리 범위는 각 청구항의 문언·등가론·경과 정보에 따라 결정됩니다.인용된 청구항·요약·명세서 기재 내용은 공개 공보 데이터(FreePatentsOnline 등)를 기반으로 하나, 법적으로 중요한 용도(FTO·침해 분석·무효·출원 등)에서는 반드시 USPTO 정본과 최신 경과 정보를 확인한 후, 전문가의 개별 검토를 받아주시기 바랍니다.일본어 번역은 이해를 돕기 위한 참고용이며, 정식 문서는 영어 원문입니다.