ChatGPT를 비롯한 생성형 AI의 보급으로 인해, AI가 스스로 목적을 이해하고 계획을 세우며 외부 도구를 조작해 자율적으로 작업을 수행하는 ‘AI 에이전트’ 개발 경쟁이 전 세계적으로 치열해지고 있습니다.이 최첨단 기술을 모방으로부터 보호하는 수단이 바로 ‘특허’이지만, “AI 에이전트가 정말로 특허 대상이 될 수 있을까?”, “타사는 어떤 특허를 취득하고 있을까?”라는 의문을 품는 개발자 및 경영자분들이 적지 않습니다.
본 기사에서는 AI 분야에 정통한 변리사가 일본(JPO), 미국(USPTO), 유럽(EPO)의 실제 특허 사례와 공식 심사 사례를 비교하며 해설합니다.구글의 트랜스포머(Transformer) 특허, 오픈AI(OpenAI)의 도구 연동 특허, 딥마인드(DeepMind)의 외부 메모리 특허 등 검증된 실제 사례를 통해 AI 에이전트 기술을 특허로 등록하기 위한 구체적인 요점을 소개합니다.
목차
우선 대전제로서, AI의 추론 알고리즘(수식) 자체는 어느 나라에서든 원칙적으로 특허 대상이 되지 않습니다. 그러나 그 정보 처리가 컴퓨터 등의 하드웨어 자원을 이용하여 구체적으로 실현되는 기술로 구성되어 있다면, ‘소프트웨어 관련 발명’으로서 특허 대상이 됩니다.
AI 에이전트 기술의 경우, 특허 출원의 주된 쟁점은 모델 자체의 개선보다는 ‘LLM을 어떻게 활용하여 자율적인 시스템을 구축했는가’라는 시스템 구성 및 처리 흐름입니다. 이하, 3개 법역(일본·미국·유럽)에서 어떤 사례가 특허로 등록되었는지 구체적으로 살펴보겠습니다.
각국의 사례를 이해하기 위해 공통되는 3가지 관점을 파악해 둡시다.
| 관점 | 일본(JPO) | 미국(USPTO) | 유럽(EPO) |
|---|---|---|---|
| 기본적인 사고방식 | 하드웨어 자원을 활용한 구체적인 정보 처리 | Alice/Mayo 테스트 (추상적인 아이디어인지 여부) | 기술적 특성 + 기술적 기여(COMVIK) |
| 핵심 질문 | 정보 처리가 구체적으로 실현되었는가 | 기술적 과제에 대한 기술적 해결(실용적 적용)인가 | 기술적 목적에 기여하는 기술적 특징인가 |
| 약한 구성 | 단순한 데이터 제시·인간 업무의 AI화 | 추상적인 아이디어를 범용 PC에서 실행 | 수학적 기법·비즈니스 기법 ‘그 자체’ |
일본에서는 AI 발명이 ‘컴퓨터 소프트웨어 관련 발명’의 일종으로 심사됩니다. 판단 기준의 핵심은 심사 핸드북 부속서 B가 제시하는 ‘정보 처리가 소프트웨어를 통해 하드웨어 자원을 이용하여 구체적으로 실현되고 있는지’ 여부입니다.
특허청은 2019년 1월에 AI 관련 공식 사례집을 공표했으며, 2024년 3월에는 생성형 AI·LLM 시대에 대응한 10가지 사례를 추가했습니다. 대표적인 사례의 결론은 다음과 같습니다(모두 특허청이 제시한 가상 사례).
JPO 사례: 등록 가능
새로운 입력 변수를 통해 ‘예측 정확도가 현저히 향상’된 사례(수력 발전량 추정)
기존 회귀 모델을 신경망으로 대체한 것만으로 구성된 경우는 진보성이 부정된 반면, 입력 변수에 ‘하천 수온’을 추가하여 눈 녹은 물의 유입을 반영함으로써 예측 정확도를 현저히 높인 구성은 진보성이 있다고 판단되었습니다. 기술적으로 의미 있는 입력 특징 및 학습 데이터에 대한 고안이 핵심입니다.
JPO 사례: 거절 NG
단순히 인간의 업무를 AI로 대체한 사례(암 단계 산출)
의사가 수작업으로 수행하던 혈액 마커를 통한 암 발병 확률 산출을, 학습이 완료된 신경망으로 대체한 것에 그친 구성은 ‘단순한 인간 업무의 AI화’로 간주되어 진보성이 부정되었습니다.
JPO 사례: 2024년·LLM
생성형 AI(LLM)를 활용한 구성의 진보성
LLM에 질문을 입력하여 답변을 자동 생성하는 구성(고객 응대 자동 응답 등)은 진보성이 부정된 반면, 관련 문서에서 여러 키워드를 추출하여 프롬프트를 생성하고, 더 적절한 문장을 생성하는 구체적인 처리는 현저한 효과가 있다고 인정되어 등록이 승인되었습니다.
특허청의 가상 사례뿐만 아니라, 실제로 등록된 특허도 살펴보겠습니다.
실제 특허｜일본
JP 7282070(미쓰비시 전기)｜신경망의 ‘압축 데이터’
양자화를 통해 신경망의 구성 정보를 압축하는 데이터에 관한 특허(2023년 등록). AI 분야의 ‘데이터 구조’ 권리화 사례입니다.
실제 특허｜일본
JP 7177608(코마츠)｜작업 기계의 학습 완료된 위치 추정 모델
카메라 이미지를 통해 유압 굴착기의 작업기 위치를 추정하는 학습 완료 모델을 활용한 시스템 특허(2022년 등록). 시스템 및 방법뿐만 아니라, 학습 완료 모델의 제조 방법 및 학습용 데이터까지 권리화한 좋은 사례로, 자율적인 기계 제어(AI 에이전트 인접 영역)에 참고가 됩니다.
미국에서는 특허 적격성(35 U.S.C. §101)을 Alice/Mayo의 2단계 테스트로 판단합니다. ‘추상적인 아이디어에 해당되는지’, ‘해당하는 경우, 이를 뛰어넘는 발명적 개념(기술적 과제에 대한 구체적 응용)이 있는지’가 검토됩니다.
USPTO는 2024년 7월 17일 AI에 특화된 심사 지침을 공표하고, 3가지 구체적인 사례(사례 47~49)를 제시했습니다.
| USPTO 사례 | 적격하지 않은 구성 | 적격한 구성(등록 가능) |
|---|---|---|
| 사례 47: 이상 탐지 | 신경망 학습 방법(수식 적용만) | 학습된 신경망으로 부정 패킷을 실시간으로 차단하는 구체적인 응용 |
| 사례 48: 음성 분리 | 매개변수 벡터를 수식으로 계산하기만 하면 됨 | 클러스터링 및 마스크 적용을 통해 화자 음성을 분리하는 구체적인 처리 |
| 사례 49: AI 의료 | 유전자 데이터로부터 위험 점수를 산출하기만 하면 됨 | 고위험 환자군에 대한 특정 치료(안약 투여)라는 구체적인 응용 |
교훈은 명확합니다. 미국에서 AI 에이전트 발명을 권리화하는 열쇠는, ‘기술적 과제에 대한 기술적 해결책(technological solution to a technological problem)’을 AI가 ‘어떻게 작동하며’ ‘무엇을 개선하는가’와 함께 구체적으로 제시하는 것입니다.
실제 특허｜미국
US 10,452,978(Google)｜Transformer 특허
논문 ‘Attention Is All You Need’에 해당하는, 자기 주의 메커니즘(self-attention)에 기반한 신경망 특허(2019년 등록). 현대의 모든 LLM·AI 에이전트의 기반이 되는 아키텍처입니다.
실제 특허｜미국
US 11,922,144 (OpenAI)｜외부 API 연동(도구 활용)
LLM이 API의 스키마(매니페스트)를 읽어, 재학습 없이 외부 도구(쇼핑·데이터베이스·이메일 등)의 함수 호출을 생성하는 특허(2024년 등록). ChatGPT의 플러그인/함수 호출(function calling)에 해당하며, 그야말로 ‘AI 에이전트’의 핵심 특허입니다.
유럽(EPO)에서는 컴퓨터 프로그램이나 수학적 기법은 ‘그 자체(as such)’로는 특허 대상에서 제외됩니다(유럽특허조약 제52조). 다만, 하드웨어(컴퓨터·프로세서 등)를 언급하면 제외를 쉽게 회피할 수 있으며, 진정한 승부는 진보성 단계(COMVIK 접근법)에서 결정됩니다.
COMVIK 접근법에서는 기술적 특성에 기여하는 특징만이 진보성 판단에 반영되며, 순수한 수학·비즈니스 목적의 특징은 고려되지 않습니다. 즉, 수학적으로 신규하더라도 기술적 목적이 없다면 진보성에 ‘제로’ 기여로 간주됩니다.
EPO 사례: 거절 불가
T 0702/20(미쓰비시 전기)｜희소 결합 신경망
오류 정정 부호를 사용하여 층 간의 연결을 희소하게 만드는 신경망 구조에 대해, 심판부는 ‘신규하고 비자명하다’고 인정하면서도, 이는 수학적 함수의 클래스를 정의하는 것에 불과하다(제외 대상)는 이유로 거절했습니다.‘과학습 방지’와 같은 목적만으로는 불충분하며, 핵심 AI의 개량이 유럽에서 권리화하기 어렵다는 점을 보여주는 중요한 사례입니다.
EPO 사례: 중요 판정
G 1/19(확대심판부·2021년)｜보행자 군집 시뮬레이션
컴퓨터를 이용한 보행자 군중 이동 시뮬레이션에 대해, 확대심판부는 “컴퓨터 구현 시뮬레이션도 다른 소프트웨어 발명과 동일한 기준으로 판단된다”, “수치 출력도 기술적 효과가 될 수 있다”고 판단했습니다. 이는 시뮬레이션 및 계획 수립(플래닝)형 AI 발명에 시사점을 제공합니다.
실제 특허｜유럽
EP 3398117(DeepMind)｜외부 메모리로 확장된 신경망
신경망에 외부 메모리(저장 영역)를 결합한 아키텍처에 대한 유럽 특허(2023년 등록). 기억을 유지하여 다음 행동에 활용하는 AI 에이전트의 ‘메모리’ 기능과 직결되는 등록 사례입니다.
| 비교 항목 | 일본(JPO) | 미국(USPTO) | 유럽(EPO) |
|---|---|---|---|
| 판단 기준 | 하드웨어 자원을 통한 구체적인 구현 | Alice/Mayo 2단계 | 제52조 + COMVIK(2단계) |
| 코어 AI(모델 개선) | 독창성 + 뚜렷한 효과가 있으면 가능 | 기술적 개선을 입증하면 가능 | 엄격함 (T0702/20에서 거절) |
| 권리화하기 쉬운 유형 | 구체적인 처리 흐름·새로운 입력 특징 | 기술적 과제에 대한 구체적인 응용 | 기술적 목적·기술적 구현과 연계 |
| 공식적 단서 | AI 사례집 (2019·2024) | AI 가이드라인 사례 47~49 (2024) | 가이드라인 G-II 3.3.1·G1/19 |
| 일반적인 경향 | 비교적 완만 | Alice 사건 이후 엄격화 → 2024년에 예측성 향상 | 기술적 기여를 가장 엄격하게 요구 |
공통된 본질: 3대 기준에 공통적으로 적용되는 점은 ‘AI로 무엇을 실현할 것인가(비즈니스 아이디어)’가 아니라, ‘그것을 기술적으로 어떻게 실현할 것인가’를 구체적으로 기재하는 것입니다. 이 한 가지가 AI 에이전트 특허의 성패를 가릅니다.
일본·미국·유럽의 사례에서 도출된, AI 에이전트 특허를 성공으로 이끄는 실무상의 핵심 사항을 정리합니다.
① 공개 전에 출원하기: 논문·OSS·보도자료를 통한 공개는 신규성을 상실시킵니다. 어떠한 정보 공개보다 앞서 출원을 완료해야 합니다.
② ‘처리 흐름’으로 작성하기: 프롬프트 문구나 비즈니스 아이디어가 아니라, 시스템이 어떤 조건에서 어떻게 동적으로 작동하는지에 대한 정보 처리 프로세스로 기재합니다.
③ 기술적 과제와 효과를 명시한다: ‘환각 현상을 어떻게 방지할 것인가’ 등과 같이, 기술적 과제와 이를 해결하는 구체적인 수단·현저한 효과를 함께 제시합니다.
④ 특정 기술에 지나치게 의존하지 않기: 특정 외부 API(OpenAI 등)에 전적으로 의존하는 청구항은 향후 모델 변경 시 권리가 적용되지 않게 됩니다. 자사의 핵심 가치를 보편적인 개념으로 추출합시다.
⑤ 각국의 심사 기준에 맞춥니다: 일본·미국·유럽에서 ‘효과적인’ 청구항 작성 방식은 다릅니다. 글로벌 출원 시에는 각 법역의 실무에 정통한 전략이 필수적입니다.
AI 에이전트 기술의 특허 출원, 우선 상담해 주십시오.
IT·소프트웨어 분야에 정통한 변리사가 기술 청취부터 선행기술 조사, 각국에서의 권리 확보 전략까지 종합적으로 지원해 드립니다. 첫 상담은 무료로 진행됩니다.
첫 상담 예약 IT·AI 지식재산권 서비스Q. AI 에이전트는 특허가 될 수 있나요?
A. 가능합니다. AI 에이전트의 추론 알고리즘 자체는 수학적 기법이지만, 컴퓨터 등의 하드웨어 자원을 이용하여 정보 처리를 구체적으로 실현하는 시스템·방법으로 기재하면 일본·미국·유럽 어디에서나 특허 대상이 될 수 있습니다.실제로 구글의 트랜스포머 특허(US10,452,978)나 OpenAI의 도구 연동 특허(US11,922,144) 등, AI 에이전트의 기반 기술이 다수 등록되어 있습니다.
Q. 프롬프트를 잘 구성하는 것만으로도 특허를 받을 수 있나요?
A. 현실적으로 취득하기 어렵습니다. 프롬프트 문구 자체는 ‘인간의 결정(정보 제시)’으로 간주되기 쉬워, 발명에 해당하지 않을 위험이 있습니다.일본 특허청의 2024년 사례에서도 단순히 LLM에 질문을 입력하여 답변을 생성하는 구성은 진보성이 부정되었습니다. 반면, 문맥에 따라 프롬프트를 동적으로 생성·합성하는 정보 처리 프로세스로 기재하면 특허권 획득 가능성이 높아집니다.
Q. 일본, 미국, 유럽 중에서 특허를 가장 쉽게 취득할 수 있는 곳은 어디인가요?
A. 일률적으로 말할 수는 없지만, 소프트웨어 발명의 등록 요건은 일반적으로 ‘일본이 비교적 관대하고, 유럽(EPO)이 기술적 기여를 가장 엄격하게 요구한다’고 평가되는 경우가 많습니다.미국은 Alice 판결 이후 기준이 엄격해졌지만, 2024년 7월의 AI 심사 지침(사례 47~49)을 통해 실무상의 예측 가능성이 높아졌습니다. 어느 나라에서든 ‘기술적 과제를 기술적 수단으로 해결하고 있다’는 점을 명시하는 것이 핵심입니다.
Q. AI 에이전트 특허의 유명한 사례가 있나요?
A. 대표적인 예로, 현대 LLM의 기반이 되는 ‘Transformer’에 대한 구글 특허(US10,452,978),ChatGPT의 플러그인/함수 호출에 해당하는 OpenAI의 외부 API 연동 특허(US11,922,144), DeepMind의 외부 메모리 확장 신경망 특허(유럽 EP3398117) 등이 있습니다.일본에서도 미쓰비시 전기의 신경망 압축 특허(JP7282070)나 코마츠의 작업 기계용 학습 완료 모델 특허(JP7177608)가 등록되어 있습니다.
Q. 기술을 논문이나 GitHub에 공개한 후에도 특허를 출원할 수 있습니까?
A. 원칙적으로 공개 후에는 신규성을 상실하여 특허를 취득할 수 없습니다. 일본에는 일정한 요건 하에서 구제되는 ‘신규성 상실의 예외’(제30조) 제도가 있지만, 국가에 따라 요건이 다르기 때문에 만능은 아닙니다. AI 업계는 공개 속도가 빠르기 때문에, 논문 발표·OSS 공개·보도자료 배포보다 앞서 출원을 완료하는 것이 매우 중요합니다.
Q. AI 에이전트 발명에 대해서는 변리사와 상담해야 하나요?
A. 적극 권장합니다. AI 에이전트 특허는 블랙박스화되기 쉬운 시스템 속에서 ‘권리화할 수 있는 기술’을 추출하고, 각국의 심사 기준에 맞춰 청구항(권리 범위)을 설계하는 고도의 전문성이 필요합니다. IT·소프트웨어 분야에 정통한 변리사와 상담함으로써, 경쟁사가 회피하기 어려운 강력한 특허망을 구축할 수 있습니다.