핵심은 '어떤 LLM을 썼는가'가 아니라 '그 모델을 어떻게 작동시켰는가'입니다
안녕하세요, 특허법인 트리즈입니다. 최근 AI 서비스는 LLM을 처음부터 개발하기보다, 공개된 모델에 RAG·툴 호출·메모리·플래너 등을 결합해 AI 에이전트로 구현하는 경우가 많습니다. 이번 글에서는 AI 에이전트를 직접 개발하는 분들을 위해, 어떤 기술적 구조와 제어 방식이 특허로 보호될 수 있는지 살펴보겠습니다.
"공개된 LLM을 기반으로 구현한 AI 에이전트도 특허를 받을 수 있을까요?"
결론부터 말씀드리면 가능합니다. 다만 이미 공개된 LLM이나 일반적인 RAG·툴 호출 구조가 아니라, 이를 실제 서비스 환경에서 작동시키기 위해 개발한 독자적인 정보처리 및 제어 구조가 특허의 핵심이 되어야 합니다.
실제로 AI 에이전트의 개발 난도와 기술적 차별성은 어떤 LLM을 선택했는지보다, 복잡한 작업을 어떻게 분해하고 적절한 도구를 선택하며 결과의 신뢰성과 실행 안전성을 어떻게 확보하는지에서 만들어지는 경우가 많습니다.
개발팀이 실제로 부딪히는 문제
· 복잡한 요청을 어떤 단위의 작업으로 분해할 것인지
· 여러 API와 도구 중 무엇을 호출할 것인지
· 검색 결과나 실행 결과를 얼마나 신뢰할 것인지
· 실패했을 때 재시도할지, 다른 경로로 전환할지
· 실제 실행 전에 사람의 승인을 받을 것인지
그렇다면 이러한 개발상의 고민 중 어떤 부분이 실제 특허 포인트가 될 수 있을까요?
공개된 LLM을 사용해도 특허가 가능한 이유
특허를 받기 위해 시스템을 구성하는 모든 요소가 새로워야 하는 것은 아닙니다. LLM, 벡터 데이터베이스, RAG, 함수 호출처럼 알려진 기술을 사용하더라도, 이들을 결합한 전체 시스템이 기존 기술과 구별되는 처리 구조와 기술적 효과를 갖는다면 특허 가능성을 검토할 수 있습니다.
특허 검토의 핵심 질문
(지양) 어떤 LLM을 사용했는가?
(핵심) 공개된 LLM으로 기존 시스템의 문제를 어떤 구체적인 정보처리·제어 방식으로 해결했는가?
지식재산처의 2026년 「인공지능(AI) 분야 특허 심사실무 가이드」에 따르면, 공개된 AI 기술을 단순히 적용하거나 사람이 수행하던 업무를 AI로 시스템화한 것만으로는 진보성을 인정받기 어렵지만, 학습데이터, 전처리, 모델, 결과 활용 등 구체적인 수단이 종래기술과 구별되고 그에 따른 효과가 뒷받침된다면 진보성이 인정될 수 있습니다.
단순한 연결이 아니라 '제어 구조'가 특허 포인트입니다
단순히 LLM과 RAG를 연결한 것만으로는 특허를 받기 어렵습니다.
차별성을 인정받기 어려운 예
"오픈소스 LLM과 RAG를 이용해 사용자의 질문에 답변하는 AI 에이전트"
사용자의 질문을 입력받고, 벡터 데이터베이스에서 관련 문서를 검색한 뒤, 검색 결과를 LLM에 전달해 답변을 생성하는 방식은 이미 일반적으로 사용되는 구조입니다.
특허 명세서에는 'AI 에이전트를 사용한다'는 기능적 설명을 넘어 다음 내용이 구체적으로 나타나야 합니다.
명세서에 구체적으로 담겨야 할 것
· 에이전트가 어떤 데이터를 입력받는지
· 어떤 조건을 기준으로 다음 행동을 결정하는지
· 각 모듈과 외부 도구가 어떻게 연동되는지
· 오류나 예외 상황을 어떻게 처리하는지
· 그 결과 정확도·속도·안정성 등이 어떻게 개선되는지
다만 이런 요소가 존재한다는 사실만으로 특허성이 인정되는 것은 아닙니다. 선택·전환 기준이 해결하려는 기술적 문제와 연결되고, 그 기준에 의해 정확도, 처리 시간, 컴퓨팅 자원 사용량, 시스템 안정성 또는 보안이 어떻게 개선되는지가 함께 설명되어야 합니다. 아래에서는 개발자가 특히 눈여겨봐야 할 네 가지 지점을 살펴봅니다.
1. 작업 분해와 실행계획 변경
단순히 '플래너가 작업계획을 생성한다'는 것만으로는 부족할 수 있습니다. 다음과 같이 계획을 생성하거나 변경하는 조건이 중요합니다.
계획을 바꾸는 조건이 특허 포인트
· 입력된 목표의 유형에 따라 작업을 다르게 분해
· 필수 정보가 누락된 경우 데이터 수집 작업 추가
· 결과의 신뢰도가 기준값보다 낮으면 검증 단계 삽입
· 토큰 사용량·연산 자원·응답 지연에 따라 작업 순서 변경
· 특정 작업이 실패하면 대체 실행경로 생성
2. 툴 선택과 라우팅
복수의 검색도구, API, 데이터베이스 또는 모델 중 무엇을 선택할지 결정하는 로직도 특허 포인트가 될 수 있습니다. 예를 들면 다음과 같습니다.
무엇을, 어떤 조건으로 선택·전환하는가
· 작업 유형에 따른 툴 선택
· 정확도·비용·응답시간에 따른 우선순위 결정
· 사용자 권한이나 데이터 보안등급에 따른 호출 제한
· 이전 호출 결과에 따른 다음 툴 선택
· 호출 실패 시 대체 툴로 전환
핵심은 툴을 호출한다는 사실이 아니라, 어떤 조건에 따라 툴을 선택하고 전환하는가입니다.
3. RAG 및 멀티 에이전트 보정
RAG나 멀티 에이전트 구조도 그 자체보다 운영 방식이 중요합니다.
구조가 아니라 운영 방식
· 질문 유형에 따라 검색 인덱스를 선택하는 방식
· 검색 결과를 이용해 쿼리를 재작성하는 방식
· 문서의 최신성·출처·권한을 반영해 재정렬하는 방식
· 에이전트별 역할을 동적으로 배분하는 방식
· 에이전트 간 결론이 충돌할 때 최종 결과를 선택하는 방식
4. 결과 검증과 오류 복구
AI 에이전트의 결과가 실제 결제, 삭제, 전송 또는 설비 제어로 이어진다면 검증과 복구 구조가 더욱 중요합니다.
실행 결과가 현실을 바꾼다면 필수
· 생성 결과와 근거 문서 사이의 일치도 확인
· 다른 모델이나 규칙 기반 모듈을 이용한 교차 검증
· 신뢰도가 낮으면 재검색 또는 재실행
· 동일한 오류가 반복되면 모델이나 실행경로 변경
· 위험도가 높은 작업은 실행을 보류하고 사람의 승인 요청
· 오류 발생 전 상태로 복원
특허 가능성이 달라지는 예
구체성이 부족한 예
오픈소스 LLM과 RAG를 이용하여 설비 고장을 진단하는 AI 에이전트
구체화된 예
설비 센서 데이터에서 검출된 이상 유형에 따라 진동 분석 도구와 정비 이력 RAG 중 하나를 선택하고, LLM이 생성한 진단 결과와 근거 문서의 일치도가 기준값 이하이면 추가 센서 데이터를 수집하며, 과거 정비 이력과 진단 결과가 불일치하면 검증 에이전트를 호출하고, 위험도가 기준값을 초과하면 설비 제어 명령의 실행을 중단하는 시스템
두 번째 예에서 특허의 핵심은 사용한 LLM이 아닙니다.
이처럼 각 구성요소가 특정 조건에 따라 연계되는 기술적 제어 흐름이 발명의 핵심이 될 수 있습니다.
특허와 모델 라이선스는 별개의 문제입니다
AI 에이전트의 특허 가능성과 기반 모델의 라이선스 준수 여부는 별개의 문제입니다. 특허를 받을 수 있더라도 모델에 적용된 상업적 이용, 수정, 재배포, 저작권 표시 등의 조건은 준수해야 합니다. 또한 특허 등록은 해당 모델이나 기술을 자유롭게 실시할 수 있다는 보증이 아니므로, 제3자 특허 침해 여부도 별도로 검토해야 합니다.
구분해서 관리해야 할 범위
· 기반 모델과 외부 라이브러리에서 가져온 부분
· 자사가 독자적으로 개발한 에이전트 제어 로직
· 각 구성요소에 적용되는 라이선스 조건
덧붙여 특허출원은 원칙적으로 공개되므로, 핵심 오케스트레이션 노하우 중 공개를 감수하고 독점권을 확보할 부분과 비공개로 관리할 부분을 나누어 특허와 영업비밀을 병행하는 전략도 검토할 필요가 있습니다.
특허법인 트리즈의 코멘트
오픈소스 LLM을 사용했다는 사실은 AI 에이전트의 특허 출원을 가로막지 않습니다. 다만 공개된 LLM에 RAG, 메모리 또는 툴 호출 기능을 일반적인 방식으로 연결한 것만으로는 충분한 차별성을 확보하기 어렵습니다.
특허를 검토할 때는 모델의 종류보다 다음 내용을 먼저 살펴봐야 합니다.
모델보다 먼저 볼 것
· 작업을 분해하고 실행계획을 변경하는 기준
· 외부 도구와 데이터를 선택하는 방식
· 에이전트 간 역할 분담과 충돌 해결 구조
· 검색 및 생성 결과를 검증하는 방식
· 오류 발생 시 재시도·전환·복구하는 방식
· 위험한 작업의 실행을 제한하는 안전 제어 구조
결국 특허로 보호해야 하는 것은 공개된 LLM 자체가 아니라, 그 모델을 실제 서비스 환경에서 정확하고 안전하게 작동시키는 개발팀만의 기술적 오케스트레이션입니다.
참고 : 지식재산처 「인공지능(AI) 분야 특허 심사실무 가이드」(2026. 1., www.moip.go.kr). 본 글은 일반적인 정보 제공을 위한 것으로, 구체적인 특허 가능성과 권리범위는 개별 사안에 따라 달라질 수 있습니다.