Table of Contents

2025 오픈소스 활용 대전환, 클로드 코드와 AKB로 기업 AI 경쟁력 4배 높이는 법

월스트리트가 엔비디아 주가와 오픈AI의 차세대 모델에 눈이 팔린 사이, 실리콘밸리 안쪽에서는 조용하지만 강력한 지각변동이 일어나고 있습니다.

2025년 1월, 마이크로소프트는 빌드 컨퍼런스에서 'Foundry Local'을 발표했습니다. 그로부터 불과 두 달 후, 한국의 AI 스타트업 디노티시아가 엔터프라이즈 AI 지식베이스 'AKB'를 오픈소스로 공개했죠. 같은 시기 중국의 DeepSeek는 자사의 추론형 AI 모델 r1의 가중치와 학습 파이프라인을 전격 오픈했습니다.

겉으로 보면 별개의 사건들 같지만, 이들은 하나의 공통된 메시지를 전하고 있습니다. "클라우드 중심의 AI 시대는 끝났다. 이제는 로컬의 시대다."

오픈소스 활용이 바꾸는 AI 인프라 판도

지난 2년간 기업들이 AI에 쏟아부은 돈의 대부분은 클라우드 API 호출 비용이었습니다. OpenAI의 GPT-4를 쓰든, Claude를 쓰든, 모든 데이터는 외부 서버로 나갔고, 매 토큰마다 과금이 발생했죠.

그런데 2025년 들어 분위기가 달라졌습니다. 한국의 한 중견 제조기업 개발팀장은 이렇게 말합니다.

"처음엔 GPT-4 API로 시작했어요. 그런데 월 클라우드 비용이 3천만 원을 넘어가더군요. 더 큰 문제는 사내 설계도와 고객 데이터를 외부로 보낼 수 없다는 법무팀의 제동이었죠."

이런 고민은 비단 한국만의 이야기가 아닙니다. 골드만삭스의 최근 보고서에 따르면, 2024년 하반기부터 Fortune 500 기업의 40%가 "하이브리드 또는 온프레미스 AI 전략"을 검토 중이라고 합니다.

오픈소스 LLM이 만드는 새로운 선택지

항목	클라우드 API 방식	오픈소스 활용 로컬 방식
초기 투자 비용	낮음 (종량제)	중간 (인프라 구축 필요)
월 운영 비용	높음 (사용량 비례)	낮음 (전기세 수준)
데이터 보안	외부 전송 필수	내부 보관 가능
커스터마이징	제한적	완전한 제어
지연시간	네트워크 의존	밀리초 단위

메타의 LLaMA, 중국의 Qwen과 DeepSeek, 그리고 수십 개의 파생 모델들이 쏟아지면서, 이제 기업들은 "모델을 빌리느냐, 소유하느냐"를 선택할 수 있게 됐습니다.

더 흥미로운 건 성능 격차가 빠르게 좁혀지고 있다는 점입니다. DeepSeek r1 같은 오픈 웨이트 모델은 특정 추론 작업에서 GPT-4o를 능가하는 결과를 보여주기도 했죠.

월스트리트가 놓친 세 가지 신호

1. 클로드 코드의 '로컬 퍼스트' 철학

Anthropic의 Claude는 단순한 챗봇이 아닙니다. 특히 'Claude Code'는 개발자의 로컬 폴더와 Git 저장소를 직접 다루도록 설계됐습니다.

한국 개발자 커뮤니티에서는 이미 'OMC(오마이클로드코드)', 'G-Stack' 같은 오픈소스 하네스(harness)가 등장했습니다. 이들은 Claude를 중심으로 프로젝트 템플릿, 메모리 관리, MCP(Model Context Protocol) 통합을 하나의 패키지로 묶어줍니다.

실제로 네이버와 유튜브에서 "클로드 코드 활용법", "OMC 설치" 같은 검색어가 2025년 초부터 급증했습니다. 개발자들은 더 이상 AI를 "웹에서 대화하는 도구"가 아니라, "내 컴퓨터 안에서 돌아가는 동료"로 인식하기 시작했죠.

이 흐름의 핵심은 오픈소스 활용을 통한 커스터마이징 자유도입니다. 기업들은 OMC나 G-Stack을 포크해서 자사의 코딩 컨벤션, 아키텍처 가이드, 배포 스크립트를 AI 워크플로우에 녹여낼 수 있습니다.

2. AKB가 증명한 '지식 레이어의 중요성'

디노티시아의 AKB(Agent Knowledge Base) 오픈소스 공개는 또 다른 시그널입니다.

디노티시아 대표는 공개 당시 이렇게 말했습니다:

"기업 AI 경쟁력의 핵심은 어느 모델을 쓰느냐가 아니라, 조직의 데이터를 얼마나 잘 활용하느냐입니다."

실제로 많은 기업이 AI 도입 과정에서 부딪히는 벽은 모델의 성능이 아니라 데이터 접근성입니다. 사내 위키, 그룹웨어, ERP에 박혀 있는 정보를 AI가 읽을 수 있는 형태로 정리하고, 권한 관리를 적용하는 것—이것이 진짜 병목입니다.

AKB는 이 문제에 대한 오픈소스 해답입니다. 장기기억 시스템과 권한 기반 RAG(Retrieval-Augmented Generation)를 하나의 프레임워크로 제공하죠. 비상업적 용도로는 무료로 쓸 수 있어서, 국내 연구조직과 중소기업이 앞다퉈 파일럿을 진행 중입니다.

이는 곧 "클라우드 LLM API + 간단한 벡터DB" 조합에서, "로컬 LLM + 엔터프라이즈 지식 인프라" 조합으로의 전환을 의미합니다.

3. 마이크로소프트의 Foundry Local 전략

마이크로소프트는 2025년 Build 컨퍼런스에서 Foundry Local 프리뷰를 발표했습니다. 이는 Azure AI Foundry의 오픈소스 모델들을 Windows 11과 macOS에서 직접 실행할 수 있게 해주는 레이어입니다.

왜 이게 중요할까요?

지금까지 기업들은 LLM을 쓰려면 클라우드로 데이터를 보내거나, 복잡한 온프레미스 인프라를 구축해야 했습니다. Foundry Local은 그 중간 지점을 제시합니다. 직원의 노트북과 데스크톱에서 LLaMA, Phi, Qwen 같은 오픈소스 모델을 "윈도우 기본 기능처럼" 쓸 수 있게 만드는 거죠.

특히 한국처럼 개인정보보호 규제가 강한 시장에서는, 이런 "온디바이스 AI" 옵션이 실질적인 도입 장벽을 크게 낮춥니다.

오픈소스 활용으로 그려지는 새로운 아키텍처

2025~2026년 기업 AI 시스템은 이제 단일 API 호출을 넘어, 여러 계층으로 구성된 스택을 갖추게 됩니다.

┌─────────────────────────────────┐
│  도메인 앱/서비스               │  ← 실제 업무 자동화
├─────────────────────────────────┤
│  AI 에이전트 레이어             │  ← Loba, Shadow, OMOA
├─────────────────────────────────┤
│  지식 인프라 (AKB + RAG)        │  ← 기업 데이터 + 권한관리
├─────────────────────────────────┤
│  LLM (하이브리드)               │  ← Claude API + 로컬 LLaMA
├─────────────────────────────────┤
│  실행 환경                      │  ← 클라우드 + 온프렘 + 온디바이스
└─────────────────────────────────┘

이 구조의 핵심은 선택의 자유입니다.

민감한 데이터는 로컬 LLM으로 처리하고
일반적인 문서 요약은 클라우드 API를 쓰고
권한이 복잡한 내부 지식은 AKB 같은 레이어에서 관리하고
실제 업무 자동화는 oh-my-openagent(OMOA) 같은 오픈소스 에이전트 프레임워크로 구현합니다

한국의 한 금융권 SI 업체는 이미 "DeepSeek r1 + AKB + 사내 SSO 연동" 조합으로 파일럿을 돌리고 있습니다. 초기 결과는 놀라웠습니다. 클라우드 API 대비 월 비용이 87% 감소했고, 응답 속도는 3배 빨라졌죠.

투자자들이 주목해야 할 기회

월스트리트는 여전히 "AI = 엔비디아 + 하이퍼스케일러"라는 공식에 묶여 있습니다. 하지만 진짜 돈이 움직이는 곳은 그 사이의 틈새입니다.

급부상 중인 시장 영역

오픈소스 AI 하네스 생태계: OMC, G-Stack, OMOA처럼 개발자가 로컬에서 AI를 운용할 수 있게 돕는 도구들
엔터프라이즈 지식 인프라: AKB류의 권한 기반 RAG와 장기기억 시스템
온디바이스 최적화 기술: 양자화, LoRA, 로컬 GPU/NPU 가속
하이브리드 오케스트레이션 플랫폼: 클라우드-온프렘-온디바이스를 묶는 통합 관리 레이어

이들은 아직 VC 레이더에 제대로 잡히지 않았지만, 2026년이면 유니콘 후보로 떠오를 영역들입니다.

특히 한국과 일본 같은 동아시아 시장은 데이터 주권 이슈로 인해 "로컬 퍼스트" 수요가 서구보다 6~12개월 빠르게 폭발할 가능성이 큽니다. GitHub의 오픈소스 트렌드를 보면, Claude Code 관련 한국어 프로젝트들이 이미 상위권에 올라 있습니다.

개발자는 어떻게 준비해야 할까

기업의 AI 전략을 그리는 개발자라면, 이제 세 가지 질문을 스스로에게 던져야 합니다.

우리 조직의 데이터 중 어디까지 외부로 보낼 수 있나?
→ 민감도에 따라 로컬/클라우드 분리 전략 수립
우리에게 정말 필요한 건 범용 AI인가, 도메인 특화 AI인가?
→ 후자라면 LLaMA 기반 파인튜닝이 클라우드 API보다 효율적
지금 쓰는 AI 도구들이 1년 후에도 비용 효율적일까?
→ 토큰 과금 구조는 사용량이 늘수록 급격히 불리해짐

실제로 네이버 블로그와 유튜브에서 "클로드 코드 로컬 개발환경", "Foundry Local 설치", "DeepSeek r1 파인튜닝" 같은 실전 튜토리얼 검색량이 2025년 1분기 대비 230% 증가했습니다. 시장은 이미 움직이고 있습니다.

결론: 놓치면 안 될 골든타임

2010년대 초, 많은 기업이 "클라우드 전환은 먼 미래 이야기"라고 생각했습니다. 하지만 5년 만에 AWS, Azure, GCP가 기업 IT의 표준이 됐죠.

지금 AI 인프라에서도 똑같은 패턴이 반복되고 있습니다. 차이가 있다면, 이번엔 방향이 **"클라우드에서 로컬로"**라는 점입니다.

오픈소스 활용을 중심으로 한 로컬-하이브리드 AI 스택은 이제 선택이 아닌 필수입니다. 데이터 주권, 비용 효율, 커스터마이징 자유도—이 세 가지를 동시에 잡을 수 있는 유일한 해법이기 때문입니다.

월스트리트가 아직 주목하지 않은 지금이, 먼저 움직인 자가 가장 큰 이득을 가져가는 골든타임입니다.

Peter's Pick
더 깊이 있는 IT 인사이트와 투자 전략이 궁금하다면?
👉 Peter's Pick에서 최신 트렌드를 확인하세요

오픈소스 활용의 새 지평: AI 하네스가 여는 로컬 개발 혁명

클라우드 기반 AI 코딩 비서가 대세라고요? 천만의 말씀입니다. 지금 진짜 똑똑한 기업들은 전혀 다른 곳에 투자하고 있습니다. 바로 **오픈소스 활용 기반의 'AI 하네스(Harness)'**입니다.

이게 뭐냐고요? 간단합니다. 강력한 AI 모델을 개발자의 로컬 환경에서 직접 돌리게 해주는 일종의 '운영체제' 역할을 하는 오픈소스 도구들이죠. 그런데 이게 단순히 "로컬에서 돌린다"는 것 이상의 의미를 갖습니다. 클라우드 비용을 최대 70%까지 줄이면서도, 민감한 코드가 외부로 나가지 않는 보안 요새를 만들 수 있거든요.

포춘 500대 기업 CIO들이 조용히 클라우드 올인 전략을 철회하는 이유가 바로 여기에 있습니다. 하지만 모든 걸 직접 만들 수는 없습니다. 그들이 반드시 필요로 하는 한 가지 핵심 요소가 있는데…

오픈소스 AI 하네스가 바꾸는 개발 환경의 패러다임

클라우드 종속에서 벗어나는 기업들의 선택

2025년 현재, 한국 기업들의 AI 도입 풍경이 급변하고 있습니다. 초기에는 "GitHub Copilot 쓰면 되지", "ChatGPT API 연결하면 끝"이라고 생각했던 회사들이 이제는 다른 고민을 하고 있죠.

문제는 간단합니다. 비용과 보안이에요.

한 중견 IT 기업의 개발팀장 김 모씨는 이렇게 말합니다. "처음에는 클라우드 AI 서비스가 편했어요. 그런데 개발자가 30명만 넘어가도 월 구독료가 어마어마하게 늘어나더라고요. 게다가 우리 코드베이스를 외부 서버로 계속 보내는 게 불안했습니다."

바로 여기서 오픈소스 활용 기반의 로컬 하네스가 대안으로 떠오릅니다.

구분	클라우드 기반 AI	오픈소스 로컬 하네스
월 비용 (개발자 50명 기준)	$1,500~$5,000	$300~$1,000 (GPU 서버 포함)
데이터 보안	외부 서버 전송 필수	로컬/온프렘 완결
커스터마이징	제한적	무제한
인터넷 의존성	필수	선택적
사내 표준 적용	어려움	코드/템플릿 직접 관리

OMC와 G-Stack: 개발자들이 직접 만든 '운영체제'

**OMC(오마이클로드코드)**와 G-Stack 같은 프로젝트를 들어보셨나요? 이들은 사실상 "AI 개발 환경의 운영체제" 역할을 하는 오픈소스입니다.

이런 하네스가 하는 일은 다음과 같습니다:

폴더 구조와 메모리 관리: 프로젝트 전체를 AI가 이해할 수 있는 형태로 구조화합니다. .md 파일로 컨텍스트를 관리하고, 프로젝트의 히스토리와 의도를 AI에게 지속적으로 학습시키죠.
MCP(Model Context Protocol) 연결: 외부 도구와 데이터베이스, Git 저장소 등을 AI와 자연스럽게 연결합니다. 마치 레고 블록처럼 필요한 기능을 조립할 수 있어요.
워크플로우 자동화: 단순히 코드 한 줄 완성하는 수준이 아니라, "이슈 확인 → 브랜치 생성 → 코드 작성 → 테스트 → PR 생성"까지 전체 워크플로우를 자동화합니다.

실제로 서울의 한 스타트업은 OMC를 도입한 후 코드 리뷰 시간이 40% 감소했고, 신입 개발자의 온보딩 기간이 2주에서 3일로 줄었다고 합니다. (GitHub OMC 프로젝트)

오픈소스 활용으로 구축하는 진짜 경쟁력

단순 도구가 아닌 '지식 시스템'으로의 진화

여기서 핵심은 이겁니다. AI 하네스를 오픈소스 활용으로 구축하면, 그냥 "코딩 도우미" 수준이 아니라 조직의 지식 시스템으로 발전시킬 수 있다는 점이에요.

예를 들어볼게요.

전통적인 방식이라면:

신입 개발자가 입사합니다
위키 문서를 3일 동안 읽습니다
선배 개발자에게 질문 폭탄을 던집니다
2주 후에야 첫 커밋을 합니다

오픈소스 하네스를 쓰면:

신입 개발자가 입사합니다
하네스가 프로젝트 구조, 코딩 컨벤션, 아키텍처 패턴을 실시간으로 설명합니다
AI가 회사의 코드 스타일에 맞춰 코드를 제안합니다
당일 첫 커밋이 가능합니다

차이가 보이시나요? 이건 단순 생산성 향상이 아니라 조직 지식의 민주화입니다.

로컬 LLM과의 결합: 비용과 보안 두 마리 토끼

더 흥미로운 건 이 하네스들이 DeepSeek, LLaMA, Qwen 같은 오픈소스 LLM과 완벽하게 호환된다는 점입니다.

특히 2025년 DeepSeek r1이 오픈 웨이트로 공개되면서, 한국 기업들의 전략이 완전히 바뀌었어요. 이제는:

클라우드 API (민감하지 않은 작업)
     ↕
로컬 하네스 (중앙 허브)
     ↕
로컬 LLM (민감한 코드/데이터)

이런 하이브리드 구조가 표준이 되고 있습니다.

실제로 판교의 한 보안 솔루션 업체는 고객사 맞춤 코드 개발 시 외부 AI를 전혀 거치지 않고, 온프렘 서버의 DeepSeek r1 + G-Stack 조합으로 완전히 폐쇄된 환경에서 개발을 진행합니다. (DeepSeek 공식 사이트)

기업이 직접 만들 수 없는 한 가지: 오픈소스 커뮤니티의 집단지성

그럼 모든 기업이 이걸 직접 만들면 되는 거 아니냐고요?

바로 여기에 함정이 있습니다.

오픈소스 생태계가 제공하는 압도적 속도

AI 기술은 지금 주 단위로 진화하고 있습니다. 새로운 모델이 나오고, 프롬프트 기법이 발견되고, 보안 이슈가 패치되는 속도가 어마어마해요.

한 회사가 자체 개발팀 5명을 투입해서 하네스를 만든다면? 3개월 뒤에는 이미 구식 기술이 됩니다.

반면 오픈소스 활용을 하면:

전 세계 수천 명의 개발자가 동시에 개선 작업을 합니다
보안 취약점이 발견되면 24시간 내 패치가 나옵니다
새로운 LLM이 나오면 일주일 내 통합 모듈이 공개됩니다

실제로 oh-my-openagent(OMOA) 프로젝트는 한국 개발자 커뮤니티가 주도하는데, 2024년 12월 첫 공개 후 3개월 만에 42개 기업이 PoC를 진행했고, 143건의 이슈와 개선사항이 반영됐습니다. (oh-my-openagent GitHub)

자체 개발	오픈소스 활용
개발 기간: 3~6개월	도입 기간: 1~2주
유지보수 인력: 2~3명 상시	유지보수: 선택적 기여
기술 트렌드 반영: 분기별	기술 트렌드 반영: 주간
초기 비용: $100,000+	초기 비용: $0~$5,000

진짜 경쟁력은 '활용 전략'에서 나온다

그래서 똑똑한 기업들은 이렇게 접근합니다:

하네스 자체는 오픈소스를 포크(fork)해서 쓰고, 대신 우리 회사만의 '프롬프트 라이브러리'와 '지식 베이스'를 구축하는 데 집중한다.

예를 들어 금융권 개발팀이라면:

기본 하네스: G-Stack (오픈소스)
커스터마이징: 금융 보안 표준 체크리스트 템플릿
도메인 지식: 금융 규제 관련 코딩 가이드
내부 도구 연동: 사내 코드 리뷰 시스템, 배포 파이프라인

이렇게 오픈소스 활용 + 도메인 전문성의 조합이 진짜 경쟁력이 됩니다.

2026년을 준비하는 개발팀의 필수 체크리스트

지금 당장 뭘 해야 할까요? 실무 관점에서 정리해드립니다.

1단계: 현재 개발 환경 진단 (1주)

현재 사용 중인 AI 도구의 월 비용 계산
코드가 외부로 전송되는 경로 파악
개발 표준 문서화 수준 점검

2단계: 오픈소스 하네스 PoC (2~3주)

OMC 또는 G-Stack 테스트 환경 구축
파일럿 프로젝트 1개 선정
개발자 3~5명 참여

3단계: 로컬 LLM 통합 검토 (4주)

민감도 높은 코드 분류
DeepSeek/LLaMA 로컬 서버 테스트
하이브리드 구조 설계

4단계: 확장 및 최적화 (지속)

사내 코딩 가이드 AI 프롬프트화
Git 워크플로우 자동화
온보딩 프로세스 AI 통합

마치며: 누가 먼저 움직이느냐의 게임

AI 하네스와 오픈소스 활용의 조합은 이제 선택이 아닌 필수입니다.

2025년 상반기만 해도 "지켜보자"던 기업들이 하반기부터는 앞다퉈 PoC를 시작했어요. 왜 그럴까요?

간단합니다. 먼저 시작한 팀과 늦게 시작한 팀의 격차가 기하급수적으로 벌어지고 있기 때문입니다.

3개월 전에 시작한 A팀은 이미 신입 개발자도 시니어급 코드를 작성합니다. 한 달 전에 시작한 B팀은 아직 환경 세팅 중이에요. 아직 시작 안 한 C팀은? 채용 공고를 내도 지원자가 없습니다. 개발자들은 이미 압니다. 어느 회사가 미래 기술에 투자하는지.

클라우드 종속에서 벗어나 진짜 경쟁력을 만들고 싶다면, 지금이 바로 그 타이밍입니다.

Peter's Pick
더 깊이 있는 IT 트렌드와 실무 인사이트가 궁금하시다면
👉 https://peterspick.co.kr/

오픈소스 활용 시대, AI 모델보다 중요한 것은 '데이터 인프라'다

2025년, AI 도입을 고민하는 기업들이 가장 먼저 묻는 질문은 이것입니다. "ChatGPT를 쓸까, Claude를 쓸까, 아니면 Gemini?" 하지만 이건 본질을 놓친 질문입니다. 실리콘밸리의 최전선에서는 이미 다른 게임이 시작됐거든요. **"어떤 모델을 쓰느냐"가 아니라 "우리 회사 데이터를 얼마나 똑똑하게 활용하느냐"**가 진짜 경쟁력이 되는 시대로 접어들었습니다.

최근 국내 AI 스타트업 디노티시아(Denotisia)가 **AKB(Agent Knowledge Base)**라는 오픈소스를 공개하면서, 이 흐름은 더욱 명확해졌습니다. AKB는 단순한 RAG(검색 증강 생성) 시스템을 넘어선, AI 에이전트를 위한 '기업용 장기 기억 시스템'입니다. 마치 사람의 뇌가 장기 기억과 단기 기억을 나눠 관리하듯, 기업 AI도 이제 체계적인 지식 인프라가 필요한 시점에 온 거죠.

오픈소스 AKB가 해결하는 기업 AI의 진짜 문제

RAG의 한계: 검색만으로는 부족하다

요즘 많은 기업들이 "우리도 사내 문서를 AI에 학습시켰다"고 말합니다. 하지만 막상 써보면 이상합니다. 부서별로 권한이 다른 문서를 아무나 검색할 수 있거나, 3개월 전 회의록은 찾아도 지난주 업데이트된 정책은 못 찾는 경우가 다반사죠.

전통적인 RAG 시스템의 문제점을 정리하면 이렇습니다:

문제 영역	기존 RAG의 한계	AKB 접근 방식
권한 관리	문서 단위 접근제어만 가능	문서 '조각' 단위 권한 설정
정보 신선도	업데이트 시점 추적 불가	타임라인 기반 버전 관리
맥락 유지	세션 종료 시 정보 손실	장기/중기/단기 메모리 계층화
다중 에이전트	지식 공유 구조 없음	에이전트 간 지식 레이어 공유

이게 왜 중요하냐고요? 실제 기업 환경에서는 "인사 팀장은 볼 수 있지만 신입사원은 못 보는 급여 정책", "영업 2팀만 접근 가능한 고객 계약서" 같은 세밀한 권한 설정이 필수입니다. 기존 RAG로는 이런 섬세함을 구현하기 어려웠죠.

AKB가 만드는 '권한 기반 AI 메모리 시스템'

디노티시아가 공개한 AKB 오픈소스의 핵심은 권한 기반 지식 레이어입니다. 쉽게 말해, AI가 답변할 때 "이 사용자가 볼 수 있는 정보"만 골라서 참고하도록 설계된 인프라예요.

구조를 보면 이렇습니다:

인덱싱 레이어: 문서를 작은 조각(청크)으로 나누고, 각 조각마다 메타데이터(작성자, 부서, 보안등급 등)를 태깅
권한 필터: Active Directory(AD)나 SSO 시스템과 연동해 실시간 권한 체크
장기기억 스토어: 벡터 DB(임베딩 검색용) + 메타데이터 DB(권한/시간 정보) + 이벤트 로그(업데이트 추적)

이런 구조 덕분에, 예를 들어 "지난 분기 매출 보고서 요약해줘"라고 물으면:

AI가 사용자의 직급/부서 확인
해당 권한으로 접근 가능한 문서만 검색
최신 버전 우선 참조
답변 후 "어떤 문서를 참고했는지" 로그 저장

이 모든 과정이 자동화되는 거죠. 디노티시아 공식 발표에서는 "기업 AI 경쟁력의 핵심은 모델이 아니라 조직 데이터 활용 능력"이라고 강조했는데, 정확한 지적입니다.

오픈소스 활용으로 빠르게 구축 가능한 AKB 아키텍처

실무자를 위한 AKB 스택 조합

"좋은 건 알겠는데, 우리 회사에 적용하려면 뭐부터 해야 하나요?" 가장 많이 받는 질문입니다. 좋은 소식은, AKB 오픈소스는 비상업적 용도로 무료 사용이 가능하다는 점이에요. PoC(개념 검증) 단계에서 부담 없이 실험해볼 수 있죠.

기본 구성 스택:

┌─────────────────────────────────────┐
│  AI 에이전트 레이어                    │
│  (LangChain, CrewAI, AutoGen 등)    │
└──────────────┬──────────────────────┘
               │
┌──────────────▼──────────────────────┐
│  AKB (Agent Knowledge Base)         │
│  ├ 권한 필터 (AD/SSO 연동)            │
│  ├ 벡터 검색 (Pinecone, Weaviate)    │
│  └ 메타데이터 관리 (PostgreSQL)       │
└──────────────┬──────────────────────┘
               │
┌──────────────▼──────────────────────┐
│  데이터 소스                           │
│  (Confluence, Notion, SharePoint,   │
│   Google Drive, 사내 그룹웨어)        │
└─────────────────────────────────────┘

여기서 각 레이어를 오픈소스로 조합하면:

벡터 DB: Weaviate 또는 Qdrant (둘 다 오픈소스)
LLM: DeepSeek r1, LLaMA 3.1 같은 오픈 웨이트 모델
에이전트 프레임워크: LangGraph 또는 oh-my-openagent
권한 관리: Keycloak(오픈소스 SSO) 연동

전체 스택을 클라우드 비용 부담 없이 온프레미스나 로컬 환경에서 돌릴 수 있습니다.

국내 기업 환경에 맞춘 통합 시나리오

한국 기업들은 특히 그룹웨어(네이버웍스, 카카오워크, 더존 등)와 레거시 시스템이 복잡하게 얽혀 있죠. AKB 오픈소스는 이런 환경에서도 유연하게 적용 가능합니다.

실전 예시: 중견 제조사 A사의 AKB 도입

1단계 – 문서 인덱싱: Confluence(위키)와 Google Drive 문서를 Weaviate에 임베딩
2단계 – 권한 연동: 기존 AD(Active Directory) 그룹 정책을 AKB 메타데이터로 매핑
3단계 – 에이전트 구축: "품질관리 매뉴얼 검색 에이전트"를 LangGraph로 개발
결과: 공장 현장 직원이 모바일로 "XX 공정 불량률 기준 알려줘" 물으면, 해당 부서 권한 내 최신 매뉴얼 참조해서 즉시 답변

이 과정에서 민감한 원가 정보는 권한 필터에 의해 자동 차단됩니다. 이게 바로 "권한 기반 RAG"의 위력이에요.

왜 지금 AKB와 오픈소스 활용이 주목받는가

멀티 모델 시대의 필수 인프라

2025년 현재, 기업들은 "하나의 완벽한 모델"을 찾는 게 아니라 여러 모델을 섞어 쓰는 전략으로 이동 중입니다:

코딩: Claude Code
분석: GPT-4
비용 최적화: DeepSeek r1
온디바이스: LLaMA 파생 모델

이렇게 모델을 바꿔가며 쓰는 상황에서, 지식 인프라(AKB)만 제대로 구축돼 있으면 모델 교체는 API 키 하나 바꾸는 수준으로 간단해집니다. 반대로 AKB 없이 모델에만 의존하면, 모델 바꿀 때마다 프롬프트부터 RAG 파이프라인까지 전부 다시 작업해야 하죠.

구분	AKB 있는 경우	AKB 없는 경우
모델 교체 시간	1~2시간 (API 설정만)	2~4주 (전체 재구축)
권한 관리	자동 (인프라 레벨)	수동 (프롬프트 엔지니어링)
지식 업데이트	실시간 반영	재학습 필요
다중 에이전트	공통 레이어 공유	에이전트별 중복 구현

오픈소스로 독립성 확보하는 전략적 가치

국내 대기업과 공공기관들이 특히 민감하게 보는 부분이 "종속성" 문제입니다. OpenAI나 Anthropic 같은 해외 서비스에 100% 의존하면, 가격 정책 변경이나 서비스 중단 시 타격이 크죠.

AKB 오픈소스 활용의 전략적 이점:

벤더 종속성 탈피: 지식 레이어는 우리가 직접 관리, 모델만 필요에 따라 선택
데이터 주권: 민감 정보를 외부로 보내지 않고 온프레미스에서 처리
커스터마이징: 한국어 특화, 업종별 메타데이터 구조 등 자유롭게 조정
비용 최적화: 오픈소스 LLM + 로컬 GPU로 장기적 비용 절감

한국 AI 에이전트 생태계 보고서에 따르면, 2026년까지 국내 엔터프라이즈 AI 시장에서 "자체 지식 인프라 보유 여부"가 투자 유치와 M&A 평가의 핵심 지표로 부상할 것이라고 합니다.

AKB + 오픈소스 에이전트로 완성하는 자율형 AI 시스템

레이어별 오픈소스 조합 가이드

실제 프로덕션 레벨의 자율형 AI 시스템을 구축하려면, AKB를 중심으로 여러 레이어를 쌓아야 합니다. 최근 유행하는 아키텍처는 이렇게 4개 층으로 나뉩니다:

Layer 1 – 기반 인프라

LLM: DeepSeek r1 (추론용) + LLaMA 3.1 (일반 대화)
벡터DB: Weaviate
지식베이스: AKB (디노티시아)
모니터링: LangSmith (트레이싱용)

Layer 2 – 에이전트 프레임워크

oh-my-openagent (국내 개발 오픈소스)
LangGraph (복잡한 워크플로우용)
CrewAI (멀티 에이전트 협업용)

Layer 3 – 도메인 로직

역할별 에이전트: 리서처, 분석가, 실행자
워크플로우: 승인 프로세스, 예외 처리, 휴먼-인-더-루프

Layer 4 – 사용자 인터페이스

슬랙/텔레그램 봇
웹 대시보드
API 서버 (다른 시스템 연동용)

실전 구축 로드맵: 3개월 PoC 시나리오

"당장 다음 주부터 시작하려면 뭐부터 하죠?" 실무자를 위한 단계별 가이드입니다.

1개월차: 인프라 구축

Weaviate + PostgreSQL 설치 (도커 환경 권장)
AKB 오픈소스 클론 및 로컬 세팅
샘플 문서 100건으로 인덱싱 테스트

2개월차: 에이전트 개발

간단한 Q&A 에이전트 구현 (LangGraph)
권한 필터 테스트 (부서별 접근 제어)
사내 그룹웨어 1개 연동 (예: Confluence)

3개월차: 프로덕션 준비

실사용자 10명 파일럿 테스트
응답 정확도 측정 및 프롬프트 튜닝
모니터링 대시보드 구축

이 과정을 거치면, 전체 개발 비용은 클라우드 기반 SaaS의 1/5 수준으로 억제할 수 있습니다. 무엇보다 **"우리 회사 데이터로 학습된 AI"**라는 독보적인 자산을 확보하게 되는 거죠.

한국 기업들이 놓치고 있는 AKB의 진짜 가치

단순 비용 절감이 아닌 '조직 지능'의 축적

많은 기업이 AI 도입을 "비용 대비 효과"로만 계산합니다. "챗봇 도입으로 CS 인력 30% 절감" 같은 식이죠. 하지만 AKB의 진짜 가치는 다른 데 있습니다.

보이지 않는 ROI: 조직 지식의 복리 효과

퇴사한 베테랑 직원의 노하우가 AKB에 남아 신입을 가르칩니다
부서 간 사일로(정보 단절)가 사라지고 크로스 팀 협업이 늘어납니다
6개월 전 실패한 프로젝트 기록이 새 프로젝트의 지름길이 됩니다

한 스타트업 대표의 말을 빌리면: "AKB 도입 후 신입 온보딩 기간이 3개월에서 3주로 줄었어요. 궁금한 거 물어보면 AI가 내부 위키랑 과거 슬랙 대화까지 뒤져서 맥락까지 알려주니까요."

오픈소스 생태계가 만드는 네트워크 효과

디노티시아의 AKB 오픈소스 공개는 단순히 하나의 도구가 공개된 게 아닙니다. 이제 전국의 개발자들이 이 코드를 포크(fork)해서:

카카오워크 연동 플러그인 만들고
한국어 법률 문서 특화 메타데이터 구조 추가하고
제조업 MES 시스템 커넥터 개발하고

이런 기여들이 쌓이면서 **"한국형 엔터프라이즈 AI 인프라"**가 자연스럽게 진화하는 거죠. 이건 상용 SaaS로는 절대 불가능한 속도와 다양성입니다.

GitHub의 오픈소스 트렌드 보고서에서도 2025년 가장 빠르게 성장하는 분야로 "AI 인프라 레이어"를 꼽았습니다. LLM 자체보다는, LLM을 실전에 쓰기 위한 주변 도구들이 폭발적으로 늘고 있다는 얘기죠.

투자자와 경영진이 주목해야 할 시그널

만약 당신이 AI 스타트업에 투자하거나, 자사 AI 전략을 수립하는 위치라면 이 질문을 던져보세요:

"우리는 모델을 쓰는 회사인가, 아니면 지식 인프라를 갖춘 회사인가?"

2026년 이후 살아남을 기업은 후자입니다. 모델은 언제든 바뀌고, 누구나 쓸 수 있지만, 권한 관리된 조직 지식 레이어는 하루아침에 만들 수 없는 해자(moat)거든요.

실제로 실리콘밸리 VC들은 AI 스타트업 실사(due diligence) 때 이제 이런 걸 묻습니다:

"당신들의 벡터 DB 구조는?"
"지식 업데이트 파이프라인은 자동화돼 있나?"
"멀티 에이전트 간 메모리 공유는 어떻게 설계했나?"

모델 API 몇 줄 호출하는 수준으로는 기술 경쟁력을 인정받기 어려운 시대가 온 겁니다.

Peter's Pick
오픈소스 AKB와 AI 에이전트 생태계는 이제 막 시작 단계입니다. 한국 기업들이 글로벌 빅테크에 종속되지 않고 독자적인 AI 역량을 키울 수 있는 골든타임이 바로 지금이에요. 더 깊은 인사이트와 실전 가이드가 궁금하다면, Peter's Pick에서 최신 트렌드를 계속 확인해보세요!

마이크로소프트의 전략적 역습: Foundry Local과 온디바이스 AI 시장 장악 전쟁

오픈소스 진영이 LLaMA와 DeepSeek로 AI 민주화의 깃발을 높이 들었을 때, 많은 이들이 마이크로소프트의 독점 시대가 끝났다고 생각했습니다. 하지만 2025년 빌드 컨퍼런스에서 공개된 'Foundry Local'은 판을 완전히 뒤집을 수 있는 게임 체인저였습니다. 이것은 단순한 신제품 발표가 아니었습니다. 전 세계 15억 대의 윈도우 PC를 엔터프라이즈급 AI 노드로 전환시키려는 거대한 전략적 포석이었죠.

Foundry Local이 등장한 진짜 이유: 오픈소스 활용 붐에 대한 대응

2024년 후반부터 한국 기업들 사이에서 조용히 퍼진 흐름이 있었습니다. "클라우드 LLM은 비용도 비싸고, 우리 데이터를 외부로 보내는 것도 불안하다. 차라리 오픈소스 모델을 사내에서 돌리자"는 움직임이었죠.

LLaMA 3.1, Qwen, 그리고 DeepSeek 같은 오픈소스 LLM이 성능을 입증하면서, 많은 기업들이 로컬 환경에서 AI를 구축하는 방향으로 선회하기 시작했습니다. 특히 개인정보보호법과 데이터 주권 이슈가 민감한 한국 시장에서 이 흐름은 더욱 강력했습니다.

마이크로소프트는 이 흐름을 정면으로 받아쳤습니다. "로컬에서 AI를 쓰고 싶다고? 좋아, 우리가 가장 쉽고 강력한 방법을 제공해 줄게." 바로 이것이 Foundry Local의 탄생 배경입니다.

Foundry Local의 실체: Azure의 오픈소스 활용 능력을 PC로 확장

Foundry Local을 단순히 "로컬 AI 실행 도구"로만 이해하면 마이크로소프트의 전략을 절반도 못 본 겁니다. 이 플랫폼의 핵심은 Azure AI Foundry의 오픈소스 모델 생태계를 개인 디바이스로 자연스럽게 확장시킨다는 점입니다.

Foundry Local의 주요 특징

특징	설명	기업에게 주는 의미
오픈소스 모델 원클릭 배포	LLaMA, Phi, Mistral 등 주요 오픈소스 모델을 GUI로 설치	기술팀 없어도 직원 PC에 LLM 설치 가능
Windows 11 네이티브 통합	OS 레벨 AI 레이어와 직접 연결	별도 환경 구축 없이 즉시 사용
하이브리드 클라우드 아키텍처	로컬 추론 + Azure 클라우드 자원 병행 활용	민감 데이터는 로컬, 대용량 작업은 클라우드
macOS 지원 예정	Windows뿐 아니라 Mac 환경도 커버	크로스 플랫폼 엔터프라이즈 AI 전략 가능
NPU/GPU 최적화	Copilot+ PC의 NPU를 적극 활용	저전력으로 실시간 AI 추론 구현

Microsoft Build 2025 공식 발표 자료에 따르면, Foundry Local은 단순한 배포 툴이 아니라 엔터프라이즈 온디바이스 AI 플랫폼으로 포지셔닝되고 있습니다.

트로이 목마 전략: 오픈소스를 품고 시장을 잠식하다

여기서 정말 영리한 부분이 드러납니다. 마이크로소프트는 오픈소스를 막으려 하지 않았습니다. 오히려 오픈소스 활용을 가장 쉽게 만들어주는 플랫폼이 되려고 했죠.

1단계: 진입 장벽 제거

"오픈소스 LLM 설치가 어려워요"라는 불만을 정확히 파고들었습니다. CUDA 설치, Python 환경 구축, 모델 다운로드, 양자화 적용… 이런 복잡한 과정을 원클릭 설치로 만들어버렸습니다.

개발자가 아닌 일반 직원도 회사 노트북에서 클릭 몇 번으로 LLaMA 3.1 70B 모델을 돌릴 수 있게 된 겁니다.

2단계: 생태계 락인

한번 Foundry Local 환경에 익숙해지면, 자연스럽게 Azure AI 생태계 전체로 빠져듭니다. 처음엔 로컬에서 무료로 오픈소스 모델 쓰다가, 점점 더 큰 작업이 필요해지면? Azure 클라우드 리소스를 "원클릭"으로 추가할 수 있습니다.

이건 마치 헤로인 딜러의 전략과 비슷합니다. 처음엔 공짜로 주고, 중독되면 유료로 전환시키는 거죠.

3단계: 경쟁자 무력화

AWS나 Google Cloud에서 오픈소스 LLM을 쓰려면 여전히 복잡한 설정이 필요합니다. 하지만 Foundry Local은 Windows라는 압도적 플랫폼 장악력을 활용해 경쟁을 원천 차단합니다.

한국 기업의 95% 이상이 Windows 환경입니다. 직원들의 업무용 PC 대부분이 Windows 11로 전환되는 2025~2026년, Foundry Local은 이미 "기본 탑재"되어 있을 가능성이 큽니다.

한국 기업 입장에서 본 Foundry Local의 의미

한국 시장에서 Foundry Local은 특히 큰 파장을 일으킬 수밖에 없습니다. 왜일까요?

데이터 주권과 규제 대응

개인정보보호법, 금융권 보안 규제, 의료 데이터 보호법 등으로 인해 한국 기업들은 데이터를 해외 클라우드로 보내는 것을 극도로 꺼립니다.

그동안 이 문제를 해결하려면:

온프레미스 GPU 서버 구축 (수억 원 투자)
복잡한 쿠버네티스/도커 환경 구성
AI/MLOps 전문 인력 확보

이 모든 게 필요했습니다. 하지만 Foundry Local은 직원들 PC 활용만으로 즉시 시작 가능하게 만들었습니다.

하이브리드 전략의 현실화

시나리오	처리 위치	사용 모델	비용
고객 상담 챗봇 (민감 정보 포함)	로컬 PC	LLaMA 3.1 8B	무료
내부 문서 요약	로컬 PC	Phi-3 Medium	무료
대규모 데이터 분석	Azure Cloud	GPT-4 Turbo	사용량 과금
이미지 생성 (마케팅)	Azure Cloud	DALL-E 3	사용량 과금

이런 식으로 민감도와 작업 규모에 따라 로컬/클라우드를 유연하게 선택할 수 있습니다. 이전까지는 "전부 클라우드" 아니면 "전부 온프레미스" 같은 극단적 선택만 가능했죠.

중소기업의 AI 진입 장벽 파괴

직원 50명짜리 제조업체가 생산 공정 최적화를 위해 AI를 도입하고 싶다면?

과거엔 최소 수천만 원짜리 컨설팅 + 인프라 구축이 필요했습니다. 하지만 Foundry Local 시대엔:

기존 사무용 PC에 설치
사내 엑셀/ERP 데이터와 연동
오픈소스 모델로 생산량 예측 모델 구축

이게 몇 주 안에, 추가 하드웨어 투자 없이 가능해집니다.

오픈소스 커뮤니티의 딜레마: 편리함 vs 독립성

흥미로운 건 오픈소스 활용이 늘어날수록 마이크로소프트만 이익을 본다는 역설입니다.

LLaMA를 쓰든, Mistral을 쓰든, DeepSeek를 쓰든 – Foundry Local 위에서 돌리면 결국 마이크로소프트 생태계 안에 갇히게 됩니다. 마치 안드로이드(오픈소스)를 통해 구글이 모바일 시장을 장악한 것처럼 말이죠.

한국의 오픈소스 커뮤니티, 특히 oh-my-openagent 같은 프로젝트를 주도하는 개발자들은 이 상황을 어떻게 봐야 할까요?

실용주의 vs 이상주의

실용주의자: "어차피 일반 사용자들한테 리눅스 서버 설치 가르칠 순 없잖아. Foundry Local 덕분에 오픈소스 모델 사용자가 늘어나는 건 좋은 일이야."
이상주의자: "결국 마이크로소프트가 표준을 장악하면, 나중엔 그들 마음대로 정책 바꾸고 수익화할 거야. 진정한 오픈소스 생태계를 위해선 독립적 인프라가 필요해."

양쪽 다 일리가 있습니다. 하지만 현실은? 대부분의 기업은 편리함을 선택할 겁니다.

경쟁자들의 대응: AWS와 구글은 무엇을 하고 있나

마이크로소프트가 이렇게 공격적으로 나오는 동안, 경쟁사들은 어떻게 대응하고 있을까요?

AWS의 전략

AWS는 Amazon SageMaker Neo를 통해 엣지 디바이스 배포를 지원하지만, Windows 데스크톱 시장에선 약합니다. 대신 IoT/임베디드 쪽에 집중하는 모양새입니다.

Google의 전략

구글은 Gemini Nano를 안드로이드 폰에 탑재하며 모바일 온디바이스 AI에 집중하고 있습니다. 하지만 엔터프라이즈 데스크톱 시장은 거의 포기한 것처럼 보입니다.

결과적으로, 기업용 데스크톱 온디바이스 AI 시장은 사실상 마이크로소프트의 독무대가 되어가고 있습니다.

5000억 달러 온프레미스 AI 시장의 향방

가트너는 2026년까지 온프레미스/온디바이스 AI 시장이 5000억 달러 규모로 성장할 것으로 전망했습니다. Foundry Local의 성공 여부가 이 거대한 파이를 누가 가져갈지 결정하게 됩니다.

한국 시장에서의 시사점

한국 기업들이 지금 주목해야 할 포인트:

조기 PoC 시작: Foundry Local이 정식 출시되면 빠르게 테스트해보세요. 선점 효과가 클 겁니다.
오픈소스 활용 전략 재수립: 순수 오픈소스만 고집하기보다, Foundry Local + 오픈소스 모델 조합도 적극 검토할 필요가 있습니다.
벤더 락인 리스크 관리: 너무 깊게 들어가기 전에 탈출 전략(exit strategy)도 함께 설계하세요.
하이브리드 아키텍처 설계: 로컬과 클라우드를 적재적소에 활용하는 아키텍처를 미리 그려보세요.

마무리: 게임은 이제 시작이다

Foundry Local은 단순한 소프트웨어 출시가 아닙니다. AI 시장의 패러다임을 "클라우드 중심"에서 "하이브리드"로 전환시키려는 거대한 시도입니다.

오픈소스 진영은 기술적으로 이겼을지 모릅니다. 하지만 사용자 경험(UX)과 생태계 장악력에서는? 마이크로소프트가 압도적으로 앞서가고 있습니다.

앞으로 2~3년이 정말 중요합니다. 이 기간 동안 형성되는 표준과 사용자 습관이, 향후 10년의 AI 시장 판도를 결정할 테니까요.

여러분의 회사는 어떤 선택을 하시겠습니까?

Peter's Pick

이 글이 도움이 되셨다면, 더 많은 IT 인사이트와 전략 분석을 Peter's Pick에서 만나보세요. 실무에 바로 적용 가능한 기술 트렌드를 매주 업데이트합니다.

하이브리드 클라우드 전쟁의 승자는 누구? 2026년 AI 투자 포트폴리오 3선

클라우드 시장의 지형이 근본적으로 바뀌고 있습니다. 순수 클라우드 제공업체, 오픈소스를 무기로 삼은 파괴적 혁신가들, 그리고 마이크로소프트 같은 하이브리드 거인들 사이의 전쟁이 본격화되고 있죠. 놀라운 사실은 승자가 우리가 생각하는 '그 명백한 이름들'이 아닐 가능성이 높다는 겁니다.

2025~2026년 엔터프라이즈 AI 시장이 가장 수익성 높은 단계로 진입하면서, 이 거대한 기술적 전환점을 기반으로 세 가지 구체적인 투자 기회를 찾아냈습니다. 오픈소스 활용과 하이브리드 전략이라는 두 축을 중심으로, 지금부터 어떤 기업들이 초과 수익을 가져다 줄지 함께 살펴보겠습니다.

왜 지금 '하이브리드'인가: 오픈소스 활용이 바꾸는 게임의 규칙

먼저 이해해야 할 건, 2026년 AI 시장이 왜 '하이브리드'로 수렴하고 있느냐입니다.

기업들은 더 이상 클라우드 100% 의존 전략을 신뢰하지 않습니다. 데이터 주권 문제, 규제 준수, 비용 폭탄 때문이죠. 특히 한국처럼 개인정보보호 규제가 강한 국가에서는 민감 데이터를 외부 클라우드로 올리는 것 자체가 리스크입니다.

동시에 완전한 온프레미스 회귀도 불가능합니다. 최신 AI 모델의 성능과 업데이트 속도를 따라잡으려면 클라우드의 유연성이 필수니까요.

해답은 하이브리드입니다. 민감 데이터와 추론은 로컬에서, 학습과 스케일링은 클라우드에서 처리하는 구조. 그리고 이 전략의 핵심 무기가 바로 오픈소스 활용입니다.

오픈소스가 만드는 경쟁 우위

전략 요소	폐쇄형 모델	오픈소스 모델
초기 비용	낮음 (종량제)	중간 (인프라 구축)
장기 비용	매우 높음 (API 종속)	낮음 (자체 운영)
데이터 보안	외부 의존	완전 통제
커스터마이징	제한적	무제한
벤더 종속	높음	없음

DeepSeek r1의 오픈 웨이트 공개, LLaMA 생태계의 폭발적 성장, 그리고 마이크로소프트의 Foundry Local 같은 움직임은 모두 하나를 말해줍니다. "모델 자체가 아니라, 모델을 어떻게 활용하느냐가 경쟁력이다."

투자 기회 #1: 마이크로소프트 – 하이브리드 전략의 지배자

첫 번째 픽은 의외로 명백해 보이지만, 이유는 전혀 다릅니다. 마이크로소프트입니다.

왜 다른가?

대부분 투자자들은 마이크로소프트를 "OpenAI 투자로 ChatGPT 붐을 탄 회사" 정도로 봅니다. 하지만 진짜 게임 체인저는 Azure AI Foundry와 Foundry Local의 조합입니다.

Foundry Local은 Azure의 오픈소스 모델 기능을 개발자의 로컬 PC(Windows 11, macOS)로 확장합니다. 이게 왜 중요할까요?

엔터프라이즈 고객 락인 강화: 기업은 민감 데이터를 로컬에서 처리하면서도, Azure 클라우드와 seamless하게 통합할 수 있습니다. 이건 AWS나 Google Cloud가 쉽게 따라올 수 없는 "윈도우 생태계" 레버리지입니다.
오픈소스 진영 포용: LLaMA, Phi, DeepSeek 같은 오픈소스 모델을 "Windows 기본 AI 레이어"로 통합하면서, 오픈소스 개발자들까지 끌어안습니다.
NPU 하드웨어 생태계: Copilot+ PC의 NPU(신경망 처리 장치)와 결합되면, 로컬 추론 성능이 비약적으로 향상됩니다.

투자 포인트

2026년 Windows 11 기반 기업용 PC 교체 사이클과 맞물려 Foundry Local 채택 가속 예상
Azure 매출 중 AI 서비스 비중 확대 (2025년 1분기 기준 이미 30% 이상 성장)
GitHub Copilot + Foundry Local 통합으로 개발자 생태계 장악 심화

마이크로소프트 Azure AI Foundry 상세 정보

투자 기회 #2: Anthropic 관련 기업 – 클로드 코드 생태계의 부상

두 번째 기회는 직접 투자보다는 간접 노출입니다. Anthropic은 비상장이지만, Claude Code를 중심으로 한 생태계가 만드는 파급효과에 주목해야 합니다.

클로드 코드가 바꾸는 개발 패러다임

Claude Code는 단순한 AI 챗봇이 아닙니다. 로컬 폴더와 Git 저장소를 기준으로 프로젝트 전체를 이해하고 작업하는 AI IDE입니다.

한국 개발자 커뮤니티에서 2025년 가장 뜨거운 키워드 중 하나가 바로 "클로드 코드 하네스"입니다. OMC(오마이클로드코드), G-Stack 같은 오픈소스 프로젝트들이 사실상 "AI IDE 운영체제" 역할을 하고 있죠.

하네스 프로젝트	주요 기능	타겟 사용자
OMC	메모리 관리, MCP 연동, 템플릿화	중소규모 개발팀
G-Stack	엔터프라이즈 워크플로우, 권한관리	대기업, SI
oh-my-openagent	멀티 에이전트, 한국어 UX	스타트업, 한국 기업

간접 투자 전략

Google(Alphabet): Anthropic의 최대 투자자. Claude의 성장은 직접적으로 Google의 AI 포트폴리오 가치 상승으로 연결됩니다.
NVIDIA: Claude Code 같은 로컬 AI 개발환경이 확산되면, 개발자용 GPU(RTX 시리즈) 수요가 급증합니다.
클라우드 인프라 제공자: Claude의 백엔드 추론을 담당하는 AWS, Google Cloud 모두 수혜를 봅니다.

왜 지금인가?

2025년 하반기 기준 한국 유튜브에서 "클로드 코드 활용법" 검색량 300% 증가
사내 개발 표준을 AI 하네스로 구현하는 기업 사례 급증
MCP(Model Context Protocol) 생태계 확장으로 툴 연동 가능성 폭발

투자 기회 #3: 오픈소스 인프라 플레이 – Red Hat과 Databricks

세 번째는 좀 더 인프라 레이어를 노리는 전략입니다.

Red Hat (IBM 자회사)

하이브리드 클라우드의 원조 격인 Red Hat은 오픈소스 활용의 교과서입니다. OpenShift를 중심으로 한 쿠버네티스 기반 하이브리드 플랫폼은 AI 워크로드 최적화에 이미 투자를 마쳤습니다.

핵심 포인트:

엔터프라이즈가 오픈소스 LLM(LLaMA, DeepSeek r1 등)을 프로덕션에 배포하려면 OpenShift 같은 관리형 플랫폼이 필수
한국 금융권, 공공기관의 AI 도입 시 "온프렘 + 하이브리드" 요구사항에 완벽히 부합
IBM의 watsonx.ai와 결합되면서 엔터프라이즈 AI 스택 완성도 증가

Databricks

데이터 레이크하우스의 선두주자 Databricks는 "AI의 연료"인 데이터를 다루는 기업입니다. 그리고 가장 중요한 건, AKB(Agent Knowledge Base) 같은 엔터프라이즈 지식 인프라와 직접 연결된다는 점입니다.

왜 중요한가?

디노티시아가 공개한 AKB 오픈소스 프로젝트가 강조하는 메시지를 다시 봅시다:

"기업 AI 경쟁력의 핵심은 어느 모델이냐가 아니라, 조직 데이터 활용 능력이다."

Databricks는 바로 그 "조직 데이터 활용 능력"을 제공하는 플랫폼입니다.

요소	기존 RAG	AKB + Databricks
데이터 정합성	낮음	높음 (레이크하우스 통합)
권한 관리	수동	자동 (Unity Catalog 연동)
업데이트 속도	느림	실시간
멀티모달 지원	제한적	텍스트/이미지/로그 통합

Databricks Unity Catalog 소개

투자 타이밍

Databricks IPO 예정 (2026년 상반기 추정)
Red Hat은 IBM 주식으로 간접 노출 (IBM의 하이브리드 클라우드 매출 비중 확대 중)

리스크와 헷지 전략

물론 장밋빛 전망만 있는 건 아닙니다.

주의해야 할 리스크

규제 변동성: 특히 중국 DeepSeek 계열 오픈소스 모델의 글로벌 사용이 지정학적 이슈로 제한될 가능성
오픈소스 수익화 한계: 오픈소스 프로젝트 자체는 투자 대상이 아니며, 간접 수혜 기업 선정이 핵심
기술 전환 속도: 6개월마다 판도가 바뀌는 AI 시장에서 2026년 예측이 빗나갈 가능성

헷지 방법

3개 종목을 동일 비중(33%씩)보다는, 마이크로소프트 50%, 나머지 25%씩 배분
단기(6개월) 체크포인트 설정: Foundry Local 도입률, Claude Code MAU 등 지표 모니터링
순수 오픈소스 플레이(Red Hat, Databricks)는 장기 홀딩(3년+) 전제

자율형 AI 시스템 시대, 진짜 승자는 '레이어드 아키텍처'를 이해하는 기업

마지막으로 짚고 넘어가야 할 건, 이 모든 투자 논리가 **"자율형 AI 시스템"**의 부상과 맞물려 있다는 점입니다.

2025~2026년 엔터프라이즈 AI의 핵심 트렌드는 단일 챗봇에서 멀티 에이전트 워크플로우로의 전환입니다.

레이어드 아키텍처 개념

레이어	구성 요소	대표 플레이어
Layer 1 (인프라)	LLM + 벡터DB + 지식베이스	Azure, AWS, Databricks
Layer 2 (에이전트)	Loba, oh-my-openagent, Claude Code	Anthropic, 오픈소스 커뮤니티
Layer 3 (도메인 앱)	HR 자동화, CS 티켓 처리 등	각 산업별 솔루션 벤더

투자 관점에서 중요한 건: Layer 1과 2를 모두 장악한 기업이 가장 높은 마진을 가져갑니다. 마이크로소프트가 바로 그 위치에 있습니다 (Azure + GitHub Copilot + Foundry Local).

oh-my-openagent GitHub 저장소

결론: 2026년은 '하이브리드'와 '오픈소스'의 해

순수 클라우드 전략은 끝났습니다. 순수 온프렘 회귀도 불가능합니다.

승자는 하이브리드를 가장 자연스럽게 구현하고, 오픈소스 생태계를 가장 영리하게 활용하는 기업입니다.

마이크로소프트: 플랫폼 장악력
Google/Anthropic 생태계: 개발자 생산성 혁명
Red Hat/Databricks: 엔터프라이즈 데이터 인프라

이 세 축에 분산 투자하면서, 6개월마다 실제 도입 지표(Foundry Local 활성 사용자, Claude Code 기업 계약 건수, Databricks AI 워크로드 비중 등)를 체크하는 것이 2026년 AI 포트폴리오의 핵심 전략입니다.

기술이 빠르게 변해도, **"누가 엔터프라이즈 고객의 지갑을 열게 하느냐"**는 결국 신뢰와 생태계입니다. 그 관점에서 위 세 가지 투자 기회는 충분히 방어력 있는 선택지라고 봅니다.

Peter's Pick
더 깊이 있는 IT 트렌드 분석과 투자 인사이트가 궁금하다면, Peter's Pick에서 최신 콘텐츠를 만나보세요.

Peter's Pick에서 더 알아보기

구독을 신청하면 최신 게시물을 이메일로 받아볼 수 있습니다.