생성형 AI가 급속도로 보급되면서 기업들의 고민도 깊어지고 있다. 사용자가 늘수록 서버 비용과 API 호출 비용이 감당하기 힘들 정도로 치솟는 탓이다. 여기에 개인 맞춤형 서비스를 제공하려면 사용자의 개인정보나 사적인 데이터를 취급해야 하는데, 이를 중앙 서버나 외부 AI 모델로 전송하는 과정에서 보안 유출 우려가 постоянно 제기되어 왔다.
비용과 보안이라는 두 가지 걸림돌을 동시에 극복하기 위해 온디바이스 AI와 클라우드를 결합하려는 시도가 활발해지는 분위기다.
공동 구독 서비스 플랫폼 피클플러스와 분산형 AI 클라우드 인프라 기업 에이아이브(AIEEV)가 손을 잡고 개인 맞춤형 AI 에이전트 기술 개발에 본격 착수했다. 양사는 컨소시엄을 구성해 중소벤처기업부가 주관하는 스케일업 팁스(TIPS) 연구개발(R&D) 과제에 최종 선정됐다고 밝혔다.
이번 연구 과제의 명칭은 ‘분산 인프라 기반 사용자 노드-클라우드 연계형 퍼스널 하이브리드 AI 에이전트’다. 정부지원금 약 20억원이 투입되며, 연구개발 기간은 2026년 7월부터 2029년 6월까지 총 3년이다.
프로젝트의 핵심은 사용자 디바이스의 연산 자원과 분산 클라우드를 유기적으로 연결하는 하이브리드 구조에 있다.
민감한 개인 정보가 포함된 문서나 개별 사용자의 맞춤형 데이터 처리처럼 보안이 중요한 작업은 스마트폰이나 PC 같은 사용자 단말기(노드) 내부에서 먼저 처리한다. 반면 복잡한 문맥 이해나 고성능 추론이 필요한 대규모 연산 작업은 분산 클라우드 자원으로 넘겨 처리하는 방식이다.
이러한 방식을 적용하면 중앙 서버에 가해지는 과도한 과부하를 줄일 수 있다. 외부 AI 모델을 호출할 때 발생하는 토큰 비용을 크게 절감하는 동시에 데이터가 외부로 유출될 위험도 원천 차단하게 된다.
이번 협력에서 에이아이브는 분산 클라우드 인프라와 온디바이스-클라우드 간 경계 없이 연동되는 하이브리드 런타임 기술을 제공한다. 피클플러스는 수백만 명의 이용자를 보유한 B2C 플랫폼 운영 노하우를 바탕으로 서비스 실증과 실제 사용자 데이터 흐름 설계를 맡는다.
박세진 에이아이브 대표는 "피클플러스가 축적해 온 B2C 서비스 운영 경험과 에이아이브의 하이브리드 런타임 기술을 접목해, 기업 입장에서 경제적으로 지속 운영 가능한 AI 에이전트 서비스 인프라를 다져나가겠다"고 말했다.
양사는 이번 과제를 통해 AI 서비스의 고질적 병목인 운영비 문제를 개선하고, 보안에 민감한 개인화 AI 시장에서 실질적인 상용화 모델을 제시한다는 계획이다.
