
전 세계 기업들이 경쟁적으로 인공지능(AI) 전담 조직을 꾸리고 최고AI책임자(CAIO) 자리를 신설하고 있지만, 정작 이들에게 실제 돈줄을 쥘 결정권은 쥐여주지 않은 것으로 나타났다.
IBM 기업가치연구소(Institute for Business Value)가 11월 17일 공개한 설문 결과에 따르면, 기업의 AI 전략을 총괄하는 리더 가운데 AI 투자 결정 전권을 보유했다고 답한 비율은 18%에 머물렀다. AI가 어디서 돈을 벌고 효율을 내는지 진단하는 역할과, 그 결과에 맞춰 예산을 떼어주고 인력을 재배치하는 권한 사이에 뚜렷한 간극이 벌어져 있다는 뜻이다.
이번 조사는 IBM 기업가치연구소가 옥스퍼드 이코노믹스(Oxford Economics)와 손잡고 올해 4~6월 전 세계 33개 지역, 20개 산업군에 몸담은 고위 임원 1667명을 상대로 진행했다. 응답자는 기업 내 AI 전략 수립과 거버넌스, 현장 구현, 가치 실현을 책임지는 △CAIO △최고데이터·AI책임자(CDAIO) △AI 부문 총괄 책임자 등으로 구성됐다. 보고서는 이들을 CAIO라는 명칭으로 묶어 분석했다.
현장에서는 데이터 분석 결과가 나오더라도 실제 실행으로 옮기기까지 적지 않은 병목을 겪고 있었다. AI 성과 분석 과정에서 개선 기회가 포착됐을 때 의사결정과 자원을 곧바로 조정한다고 답한 리더는 29%뿐이었다. 40%는 분석 결과를 두고 내부 논의를 거치긴 하지만 실행 단계에서 속도가 늦어진다고 토로했다. AI 도입이 단순한 업무 보조를 넘어 판매 대상과 가격 책정, 가치 확보 방식 등 사업 모델 자체를 흔들고 있다고 본 응답자는 32% 수준이었다.
최근 기업 화두로 떠오른 AI 에이전트 운용에서도 자율성과 통제 사이의 줄다리기가 선명하게 드러났다. 응답자의 48%는 AI 에이전트가 여러 업무 흐름을 넘나들며 스스로 작업을 시작하고 실행한다고 답했다. 하지만 동시에 75%는 거버넌스와 위험 관리, 규정 준수 문제에 발목이 잡혀 AI 기반 실행이 지연되고 있다고 밝혔다.
통제 장치를 마련하려는 움직임도 바쁘다. 사람의 개입과 감독이 필수적인 영역을 명확히 선 그어 두었다는 응답이 73%였고, AI의 의사결정 권한이 조직 내에서 일관되게 적용된다고 답한 비율은 61%로 집계됐다.
조사는 전체 응답자 가운데 뚜렷한 실적을 낸 '고성과 CAIO' 집단과 나머지 집단을 갈라 운영 방식의 차이를 뜯어봤다. 격차는 수치로 확연히 드러났다. 고성과 집단은 추진 중인 AI 프로젝트의 63%가 측정 가능한 사업 성과를 내고 있다고 보고한 반면, 일반 집단은 43%에 그쳤다.
기술 검증을 넘어 실제 현업에 안착시키는 속도 역시 달랐다. 시범사업 단계를 벗어나 실제 운영 환경으로 넘어간 비율은 고성과 집단이 49%, 일반 집단이 33%였다. 성공 모델을 전사 차원으로 확산하는 데 걸리는 시간도 고성과 집단은 평균 8개월로, 13.5개월이 걸린 나머지 집단보다 5개월 이상 빨랐다.
가장 결정적인 차이는 자본과 인력을 다루는 태도에서 갈렸다. 고성과 CAIO의 94%는 철저히 사업 성과 데이터를 근거로 추가 자금과 인재를 투입할 과제를 고른다고 답했다. 특히 눈여겨볼 대목은 실패한 프로젝트에 대한 손절매 기준이다. 기대한 성과를 내지 못하는 이니셔티브라면 설령 최고경영진의 강력한 지원을 받는 사업이더라도 투자를 중단하거나 축소한다는 응답이 고성과 집단에서는 96%에 달했다. 반면 일반 집단에서 같은 선택을 내린 비율은 46%로 절반에도 미치지 못했다. AI 도입으로 거둔 생산성 개선 효과를 다시 더 높은 부가가치 전환 프로젝트에 재투자하는 비율 역시 각각 95%와 44%로 두 배 넘게 벌어졌다.
기업 내부의 위기감은 상당한 수준이다. 전체 응답자의 71%는 현재 소속 조직이 AI 전환 속도전에서 경쟁사에 뒤처질 위험을 안고 있다고 진단했다. 이를 돌파하기 위해 가장 먼저 손봐야 할 과제로는 기존 업무 흐름과 사업 프로세스의 재설계를 꼽았다.
연구진은 고성과 조직이 거둔 뛰어난 실적이 단순히 최신 AI 모델을 먼저 도입해서가 아니라고 짚었다. AI 에이전트의 자율성을 허용하되 빈틈없는 통제 체계를 맞물려 돌리고, 기존 일하는 방식을 뜯어고치며, 철저한 근거 데이터에 기반해 투자를 결정하는 일관된 운영 원칙이 맞물린 결과라는 분석이다.






