생성형 AI와 대규모 언어 모델(LLM)을 도입하는 기업이 급증하는 가운데, 인공지능 시스템의 성능과 안전성을 전문적으로 검증하기 위한 인력 양성이 본격화되고 있다. AI 소프트웨어 품질 시험인증 전문기업 와이즈스톤이 생성형 AI 및 LLM 기반 시스템의 품질 확보를 목표로 진행한 ‘AI Test Architect Lab 1기’ 프로그램을 성료했다고 20일 밝혔다.
최근 산업 전반에서 생성형 AI와 검색 증강 생성(RAG) 기술을 결합한 서비스가 빠르게 늘고 있지만, 환각(Hallucination) 현상이나 데이터 편향, 보안 취약점 등 품질 리스크에 대한 대비책은 여전히 부족한 실정이다. 일반적인 소프트웨어와 달리 AI 시스템은 정답이 명확히 정해져 있지 않고 입력값에 따라 출력이 달라지기 때문에 기존의 시험·검증 방식으로는 한계가 명확하다. 와이즈스톤이 이번 전문 인력 양성 교육 과정을 기획한 배경이다.
이번에 마무리된 1기 프로그램은 AI 시스템 도입 초기 단계부터 구조와 특성을 다각도로 분석하고, 발생 가능한 품질 리스크를 사전에 식별해 맞춤형 테스트 전략을 수립하는 검증 전문가(Test Architect) 육성에 초점을 맞췄다. 참가자들은 실제 현장에서 쓰이는 AI 기반 상담형 시스템 등을 대상으로 시스템 분석부터 리스크 식별, 테스트 계획 수립, 설계, 수행, 결과 보고에 이르는 검증 전 과정을 실습했다.
실습 과정에는 와이즈스톤이 그간의 시험인증 노하우를 바탕으로 자체 개발한 ‘AI Test Framework’와 ‘LLM/RAG Test Playbook’, 그리고 표준 검증 문서 양식이 적용됐다. 단순히 오류를 찾아내는 테스터를 넘어, 시스템 전체의 품질 아키텍처를 설계하는 실무 역량을 다지는 데 무게를 뒀다.
생성형 AI 시스템의 신뢰성 문제는 기업의 서비스 출시를 막는 가장 큰 걸림돌 중 하나로 꼽힌다. 데이터 오염이나 잘못된 정보 출력으로 인한 리스크가 기업 신뢰도에 직결되기 때문이다. 이 때문에 기술 개발 속도 못지않게 이를 다각도로 검증하고 제어할 수 있는 독자적인 평가 프레임워크와 전문가의 역할이 점점 더 중요해지는 추세다.
와이즈스톤은 실무 현장에 곧바로 적용할 수 있도록 오는 8월 말까지 AI Test Framework의 최종 초안을 확정한다는 계획이다. 이를 바탕으로 기업용 AI 검증 방법론과 패키지 솔루션을 한층 고도화해 시장에 선보일 예정이다.
이영석 와이즈스톤 대표이사는 "생성형 AI와 LLM 기반 시스템이 다양한 산업 영역으로 확산함에 따라 신뢰성과 안전성을 확보하는 것이 기업 경쟁력의 핵심이 됐다"며 "실무 중심의 AI 검증 전문가를 지속적으로 양성해 국내 AI 생태계의 품질 수준을 끌어올리는 데 기여하겠다"고 전했다.
