생성형 AI 기술의 급격한 발전으로 타인의 얼굴을 무단 합성하는 딥페이크 범죄가 사회적 문제로 대두되는 가운데, 이에 대응하는 보안 기술의 실제 현장 적용이 속도를 내고 있다.
AI 보안 스타트업 스틸컷이 서울대학교 공과대학과 업무협약을 맺고 공개 프로필 사진을 대상으로 딥페이크 선제방어 기술을 전면 적용한다. 이번 협약에 따라 스틸컷은 자체 개발한 보안 솔루션 '스틸컷 프로텍트(StealCut Protect)'를 서울대 공과대학 연구실 홈페이지에 게시되는 교수진과 연구자들의 프로필 사진에 순차적으로 적용할 예정이다.
최근 대학 연구실이나 학안에 게시된 연구원, 교수진의 프로필 사진은 누구나 접근할 수 있다는 점 때문에 딥페이크 악용 범죄의 주요 표적이 되어 왔다. 스틸컷 프로텍트는 AI 학습 모델이 이미지 내의 얼굴 특징점을 제대로 추출하지 못하도록 이미지 데이터의 미세한 영역에 노이즈를 섞어 넣는 기술이다. 사람의 눈에는 일반적인 사진과 똑같이 보이지만, AI가 이 이미지를 학습하거나 딥페이크 합성 모델에 입력할 경우 형상을 제대로 인식하지 못하고 왜곡된 결과물이 생성된다. 이미 노출된 사진을 역추적해 삭제하는 사후 대응 방식을 벗어나, 이미지 유출 이전 단계부터 무단 합성을 차단하는 선제방어 방식이다.
스틸컷은 앞서 서울대학교 총학생회와 협약을 체결하고 2026년 졸업앨범에 들어가는 졸업사진 전량에 해당 기술 적용을 마쳤다. 이번 공과대학 연구실 프로필 사진 적용에 더해, 내년 진행될 2027년 졸업사진 적용 물량까지 합치면 스틸컷 프로텍트로 보호 처리되는 서울대 구성원의 실사진은 총 1만 장을 넘어설 것으로 추산된다.
이 같은 보안 기술 도입 배경에는 연구진의 개인정보와 초상권 보호에 대한 학내외 수요가 크게 늘어난 점이 작용했다. 서울대 공대 김성재 교수는 협약 배경에 대해 "최근 온라인에 공개된 구성원들의 얼굴 사진이 무단 도용되거나 악용될 수 있다는 우려가 커지면서, 연구자들의 연구 환경과 초상권을 보호하기 위한 실질적인 방안이 필요했다"고 설명했다.
그동안 딥페이크 대응 시장은 악용 기술의 빠른 변화 속도에 비해 방어 솔루션의 현장 적용이 더디다는 지적이 이어져 왔다. 합성 알고리즘은 빠르게 상용화돼 대중화된 반면, 이를 막아서는 보안 기술은 대다수 연구실 연구나 시범 테스트 단계에 머물러 있었기 때문이다.
이정훈 스틸컷 대표는 "딥페이크를 악용하는 기술은 이미 누구나 쉽게 쓸 수 있는 상용 단계에 진입한 데 반해 이를 막는 방어 기술은 여전히 연구 단계에 머물러 있다는 한계가 있었다"며 "이번 서울대 공대 및 졸업사진 적용 사례는 딥페이크 선제방어 기술 역시 실제 현장에서 즉시 작동할 수 있는 상용 솔루션임을 입증한 계기"라고 말했다.
스틸컷은 이번 서울대 사례를 발판 삼아 타 대학 연구실 및 공공기관, 기업 등 공개 프로필 사진 노출이 많은 주요 기관을 중심으로 딥페이크 방어 솔루션 공급을 확대해 나갈 계획이다.
