-기존 핑거프린팅 기술 10종 보안성 평가…제거 공격 이후 출처 검증 가능 여부 비교
-오픈소스 라이브러리 ‘mlprints’도 공개…AI 모델 출처·소유권 검증 연구 확대

AI 연구 기업 Sentient가 인공지능(AI) 모델의 출처 확인과 핑거프린팅 기술의 보안성을 검증할 수 있는 오픈 벤치마크 ‘Fingerprinting Index’를 출시했다고 밝혔다.

최근 AI 모델 개발에 대규모 자본과 기술이 투입되는 가운데 모델 복제와 파인튜닝, 디스틸레이션 등으로 인해 원본 모델과 파생 모델 간 관계를 입증하기 어려워지는 문제가 제기되고 있다. 이에 Sentient는 AI 모델에 고유한 서명을 삽입해 출처를 확인하는 핑거프린팅 기술의 실효성을 검증하는 연구를 진행해 왔다.

핑거프린팅은 AI 모델의 학습 과정에서 특정 행동 패턴을 고유한 서명으로 삽입하는 기술이다. 모델 소유자가 비밀 프롬프트를 입력하면 해당 모델이 원본 모델에서 파생됐는지를 모델의 응답을 통해 확인할 수 있도록 설계된다. 별도의 사용 기록이나 메타데이터에 의존하지 않는 것이 특징이다.

Sentient 연구진은 기존에 제안된 핑거프린팅 기술 10종을 대상으로 다양한 공격 환경에서 보안성을 평가했다. 평가 대상에는 Sentient가 자체 개발한 기술도 포함됐다.

회사 측에 따르면 정교한 제거 공격을 적용한 결과 다수 기술에서 핑거프린트가 우회될 가능성이 확인됐다.

이번 Fingerprinting Index는 단순히 핑거프린트 삽입 여부를 확인하는 데 그치지 않고, 공격 이후에도 원본 모델과의 관계를 식별할 수 있는지를 평가하도록 구성됐다.

Sentient는 이를 통해 연구자들이 서로 다른 핑거프린팅 기술의 강건성을 독립적으로 검증하고 성능을 비교할 수 있도록 지원한다는 계획이다. 기존 기술의 취약점을 확인하고 향후 보안성을 높이기 위한 연구에도 활용할 수 있도록 했다.

앞서 Sentient는 NeurIPS 2025에서 핑거프린팅 기술 ‘Perinucleus’를 발표했다. 해당 기술은 Llama-3.1-8B 모델에 2만4,576개의 핑거프린트를 삽입하면서 모델 성능 저하를 최소화하도록 설계됐으며, 파인튜닝 이후에도 상당수의 서명이 유지되는 결과를 보였다고 회사 측은 설명했다.

Sentient는 연구자들이 새로운 핑거프린팅 기술과 공격 방식을 구현하고 기존 실험을 재현할 수 있도록 오픈소스 라이브러리 ‘mlprints’도 공개했다.

향후에는 모델의 핵심 기능과 핑거프린트를 보다 긴밀하게 결합해 서명을 제거할 경우 모델 성능에도 영향을 주는 방식의 기술 개발을 추진할 계획이다.

Sentient는 이를 통해 AI 모델이 공개되고 재사용되는 환경에서도 원본 모델의 출처와 소유권을 기술적으로 검증할 수 있는 기반을 강화한다는 방침이다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지