IT 일반

오픈AI도 검증 맡겼다…모두 성능 볼 때 ‘보안’ 택한 에임인텔리전스

정길준 기자

입력 2026.10.03 11:00

공유: 공유

인쇄: 인쇄

URL: URL복사

댓글: 댓글

[AI 3강 이끌 개척자들]⑦ 유상윤 에임인텔리전스 대표
챗GPT 등장 때 AI 취약점 주목…학업 중단하고 2024년 창업
‘스팅어·스타포트’로 통신·금융권 공략…피지컬 AI까지 확장

유상윤 에임인텔리전스 대표가 서울 강남구 사옥에서 [이코노미스트]와 인터뷰를 하고 있다. [사진 서병수 기자]

[이코노미스트 정길준 기자] 오픈AI가 인공지능(AI) 안전 통제 솔루션 출시 전 아시아에서 유일하게 검증을 맡긴 국내 스타트업이 있다. 유상윤 대표가 이끄는 에임인텔리전스다.

에임인텔리전스는 우회 명령으로 AI 안전장치를 무력화하는 취약점 ‘프롬프트 인젝션’을 찾아냈다. 오픈AI는 이를 보완한 뒤 솔루션을 정식 출시했다.

글로벌 AI 기업과 협업하기까지 유 대표의 여정은 순탄하지 않았다. 2022년 말 챗GPT 3.5가 등장했을 당시 그는 서울대 대학원에서 석박사 통합 과정을 밟고 있었다. 대부분의 연구자가 AI 성능 향상에 집중했지만 유 대표는 보안이 AI 확산의 걸림돌이 될 수 있다고 봤다.

주변 연구자들의 반응은 차가웠지만 유 대표는 “애매하게 연구실에 남아 있느니 뒤가 없는 배수의 진을 치겠다”며 학업을 중단했다. 모두가 산업별 AI 서비스에 주목하던 2024년 AI 보안 하나만 보고 창업에 뛰어들었다. 같은 문제의식을 가진 AI 안전 연구자들도 합류했다.

유상윤 대표가 인공지능(AI) 보안 솔루션에 대해 설명하고 있다. [사진 서병수 기자]

설립 첫해 직접 연 세미나에서 KT 보안 담당자들을 만나 첫 고객사를 확보했다. 이후 2년 만에 임직원 40명 규모로 성장했다.

SK텔레콤·KT·LG유플러스 등 이동통신 3사와 KB국민카드·삼성생명·신한투자증권 등 금융회사에 솔루션을 공급하고 있다. 엔비디아 글로벌 AI 스타트업 경진대회에서는 ‘톱10’에 올랐다. 시리즈A까지 누적 투자금은 130억원이다.

핵심 무기는 모의 공격 솔루션 ‘스팅어’(Stinger)와 실시간 방어 솔루션 ‘스타포트’(Starfort)다.

스팅어는 군대의 가상 적군인 레드팀처럼 AI 에이전트를 공격해 취약점을 미리 찾아내는 창이다. 스타포트는 AI가 유해한 답변을 내놓거나 외부 공격에 노출되지 않도록 막는 방패다. 중세의 별 모양 요새에서 이름을 따왔다.

유 대표는 “클라우드플레어가 대중에게 잘 알려지지 않았지만 인터넷의 기반을 지키듯, 에임인텔리전스도 사람들이 존재를 의식하지 못할 정도로 일상에 스며드는 글로벌 AI 보안 인프라가 되겠다”고 말했다.

유상윤 에임인텔리전스 대표가 서울 강남구 사옥에서 피지컬 인공지능(AI) 보안 연구에 활용하는 유니트리 휴머노이드 로봇 ‘G1’과 포즈를 취하고 있다. [사진 서병수 기자]

1. 영감을 준 ‘인물’(WHO)은 누구입니까?

“메타를 이끄는 마크 저커버그입니다.” 젊은 나이에 창업해 새로운 시장을 만들고 회사를 세계적인 빅테크로 키운 리더입니다. 수많은 비판에도 기술적 성과로 자신이 선택한 방향을 증명하는 결단력에서 큰 영감을 받았습니다.

2. 빅테크가 대체할 수 없는 당신만의 ‘독자적 가치’(WHAT)는 무엇입니까?

“자율 AI 에이전트와 멀티모달 환경에 특화된 ‘AI 네이티브’ 보안과 행동 통제 기술입니다.” 기존 보안 체계는 사람의 행동을 기준으로 한 규칙에 의존합니다. 그러나 AI 에이전트는 정상적인 지시와 외부의 악의적인 명령을 완벽하게 구분하지 못합니다. 에임인텔리전스는 텍스트뿐 아니라 음성과 이미지, 영상에 숨겨진 악의적 지시를 찾아냅니다. 자율 에이전트의 이상 행동과 권한 오용도 미리 탐지하고 통제합니다.

3. 자본과 인프라 한계를 ‘어떤 방식’(HOW)으로 돌파하고 있습니까?

“대형 보안 기업이 따라오기 어려운 속도와 AI 보안의 중요성을 일찍 알아본 인재들의 결속력입니다.” 우리는 ‘AI 에이전트 보안과 자동화’라는 목표에 집중해 빠르게 결정하고 움직입니다. AI 안전성을 연구한 석박사 인력과 현장에서 보안 문제를 경험한 엔지니어들이 모여 기술 개발의 속도와 완성도를 높이고 있습니다.

4. 기술로 승부를 보겠다고 확신한 ‘결정적 계기’(WHY)는 무엇입니까?

“모든 권한을 AI에 넘겨주는 ‘퍼스널 에이전트’ 시대에는 성능이 아니라 보안이 진짜 병목이 될 것이라는 직감입니다.” 챗GPT 3.5가 등장했을 때 AI가 개인의 업무와 일상을 대신할 것으로 봤습니다. AI 비서가 카드번호나 비밀번호를 다루려면 정보를 안전하게 사용하고 정해진 권한을 넘지 않도록 통제할 인프라가 필요합니다. 여기에 확신이 들어 창업했습니다.

5. 기술력을 마침내 인정받게 될 ‘결정적 시점’(WHEN)은 언제입니까?

“사용자가 위협을 느끼지 못할 정도로 일상에 자연스럽게 스며들어 세상을 지키는 순간입니다.” 보안이 가장 빛나는 순간은 사고가 일어나지 않아 존재감을 드러낼 필요가 없을 때입니다. 에임인텔리전스도 기업과 개인이 비용이나 운영 부담을 크게 느끼지 않고 사용할 수 있는 AI 보안 인프라로 자리 잡고자 합니다.

6. 가장 먼저 파고들 ‘핵심 타깃 영역’(WHERE)은 어디입니까?

“자율 에이전트 도입이 활발한 대기업과 금융권을 넘어 중소·중견기업과 피지컬 AI 시장을 겨냥합니다.” 대기업과 금융권에서 입지를 다지는 동시에 보안 인력이 부족한 중소·중견기업도 쉽게 설치하고 자동으로 운영할 수 있는 솔루션을 제공할 계획입니다. 장기적으로는 로봇과 자율주행 등 현실의 안전과 직결되는 피지컬 AI 보안으로 영역을 넓혀갈 것입니다.