성남 AI 보안 전문기업 윈즈(사장 양승천)와 생성형 AI 구축 전문기업 클라비(대표 안인구)가 업무협약(MOU)을 체결하고 생성형 AI 플랫폼 구축 및 보안 협력에 나선다.

최근 공공기관과 기업을 중심으로 LLM 도입이 늘면서 개인정보·기밀 유출, 부적절한 프롬프트 및 응답 생성 등 운영 단계의 보안 위협이 커지고 있다. 이를 막기 위한 실시간 검사·차단 안전장치 마련이 이번 제휴의 출발점이다.

아이오나 해치의 주요 기능

‘아이오나 해치’는 선악과 옳고 그름을 판단하고, 화재와 재앙을 막는 상상의 동물 ‘해치’에서 착안한 이름이다. 윈즈는 이 의미를 바탕으로 LLM과 사용자 사이에서 입력과 응답을 정책에 따라 검증·통제하는 AI 보안 가드레일로 아이오나 해치를 개발했다.

· 폐쇄망 내부 판정 완결: 외부 인터넷 연결 없이 내부에서 검사·판정을 완결
· 구간별 정책 통제: 사용자 질문부터 최종 응답까지 7개 구간을 각각의 정책으로 통제
· 입·출력 탐지 및 조치: 개인정보·민감정보·기밀정보 탐지 시 허용·경고·차단·마스킹·기록
· 무단 변조 방지: 모든 판정 기록을 해시 연결 방식으로 보존해 사후 변조 원천 차단

도입 기관 기대 효과

클라비의 구축 기술력과 윈즈의 보안 기술력이 결합되면서 도입 기관은 다음과 같은 효과를 실제 운영에서 체감할 수 있다.

· 업무 활용도 유지: AI 사용을 제한하지 않고 위험 요소만 선별 통제해 활용성 보장
· 보안성 검토 대응: 입·출력 검증과 판정 기록 등 통제 체계를 마련, 보안 검토 부담 완화
· 운영 리스크 축소: 구축 이후 발생할 수 있는 정보 유출 및 오남용 위험을 사전 차단
· 원스톱 도입 지원: 구축과 보안을 연계해 이중 계약 및 관리 부담 완화

향후 계획

양사는 이번 협력을 기반으로 공공·금융·교육·기업 시장에서 생성형 AI 사업을 적극적으로 확대해 나갈 방침이다.

윈즈 양승천 사장은 “LLM 구축 사업이 확대되면서 안전한 운영이 핵심 과제가 되고 있다”며 “AI 구축 전문기업 클라비와의 협력을 통해 LLM 서비스와 AI 보안을 결합한 사업 모델을 다양한 시장으로 확대해 나갈 것”이라고 밝혔다. 이어 “아이오나 해치는 LLM의 입력과 출력 과정에서 발생할 수 있는 보안 위협을 정책에 따라 통제할 수 있도록 개발됐다”고 덧붙였다.

안인구 클라비 대표는 “생성형 AI가 실제 업무 환경에 빠르게 적용되면서 LLM의 활용성과 함께 데이터 보호와 보안 위협에 대한 대응 역량이 중요한 경쟁력으로 부상하고 있다”며 “클라비의 생성형 AI 구축 경험과 윈즈의 AI 보안 기술을 결합해 LLM 도입부터 운영까지 안전성을 확보할 수 있는 통합적인 AI 환경을 제공하고, 공공·금융·교육·기업 등 다양한 시장으로 협력 사업을 확대해 나갈 계획”이라고 밝혔다.

윈즈 소개

윈즈는 2001년 설립된 정보보안 전문 기업이다. 보안 솔루션 개발과 보안 장비 공급, ASP 서비스, 네트워크·보안 솔루션 제공 등을 주요 사업으로 하고 있으며, RADWARE 장비 기반의 네트워크 보안 서비스도 함께 제공한다. 최근에는 생성형 AI 서비스 ‘AIONA’를 개발해 교육기관 및 공공·기업 대상으로 공급하며 사업 영역을 확대하고 있다.