안전한 기술 사용법, 보안대책 등 담겨
국가정보원이 이달 중 챗GPT 등 생성형 인공지능(AI) 기술 활용과 관련한 보안 가이드라인을 마련하기로 했다.
11일 국정원은 “그동안 AI 기술 활용 과정에서 업무상 비밀·개인정보 유출, 가짜뉴스·비윤리적 자료 생성 등 기술 악용에 대한 우려가 제기돼왔다”며 “행정업무 효율화를 위해 AI 기술을 활용하고자 하는 정부 기관들을 지원하기 위해 보안 가이드라인을 제정한다”고 밝혔다.
최근 생활 전반에 챗GTP의 사용이 늘어나면서 주요국들에서는 보안과 관련한 가이드라인을 정해 배포하고 있다. 미국과 유럽연합은 정부 차원에서 챗GPT 사용시 발생할 수 있는 부작용을 방지하기 위해 'AI 행동강령' 제작에 착수했다. 이탈리아 정부는 '정보 보호'를 위해 챗GPT 접속을 차단했다가 운영사의 보안조치를 확인한 뒤 접속을 재개하기도 했다. 각국 정부 외에서도 국내외 민간기업들도 사내 보안정책을 강화하고 있다.
최근 정부도 행정 분야에 챗GPT를 활용하는 방안을 적극적으로 모색하고 있다. 이에 국정원은 지난 4월부터 국가보안기술연구소와 학계 전문가가 참여해 '챗GPT 등 생성형 AI 기술 활용 보안 가이드라인' 제정에 착수했다. 가이드라인에는 △생성형 AI 기술 개요와 보안 위협 △안전한 AI 기술 사용 방안 △기관 정보화사업 보안대책 등의 내용이 담겨있다.
지난 7일 국정원이 발간한 ‘2023 정보보호백서’에서는 챗GPT를 비롯해 대규모 언어 모델에 기반한 대화형 인공지능 서비스(LLM·Large Language Models Conversational AI)가 빠르게 성장하면서 사이버보안 위협이 증가하고 있다고 진단했다.
보고서는 “잠재적으로 악용 가능한 AI 모델 중 하나는 GPT-3와 같은 대형 언어 모델”이라며 “자연어 처리와 생성 분야에서 광범위하게 사용되면서 사이버 범죄와 같은 불법적인 목적으로 사용될 가능성이 있다”고 우려했다. 사람처럼 글을 쓰고 응답하거나, 텍스트를 분석하고 생성할 수 있기 때문에 범죄자들이 스팸이나 사기, 협박, 교란 등에 악용할 수 있다는 지적이다.
또 대화형 AI 모델은 텍스트를 분석해 이름, 전화번호, 이메일 주소 등과 같은 개인정보를 추출, 수집하는 것도 가능해 악의적인 목적으로 사용되기 쉽다. 보고서는 “AI 기술이 발전하고 사회적으로 활용도가 높아짐에 따라 AI 시스템을 악용하려는 시도도 증가할 것”이라며 “윤리적이고 안전하게 AI 기술을 개발하고 활용하는 것이 중요하고 이를 위한 정책·법률·교육 등의 대책 마련이 필요하다”고 바 있다.
이에 대응하기 위해 지난 9일 국정원은 관련 분야 산·학·연 전문가 의견을 청취하기 위해 '국가 사이버안보 민관 협의체 회의'를 개최했다. 이날 회의에는 '국가 사이버안보 민관 협의체' 소속 AI기술·정보보안 전문가를 비롯해 행정안전부, 교육부 등 관련 부처의 정보보안 담당자 등 60여명이 참여했다.
이날 회의에서 한국정보보호학회 AI보안연구회 부위원장인 권태경 연세대 교수은 “기술의 발전만큼 중요한 것이 관련 보안제도의 마련”이라며 “보안정책의 틀 위에서 AI 기술의 활용이 이뤄져야 한다”고 말했다.
국정원은 “정부 기관들이 업무에 민간의 AI 기술 등을 활용하기 위해서는 정부 차원의 AI 도델을 행정업무망 내부에 자체 구축하는 형태로 AI 시스템을 구축해야 한다”며 “이날 논의된 내용과 기관별 애로사항을 반영해 이달 중 전체 국가 공공기관과 지자체에 보안 가이드라인을 배포할 계획”이라고 밝혔다. 그러면서 “향후 등장하는 IT 신기술에 대해서도 적시에 보안대책을 마련해 각급기관의 안전한 정보통신기술 활용을 지원할 방침”이라고 덧붙였다.
