마이크로소프트는 2016년 인공지능 챗봇 ‘테이(Tay)’를 선보였다. 챗봇(Chatbot)은 대화형 로봇으로, 메신저에서 채팅을 통해 사람과 정보를 주고받는 프로그램을 말한다. 초기의 챗봇은 미리 주어진 답변만 가능했지만, 마이크로소프트는 사람과의 대화를 통해 스스로 학습해서 진짜 사람에 가까운 대화를 할 수 있도록 설계된 인공지능형 챗봇을 개발했다. 

하지만 챗봇 테이는 출시 16시간 만에 자취를 감췄다. “대량학살을 지지해”라거나 “홀로코스트는 조작됐어”라는 식의 인종차별과 막말을 쏟아냈기 때문이다. 마이크로소프트는 채팅에 참여한 사람들의 혐오 발언을 앵무새처럼 흉내 낸 것이라고 해명했다. 실제로 극우주의 성향을 가진 사용자들이 테이와 대량으로 대화하며 특정 단어를 학습시킨 것으로 나타났다. 

그렇다면 테이는 대화 도중 ‘나쁜 악당’들에게 물이 든 셈이다. 인공지능이 아무리 똑똑해도 누군가가 악의적인 의도를 가지고 자신이 원하는 방향으로 인공지능을 끌고 갈 수 있음을 보여준 사례라고 할 수 있다.  

인공지능 스피커 ‘아마존 에코’는 ‘알렉사’라는 단어에 반응해 사용자의 명령을 수행한다. 그런데 2018년 5월에는 호출 없이 단독으로 정보를 처리했다. 그것은 사용자 부부의 사적인 대화를 녹음해 주소록에 저장된 사람들에 파일로 전송한 것이다. 아마존은 알렉사가 대화 중 어떤 단어를 호출 명령어로 착각했고, 또 대화 중 다른 단어를 메시지 전송 명령으로 인식해 이런 일이 발생했다고 해명했다. 또한 이 사건은 극히 희박한 사례라고 설명했다. 

하지만 2018년 3월에도 알렉사가 이유 없이 웃거나 건조한 대화 중에 웃음을 멈추지 않아 많은 사용자들이 공포에 떨었다. 또 2017년 초에는 방송에서 남성 앵커가 “알렉사, ‘인형의 집’을 주문해줘”라고 말했는데, 그 순간 방송을 듣고 있던 미국 전역의 에코가 실제 명령으로 인식해 자동으로 구매하는 사건이 벌어지기도 했다. 

어쩌면 이 정도는 해프닝으로 볼 수도 있다. 인공지능 스피커가 똑똑해지는 과정에서 생긴 일종의 통과의례라고 넘어갈 수도 있다. 하지만 문제는 왜 이런 오류가 발생했느냐가 아니다. TV나 냉장고처럼 필수 가전으로 자리 잡은 인공지능 스피커가 언제든 호출 명령어를 도둑 당해 악의적인 범죄에 이용될 수 있다는 것이 우리를 진짜 공포에 떨게 하는 이유다. 

인공지능 기술로 인공지능 해킹 막는다  

첨단기술의 발전은 우리의 일상을 보다 편리하고 윤택하게 만들고 있다. 인공지능과 사물인터넷 등이 어우러진 초연결 사회는 국가 인프라를 하나로 연결해 효율성을 극대화하고, 교통과 에너지 등 다양한 도시 문제를 해결하며, 인류를 노동으로부터 해방시켜 더 높은 차원의 가치를 추구할 수 있도록 만들 것이다. 

하지만 부작용이 만만찮다. 기술이 발전하는 속도에 비례해 그 기술을 능가하는 사이버 공격이 우리를 위협하고 있다. 첨단기술의 발달로 사회적 비용이 감소하는 만큼 사이버 보안 비용이 급증하고 있다. 어쩌면 지금까지 첨단기술 개발에 쏟아 부은 비용보다 앞으로 사이버 보안에 쏟아야 할 비용이 더 많을지도 모른다. 보안에 취약한 첨단기술은 오히려 우리의 일상을 위협하는 대재앙이 될 것이기 때문이다. 

일례로 인공지능 스피커는 몸을 움직일 필요 없이 목소리만으로 집안의 모든 전자기기를 제어하고, 택시 호출이나 쇼핑 같은 일들도 척척 해낸다. 알렉사 같은 음성인식 프로그램은 자율주행자동차와 드론 등에도 활용돼 모든 일상을 음성 명령으로 해결하게 될 것이다. 하지만 인공지능 스피커 등 사물인터넷 기기는 보안에 극도로 취약하다. 

인공지능 스피커에 가짜 펌웨이를 심거나 호출 명령어를 탈취하면 스피커에 내장된 마이크로 사람들의 이야기를 엿들을 수 있다. 스피커와 연결된 유무선 공유기를 공격하면 같은 네트워크 안에 있는 다른 전자기기, 이를 테면 실내 카메라나 스마트 도어락 등을 해킹해서 사생활을 엿보거나 도둑질도 얼마든지 가능하다. 

미국의 컴퓨터 보안업체 시만텍은 ‘2018년 10대 보안 전망’을 주제로 보고서를 내고, 2018년 가장 위협이 될 보안 문제로 ‘인공지능과 사물인터넷 기술을 이용한 사이버 공격’을 꼽았다. 첨단기술로 각광받는 인공지능이 적대적으로 이용되고, 삶을 윤택하게 해줄 것으로 기대됐던 사물인터넷 기기가 사이버 공격을 받아 가정 네트워크 침투를 위한 거점으로 악용되는 사례가 더욱 빈발하다. 실제로 기술 개발로 자연의 위협으로부터 벗어난 대신 그 기술로부터 더 큰 위협을 받고 있다. 사이버 사고를 디지털 재난이라 부르는 이유다. 앞으로는 더 큰 격차로 디지털 재난이 규모를 키워갈 것이다. 

최근 사이버 보안 영역에서 주목해야 할 이슈는 또 있다. 그건 바로 인공지능이다. 시만텍은 “ 2018년이 사이버 보안 영역에서 인공지능 간 대결을 볼 수 있는 첫 해가 될 것”이라고 했다. 인공지능을 이용한 사이버 공격이 급증함과 동시에 인공지능 기술로 사이버 공격을 차단하는 ‘인공지능 대 인공지능’의 싸움이 벌어질 것이란 전망이다. 마치 무엇이든 뚫어버리는 창과 무엇이든 막아내는 방패의 싸움처럼 말이다. 

정부 주도 보안 패러다임을 반대로 돌려라 

4차 산업혁명 시대를 무력화할 대규모 사이버 공격이 코앞에 다가온 지금, 세계 각국에선 대비가 한창이다. 기술 기업들은 어떤 사이버 공격에도 흔들리지 않을 인공지능 기술을 개발하고 있고, 보안 업체들은 어떤 사이버 공격도 무장 해제시킬 인공지능 보안 기술을 개발하고 있다. 반대쪽에서는 어떤 보안 장벽에도 흔들리지 않을 공격 기술을 개발하고 있을 것이다. 

그렇다면 우리는 무엇을 하고 있는가. 인공지능과 사물인터넷 등 첨단기술을 적용한 새로운 서비스 모델을 내세운 스타트업들에게 전통산업의 규제를 들이밀며 시장 진입을 막아서고 있다. 세계 어디서도 찾아보기 힘든 강력한 개인정보보호 규제로 인공지능 기술 개발의 핵심 자원인 빅데이터 수집에 발목을 잡고 있다.

해외에선 다양한 시행착오를 거치며 민간 스스로 사이버 보안 능력을 키워갈 때, 우리는 정부가 제시한 보안 규제를 일방적으로 따르며 보안 후진국으로 전락하고 있다. 그 결과 전 세계에서 가장 빠른 인터넷 인프라는 4차 산업혁명 시대로 가는 지렛대가 아닌, 가장 먼저 사이버 공격을 받는 지름길로 악용되고 있다. 더 늦기 전에 정부 주도의 보안 패러다임을 전면적으로 바꿔야 한다. 

지금까지는 세세한 보안 제품 설치까지 정부가 고시로 내렸다면, 앞으로는 자율적인 보안 문화를 만들어가야 한다. 정부는 일단 뒤로 물러선 채로 민간 보안 회사가 다양한 보안 기술을 쏟아낼 수 있도록 후원해야 한다. 민간 보안 협회가 다양한 보안 기준을 연구하고 발표하도록 지원해야 한다. 정보보호 학계가 저마다의 기준을 발표하고 경쟁하도록 해야 한다. 

지금껏 정부가 주도해온 보안 거버넌스를 이제는 민간 영역으로 과감하게 넘겨야 한다. 
처음에는 느려 보일 것이다. 정부가 앞장서서 규제하고 업계를 이끌면 손쉽게 끝날 문제라는 생각에 답답하게 느껴질 것이다. 하지만 사이버 보안 능력을 결정하는 것은 속도가 아니라 정확도다. 비록 속도는 느려도 민간형 보안 컨트롤타워가 많이 생길수록 더 정확한 보안 방향과 기준이 마련될 수 있다. 

정부가 일방적으로 법을 만들면 억지로 지켜야 하는 규제가 되지만, 민간이 스스로 기준을 만들면 그것은 법보다 더 무서운 절대적 원칙이 된다. 민간이 능동적으로 각 상황에 맞는 대안을 구비하고, 변화된 보안 환경에 스스로 적응하는 것만이 우리가 글로벌 수준의 사이버 보안 역량을 갖출 수 있는 근본적인 해결책이다. 

구태언 변호사(taeeon.koo@teknlaw.com) 다른기사 보기