영국항공(British Airways), 부츠( Boots), BBC 등 쟁쟁한 조직에 대한 파괴적인 사이버 공격이 잇따르면서 인공지능(AI) 시스템의 취약성과 공급망 보안의 취약성에 대한 우려가 커지고 있다. 급여 데이터 유출 사건은 경종을 울렸고, 전문가들은 잠재적인 AI 취약성에 초점을 맞추기 시작했다. 데이터 및 분석 회사인 글로벌 데이터(GlobalData)는 해커들이 점점 더 AI 시스템을 공격대상으로 노리고 있기 때문에 사이버 공격과의 전쟁에서 이미 패배했을 수 있다고 경고한다.
글로벌 데이터의 분석가인 데이비드 비크넬(David Bicknell)은 대부분의 기업의 방어 능력을 뛰어넘는 공격의 정교함을 인정한다. 그는 조직이 사이버 위협에 대한 복원력을 높이기 위해 노력할 수밖에 없다고 강조한다. 이러한 공격은 많은 이해 관계자들의 인식을 뛰어넘어 광범위하게 테스트되었기 때문이다.
사이버보안 기업 크롤(Kroll)은 클롭 랜섬웨어 그룹의 활동을 분석한 결과, 2021년 이후 현재 패치가 완료된 MOVEit Transfer 관리형 파일 전송(MFT) 솔루션의 제로데이 취약성에 대한 공격 추구를 확인했다.
이어서 비크넬은 악의적인 공격자의 생성 AI를 포함한 AI 사용을 제한하기 위한 사전 조치의 중요성을 강조한다. 그는 보안 연구자들이 AI 소프트웨어 보호 장치를 우회하고 기능을 조작하여 궁극적으로 민감한 정보를 노출할 수 있는 용이성을 입증한 최근 사건을 강조한다. 이러한 취약성은 효과적으로 제어되지 않는 한 의심할 여지 없이 미래에 AI 기반 사이버 공격으로 이어질 것이다.
글로벌 데이터의 라제시 무루(Rajesh Muru), 글로벌 엔터프라이즈 사이버 보안 책임자는 공급망 내 위험 관리 관행이 불충분하다는 근본적인 문제를 파악한다. 미국 국립표준기술연구소(NIST) 프레임워크와 같은 가이드라인이 공급망의 사이버 보안 위험을 해결하려고 시도하고 있지만, 사용자와 공급업체 모두의 노력은 아직 전체 공급망에 대한 포괄적인 가시성을 보장할 만큼 정교하지 못하다. 이러한 가시성 부족은 최종 사용자 기업이 보안 수준을 측정하고 적시에 대응하는 능력을 저해한다.
아이러니하게도 클롭이 악용한 파일 전송 소프트웨어인 MOVEit은 안전한 데이터 전송 기능에 중점을 두고 마케팅 됐다. 이 제품은 부정 행위가 명백한 로깅, 규정 준수 지원, 게이트웨이 역방향 프록시 등 강력한 보안 기능을 자랑한다. 그러나 이 사건은 광범위한 사용 사례와 함께 AI의 채택이 증가함에 따라 전 세계가 더 불안정한 환경으로 변하고 있으며, 적대적인 머신러닝 공격에 대한 잠재적 취약성이 만연한 세계를 더욱 불안정한 환경으로 이끌고 있는지에 대한 시급한 의문을 강조한다.
글로벌 데이터의 애널리스트 에이미 드칼로(Amy DeCarlo)는 최근 발생한 클롭과 관련된 독스웨어(Doxware) 사건에 주목한다. 사이버 범죄자들은 데이터를 암호화하고 몸값을 요구하는 대신 이름, 주소, 은행 정보 등 개인 식별 정보(PII)를 공개하겠다고 협박했다. 드칼로는 예방 조치의 중요성을 강조하면서, 공격자들이 피싱과 사회공학적 수법을 널리 사용하는 것에 대응하기 위해 조직이 최신 바이러스 백신 소프트웨어를 유지하고 최종 사용자 교육을 우선시할 것을 촉구하고 있다.
사이버 공격이 계속 진화하고 AI 시스템과 공급망 모두를 표적으로 삼고 있기 때문에 조직, 연구자, 보안 공급업체, 정부가 협력하여 방어를 강화하고 AI 취약성과 관련된 위험을 완화하는 것이 필수다. 점점 더 상호 연결되는 디지털 환경에서 민감한 데이터를 보호하고 사이버 보안 표준을 유지하려면 포괄적이고 사전 예방적인 접근 방식이 요구된다.
