"내가 지지한 후보 SNS에 누드 사진이?…내년 총선 노린 딥페이크 공격 기승 우려

과기정통부·KISA '2024년 사이버 보안 위협 전망' 발표

예년보다 AI, 해킹 등으로 정치·사회적 혼란 줄 가능성 커

[서울=뉴시스]윤정민 기자 =

[서울=뉴시스] 지난달 소셜네트워크서비스(SNS)상에서 생성형 인공지능(AI)을 사용해 기시다 후미오 일본 총리의 목소리를 재현한 것으로 보이는 가짜 동영상이 확산됐다. (사진=NHK) 2023.11.06. *재판매 및 DB 금지

#국회의원 출마를 준비한 김□□ 후보자의 소셜네트워크서비스(SNS) 계정에 "안녕하세요! 서울시 ○○ 갑 국회의원 예비후보 김□□입니다. 내일도 행복한 하루 보내십시오. 저도 내일 열심히 뛰겠습니다"라는 글과 함께 나체 사진이 게재돼 화제다.

나체 사진의 주인공은 김 후보자 본인으로 자택 화장실에서 목욕 후 개인 스마트폰으로 찍은 것으로 추정되는 사진이었다. 하지만 이 사진은 한 공격자가 김 후보의 SNS 계정을 해킹한 것으로 사진도 인터넷상에 떠도는 사진을 딥페이크 기술로 김 후보로 위장한 것이었다. 김 후보는 게재 후 1시간 만에 해킹 사실을 확인하고 글을 삭제했지만 이미 해당 글은 인터넷 커뮤니티에 유포되고 있었다.

정부가 내년 4월 22대 국회의원 총선거를 맞아 위 가상 사례처럼 정치·사회적 이슈를 악용한 사이버 위협이 나타날 것이라고 전망했다. 이러한 종류를 포함해 선거전을 악용한 공격을 제대로 대응하지 못할 경우 그 피해가 온라인에서만 국한되는 것이 아니라 사회 전반에 대한 사이버 테러가 될 수 있다고 경고했다.

과학기술정보통신부는 한국인터넷진흥원(KISA)과 함께 이러한 내용을 담은 2024년 사이버 보안 위협 전망 보고서를 17일 발표했다.

"정치인 이메일·SNS 해킹해 가짜뉴스 등 유권자 혼란 줄 수 있어"

[서울=뉴시스] 과학기술정보통신부는 한국인터넷진흥원(KISA)과 함께 발표한 2024년 사이버 보안 위협 전망에 따르면 내년 4월 22대 국회의원 총선거를 맞아 정치·사회적 이슈를 악용한 사이버 위협이 나타날 전망이다. (사진=뉴시스 DB). [email protected]

과기정통부는 "국가적인 중요한 행사가 있을 때 사회 혼란을 노리는 세력들의 사이버 위협 가능성도 함께 높아진다"며 "악의적 의도를 지닌 공격자들은 불순한 목적이나 갈등을 조장하기 위한 다양한 공격을 시도할 수 있다.

KISA 관계자는 그 예시로 "정치인 이메일이나 SNS 계정을 해킹해 유권자에게 피싱 사이트를 보내거나 유권자를 상대로 가짜뉴스를 담은 문자 메시지를 보내는 등의 부작용이 우려된다"고 말했다.

또 딥페이크 기술을 활용해 가짜 뉴스를 생산할 수 있다며 예전에 유출된 내용으로 거짓 해킹을 주장할 수도 있다고 경고했다.

과기정통부와 KISA는 언론사와 포털, 선거 관련 기관들에 대한 공격에 효과적으로 대응하지 못한다면 사회 전반에 대한 사이버 테러가 될 수 있다고 말했다. 이어 "내년은 예전보다 더 높은 경각심과 경계 태세를 유지해야 할 때"라며 "민·관이 더 긴밀히 협력해 사이버 보안 체계를 상시 점검하고 강화해 나갈 것"이라고 말했다.

"생성형 AI 기술이 인류에 도움?…악성코드·해킹에 악용 우려도 있어"

[그래픽=뉴시스] 재배포 및 DB금지.

과기정통부·KISA는 내년에 생성형 AI를 악용한 사이버 범죄가 발생할 가능성이 크다고 전망했다. 보고서에 따르면 챗GPT 등 생성형 인공지능(AI) 기술이 급속히 발전하면서 피싱 이메일 공격을 도와주는 생성형 AI 기반의 사이버 범죄 도구가 발견된 바 있다. 또 기존 백신 등이 탐지하기 어려운 변종 악성코드를 만드는 데도 생성형 AI 기술이 이용될 전망이다.

이에 과기정통부·KISA는 생성형 AI를 악용하는 사이버 범죄에 적극 대응할 수 있는 관련 보안기술 개발이 필요하다며 공격 가능성이 높은 취약점을 미리 식별하고 대응하기 위한 기술 개발이나 생성형 AI 모델의 결과물을 식별하고 진위 여부를 판별할 수 있는 기술 등을 들었다.

한편 과기정통부·KISA는 내년도 사이버 보안 위협 전망 주요 요소로 은밀하고 지속적인 소프트웨어(SW) 공급망 공격, 운영기술(OT)과 산업제어시스템(ICS), 사물인터넷(IoT)을 대상으로 한 보안 위협 증가 등을 꼽았다.

보고서에 따르면 국제침해사고대응협의체는 지난달 사이버 보안 위험도 측정을 개선해 OT/ICS, IoT 취약점 평가 기준 항목을 새롭게 추가했다. OT/ICS 환경은 일반적으로 IT 환경보다 기능이 제한적이고 공격 표면도 작지만 취약점에 대한 펌웨어 등 보안패치가 제조사별로 늦게 제공되거나 서비스 무중단을 이유로 소극적으로 보안패치 적용을 하는 등 운영방식에 문제점을 안고 있다.

제조, 에너지, 교통, 통신, 의료 등 주요 기반시설의 중요 정보를 탈취하거나 OT/ICS와 IoT 환경에 악성코드를 유포해 시스템 오작동, 정지 등을 유발시켜 국민 안전과 생명을 위협하는 매우 치명적인 공격이 발생할 수 있다. 이에 정부는 주요 기반시설 보안패치로 국민 안전과 생명 위협에 대응할 필요가 있다고 지적했다.


◎공감언론 뉴시스 [email protected]