▲ 이상휘 국회의원(포항 남·울릉)

- 국회 과방위 국정감사서 ‘모달 AI’ 위험성 직접 시연하며 경고 -

- “AI 투자, 산업 육성뿐 아니라 조작 영상·허위정보 대응에도 병행돼야” -

국민의힘 이상휘 국회의원(포항 남·울릉)은 13일 열린 국회 과학기술정보방송통신위원회 국정감사에서 ‘모달 AI(영상합성형 AI)’의 심각한 위험성을 직접 시연하며, 정부의 AI 정책 방향이 산업 육성 일변도에 치우쳐 있음을 강하게 지적했다.

이 의원은 이날 과학기술정보방송통신부 국정감사에서 박장범 KBS 사장의 음성 파일과 사진·영상 일부를 활용해 실제 인물처럼 조작 영상을 만들어내는 과정을 실시간으로 시연했다.

이를 통해 AI 기술이 악용될 경우 가짜뉴스 생성, 허위정보 확산, 여론 조작 등 민주주의 질서를 위협할 수 있음을 경고했다.

과학기술정보통신부가 2026년도 AI 관련 과학기술 혁신 예산으로 5조 원 이상을 편성했지만, 정작 가짜 영상·조작 콘텐츠·윤리 문제 등 AI 리스크를 통제하고 대응하는 분야에 투입되는 예산은 극히 제한적이고 불투명한 것에 대해서도 언급했다.

이 의원은 “정부가 지금처럼 ‘AI는 기회다’라는 슬로건만 반복한다면 머지않아 ‘AI는 재앙이었다’는 비명이 터져 나올지도 모른다” 며 “AI기술 자체에는 선악이 없으나 인간의 윤리와 책임이 뒷받침되지 않을 때는 혼란을 야기할 수 있다” 며 AI 리스크 관리 문제를 지적했다.

이어 이 의원은 “AI 투자가 중요한 시기인 것은 분명하지만, 가짜 영상과 조작콘텐츠, 허위정보 확산, 선거 여론 조작 등으로부터 국민을 보호하기 위한 예방과 방어 투자가 반드시 병행돼야 한다”며 대책마련을 촉구했다.

한편 이상휘 의원은 지난해 국정감사에서도 본인의 얼굴을 활용한 ‘드웨인 상휘’ 영상을 직접 시연하며 딥페이크 기술의 위험성과 경각심을 환기시킨 바 있다.