SOUTH KOREA INTERNET GOVERNANCE FORUM

[세션5] 생성형 인공지능과 딥페이크 기술

◎ 제안 취지

생성형 인공지능 기술을 바탕으로 성장한 딥페이크 기술은 현실과 가상의 경계를 모호하게 만들고 있다. 딥페이크 기술은 보다 쉽고 간편하게 특수효과를 만들어 내거나 AR 영상을 제작하는 등 산업 전반의 성장 가능성을 키우는 등 긍정적으로 작용하고 있는 부분이 분명히 있다.

그러나, 인공지능기술이 빠르게 발전하면서, 인공지능을 활용한 비윤리적 이용 등 부정적 측면에 대한 우려의 목소리가 커지고 있다. 특히, 딥페이크는 악의적이고 기만적인 의도와 행위로서 진짜 같은 가짜를 만들어, 이미지를 합성하거나 가짜 뉴스를 생산하는 등 사회적 혼란을 야기하고 있다.

이미 악의적으로 다른 사람을 유명인사로 편집하거나, 인스타그램의 여성사진을 누드로 합성하는 ai가 등장했으며, 보이스피싱 등 사이버 범죄에 악용하는 등 다양한 유형의 인권 침해가 발생하고 있다. 이 세션에서는 딥페이크 기술의 정의와 작동원리, 역사와 발전과정 등을 바탕으로, 딥페이크 기술의 현황과 윤리적 문제, 기술적 문제해결을 비롯한 제도적 정책적 대응 방안에 대해 논의하고자 한다.

 

◎ 주요 쟁점

1.  딥페이크 기술이란 무엇이며, 어떻게 활용되고 있는가?

2. 개인정보보호, 사생활 침해, 사이버 범죄와의 상호 관련성은 무엇인가?

3. 딥페이크 기술이 우리 사회에 미치는 사회적, 정치적, 경제적 파급 효과는 무엇이며, 우리는 어떻게 대처해야 하는가?

 

◎ 패널 명단

□ 사회 : 이수영(정책과 입법연구소 의장/시민사회)

□ 토론 :

조용호 (변혁법제정책연구소 소장 / 시민사회)
민재명 (KAIST 선임연구원 / 공공계)
배정철 (부산대학교 과학기술연구센터 겸임교수 / 학계)
이철우 (한국게임이용자협회 회장/변호사 / 시민사회)
여인표 (메타플래그 대표(ON) / 산업계)
박민경 (중앙대학교 학생 / 청년)

 

* 패널의 의견은 그 단체 또는 소속의 의견이 아님을 알려드립니다.

No Comments Yet

댓글 남기기

이메일은 공개되지 않습니다. 필수 입력창은 * 로 표시되어 있습니다.