◎ 제안 취지

디지털 기술은 정치, 경제, 사회, 문화 전 영역에 걸쳐 큰 영향을 미치고 있으며, 여론을 조성하고, 토론을 촉진하며, 정보의 접근 방식 등을 변화시키고 있다. 따라서, 디지털 기술 접근과 인터넷 거버넌스 측면에서 인권은 나침반과 같은 역할을 해야한다.

이 세션에서는 인권을 옹호, 증진하며, 포용적 사회 시스템을 구축하는 기반으로서 디지털 기술의 역할을 다룰 것이다. 특히, 인권 친화적이고 포용적인 지능정보사회의 미래를 만들어 나가기 위해 다양한 이해관계자의 참여 증진과 국제인권법의 시각에서의 디지털 기술의 활용, 글로벌 디지털 컴팩트(GDC) 등을 종합적으로 논의할 것이다.

◎ 제안 취지

2021년 개인정보보호 실태조사 보고서에 따르면 지난 1년 동안 개인정보 유출 경험이 24.8%에 달했음. 모든 데이터가 디지털 형태로 생성, 유통되는 디지털 환경에서 개인정보보호의 중요성은 아무리 강조해도 지나치지 않는 시대가 되었음. 대부분의 시민사회단체들은 단체 운영과 사업 수행 과정에서 회원 및 후원자 또는 상담이나 행사 참여자의 개인정보를 수집하고 있고, 이는 처리 규모와 무관하게 개인정보 유출이나 남용과 같은 문제가 발생할 수 있음. 전문성과 자원이 취약한 작은 단체일수록 개인정보 보호에 대한 충분한 지식과 자원을 투여하기 어렵기 때문에 문제가 생기기 쉬운 구조임. 개인정보보호법 제29조는 개인정보처리자가 그 규모와 상관없이 개인정보를 보호하기 위한 내부 관리계획 수립, 접속기록 보관 같은 안전성 확보조치를 취해야 한다고 적시하고 있지만 구체적으로 어떤 방법으로 조치를 취해야 하는지에 대한 기술적인 설명을 제공하고 있는 가이드가 존재하지 않는 만큼, 실제로 어떻게 조치를 취해야하는지에 대한 이해와 이행이 부족한 상황임. 시민사회단체의 경우 개인정보를 포함하여, 단체 활동과 관련된 모든 것이 유출, 훼손으로부터 보호할 필요가 있는 자료로, 문제가 발생할 경우 단체의 신뢰성에 치명적인 부정적 영향을 줄 수 있음. 디지털 자산을 안전하게 지키기 위해서 구체적으로 어떠한 조치가 필요한지 단체의 상황에 맞는 보안 설정과 개인정보보호법을 준수하기 위한 개인정보 안전성 확보조치 정책을 수립할 필요가 있음. 이는 권위주의 정부에서의 부당한 탄압으로부터 시민사회단체의 보안과 활동가의 프라이버시를 보호하기 위해서도 매우 중요함. 이에 여러 이해관계자들이 참여하여 시민사회단체가 개인정보보호법을 이행을 위한 개인정보 보안 수립 방향에 대해 논의해볼 필요성이 있음.

◎ 제안 취지

생성형 인공지능 기술을 바탕으로 성장한 딥페이크 기술은 현실과 가상의 경계를 모호하게 만들고 있다. 딥페이크 기술은 보다 쉽고 간편하게 특수효과를 만들어 내거나 AR 영상을 제작하는 등 산업 전반의 성장 가능성을 키우는 등 긍정적으로 작용하고 있는 부분이 분명히 있다.

그러나, 인공지능기술이 빠르게 발전하면서, 인공지능을 활용한 비윤리적 이용 등 부정적 측면에 대한 우려의 목소리가 커지고 있다. 특히, 딥페이크는 악의적이고 기만적인 의도와 행위로서 진짜 같은 가짜를 만들어, 이미지를 합성하거나 가짜 뉴스를 생산하는 등 사회적 혼란을 야기하고 있다.