SOUTH KOREA INTERNET GOVERNANCE FORUM

[세션11] (Youth) 데이터 주권 – 기술발전으로 위협받는 인간의 존엄권

◎ 제안 취지

우리는 정보로 구성된 사회 가운데 살고 있습니다. 기업과 국가는 광범위하게 개인의 데이터를 수집하여 다양한 분석을 내놓고, 이를 통해 이익을 얻거나 권력을 행사하기도 합니다. 현재 개인 데이터 주권은 꼭 고려해 보아야 하는 시대적 과제로 떠올랐습니다. 데이터 주권은 디지털 차원에서 기본권의 확장이므로 기본권에 초석을 두어야 합니다. UN에서 발표한 세계 인권 선언에서는 자유(사상, 표현, 집회, 종교 등), 평등, 생명 및 안전, 재산 소유, 교육, 노동, 사회보장, 정치 참정, 사생활에 대한 권리를 명시했습니다. 한국 헌법을 살펴보면 평등과 자유, 정치 참여와 의사 표현, 노동 및 교육, 경제 활동 및 재산 취득, 법적 절차 등을 보장하고, 대한민국은 건립 이후 시민의 관심과 투쟁으로 사회에서 개인의 존엄을 국가가 보장하도록 노력해 왔습니다.

 

그러나 디지털 기술의 도입으로 인해 기본권의 침해 양상은 급격하게 변화하고 있습니다. 대표적인 쟁점으로는 생명권과 사생활 보호권이 결부된 생체정보의 처리에 대한 문제, 존엄권과 노동권, 평등권과 연관된 AI 면접 기술의 방향성, 개인의 자유와 사생활 보호와 직결한 정부의 공공데이터 수집이 있습니다.

 

이와 같이 대두한 문제에서 개인의 권리를 지키기 위한 정보의 제어는 필요하지만 무분별한 제한이 능사는 아닙니다. 이미 빠르게 발전한 기술과 극도의 편의와 효율을 추구하는 대한민국의 문화/시스템을 고려하여 디지털 주권을 정립하고 실현해야 합니다.

 

본 세션에서는 위 언급한 세 가지 쟁점을 중심으로 대한민국에서 어떻게 디지털 민주주의를 실현할지 기술자, 시민, 법률 전문가, 행정 관료와 같은 여러 이해관계자의 토론을 통해 GDPR을 기반으로 한 방향성을 제시하고자 합니다.

 

◎ 주요 쟁점

  쟁점 1. 생체정보의 잘못된 사용 쟁점 2. 기계의 자동화된 평가에 대한 가이드 라인 부재 쟁점 3. 정부가 수집한 공공데이터의 처리 방식이 신뢰 가능한가?
시민 단체 생체정보를 활용하거나 사용하기 위해 과도하게 수집하지만 유출이 잦으며 제대로 보호되지 않고 있다.

대한민국 정부가 수집하고 있는 생체 정보의 양은 타 국가에 비해 많다.

국민에게서 생체정보를 수집할 때 동의했다고 인지한 사용 범위를 넘어서 사용되고 있다.

앞으로 BCI 기술 등의 악용을 대비해야 한다.

AI가 내리는 평가를 면접자가 100% 수용할 수 없다.

AI가 과거의 차별적인 데이터를 학습하여 평가했다면, AI 평가는 편향적일 수밖에 없다. 그러나 평가 과정이 설명 불가하여 객관성을 확인할 수도 없다.

하나의 기업이 쓰는 모델로 인해서 획일적인 평가가 이루어질 수 있다.

정부의 데이터 공유 플랫폼을 신뢰하기 어렵기 때문에 성급히 사용하기보다 데이터 수집·활용 과정을 시민에게 투명하게 공개해야 한다.

정부가 운영하는 데이터 공유 플랫폼의 보안 시스템을 신뢰할 수 없다.

정부가 플랫폼 운영을 위해 개인의 데이터를 수집하는 방식은 옳지 않다.

법률 전문가 생체정보에 대한 규정을 제정하고 실천하기 위해서는 독립적인 개인정보 감독기구의 설치가 가장 중요하고, 법률을 그 후에 제정해야 한다.

생체정보 데이터에 대한 명확한 정의가 필요하다. 현재 개인정보 보호법의 일부 사례로만 적용 가능하다.

정보통신부가 2005년 12월 발표한 생체정보가이드라인은 법적인 강제력이 없어 부족하다.

개인정보 보호법 개정안이나행정예고는 자동화된 시스템에 대비하기에 해외 법률이나 행정안에 비해 실효성이 떨어지고 빈약하다.

유럽의 AI Act처럼 인공지능의 단계에 따라 위험도를 구체적으로 상정할 필요가 있다.

행정예고로는 다국적 기업에게 적용하기 어렵고, 어떻게 시민단체와 국내 산업계의 의견을 반영할 것인지 구체적이지 않다.

공공데이터로 인한 여러 피해를 미리 예방하는 국민이 신뢰할 수 있는 법안을 제정할 방도가 필요하다.

“공공데이터의 제공 및 이용활성화에 관한 법률”에서는 정부의 처리·관리 방법은 규정했지만 유출 및 오남용을 상성하지 않아 추후 큰 규모의 사건이 사회적 혼란을 일으킬 수 있다.

데이터 활용에 있어 전문가와 시민의 의견을 적극 반영하여 체계적이고 구조화된 규정을 새롭게 확립할 방법이 필요하다.

기술 전문가 & 기업 국민의 존재를 증명하는 수단 중 본인인증을 하는데 있어서 생체 정보를 활용하는 방향이 위·변조 가능성이 가장 적어 적합하다. 그러나, 생체정보가 오남용되지 않고 필요시에만 안전하게 확인할 수 있도록 하는 실효적인 대안이 필요하다. AI를 사용한 면접 평가 기술은 믿을 만한 결과를 내고 있으며, 현재 위험도가 거의 없다. 초반 평가에서 사용하는 방향으로 유용하다.

AI 모델을 각 기업의 인재상에 맞게 학습시킬 수 있고, 인간의 개인적 주관이 반영되지 않는다.

현재 AI는 인간에게 일부로 사적인 감정을 생성하여 위해를 끼칠 능력이 없다.

현재 공유 데이터 시스템은 효율적이지 않고 개선할 필요가 있다.

데이터의 양을 확대하기보다 수요자가 필요하는 공공 데이터 종류를 파악하여 처리해야 한다.

데이터를 품질을 확보해 제공해야 한다. 데이터의 양식을 미래의 확장성까지 고려하여 표준화할 필요가 있다.

행정처 정부는 생체정보를 안전하게 수집하고 이용하고 있다.

생체정보를 이용하는 것은 업무의 정확성 효율성을 보장하고 국민의 편의를 위한 것으로 국민의 기본권을 침해하는 것이 아니고 목적이 정당하다.

국가의 발전을 도모하기 위해서 AI 관련 기술에 대한 과한 제제는 옳지 않다. 그러나, 시민의 염려를 반영하여 올바른 가이드라인과 행정 정책을 제시해야 한다.

 

공공 데이터 플랫폼은 국민의 편의와 행정 실무의 효율 증진을 위해 필요한 시스템이고, 장점이 많다.

국민의 삶이 편리해지고, 기업의 혁신을 돕고 정부는 투명하고 유능해진다.

과학적으로 정부가 신속하고 효율적으로 정책을 결정하고 행정서비스를 제공할 수 있다.

 

◎ 패널 명단

참가자: 차유진, 정교은, 김해인, 김도연, 김민서, 강지윤

[토론자]

강지윤, 숙명여대 EG@IG 회원, 컴퓨터공학&인공지능 연구소 소장, 여자

김해인, 숙명여대 EG@IG 회원, 시민단체 대표, 여자

김민서, 숙명여대 EG@IG 회원, 과학기술정보통신부 정책기획관, 여자

김도연, 숙명여대 EG@IG 회원, 한국법제연구원 AI법제팀 팀장, 여자

[사회 및 발제]

사회(좌장): 정교은, 숙명여대 EG@IG 부회장, 여자, 섭외 확정

발제: 차유진, 숙명여대 EG@IG 회장, 여자, 섭외 확정

 

* 패널의 의견은 그 단체 또는 소속의 의견이 아님을 알려드립니다.

No Comments Yet

댓글 남기기

이메일은 공개되지 않습니다. 필수 입력창은 * 로 표시되어 있습니다.