□ 제안자
최은창, The Free Internet Project
□ 제안 취지 및 쟁점
AI 활용이 확대되면서 자동화된 판단의 경제적 효과가 주목받고 있다. AI는 지구촌 빈곤을 파악하고, 저개발국가의 공중보건 활동에도 활용된다. AI는 산업뿐만이 아니라 국가 경쟁력, 안보를 강화시키려는 도구가 되고 있다. AI 시스템은 콘텐츠 큐레이션, 자동 상품 추천, 채용 과정의 스크리닝, 인터뷰, 전자상거래 가격 조정, 질병 진단, 예측적 방범활동, 가짜뉴스를 통한 프로파간다 등 정치과정에도 영향을 미친다. 그러나 AI의 유용성, 혁신, 비즈니스 기회에는 알고리듬 편향, 로봇의 결함, 오작동 등 위험과 사회적 비용이 수반된다. 오류나 부적절한 판단에 대한 우려도 커지고 있다. AI의 판단은 단순한 노동을 대체하는 것뿐만 아니라 취업 지원자의 인터뷰, 범죄자 양형, 사회적 자원의 배분에도 사용되기 시작했다. 그런데 AI은 사회에 통용되는 상식, 가치 체계, 윤리, 형평성, 적법절차에 무지하다. 그럼에도 불구하고 AI은 가치와 연결된(value-aligned) 판단을 자동적으로 내리고 수많은 개인들의 삶에 막대한 영향을 미치고 있다. AI 알고리듬은 기존에 축적된 데이터 세트를 학습하므로 인종 ·성별 ·종교에 따라서 대상을 차별할 수 있다. 빅데이터와 컴퓨터 알고리듬에 대한 맹신이 강하다면 자동화된 판단의 편향이나 오류는 무시될 수 있다.
컴퓨터 알고리듬은 객관적일 것이라는 기대에도 불구하고 중립적이지 않은 결과를 내놓는 사례들이 발견되기도 했다. 알고리듬의 결정하는 영역이 넓어지고 있으므로 알고리듬 설계, 데이터 세트에 숨어있는 편향은 사회적 차별과 배제를 확대할 위험이 있다. 이에 따라서 AI 개발 분야에는 ‘윤리’ ‘거버넌스’ 논의가 강조되고 있다. 시민사회, 기업, 이용자, 연구기관, 정부 등 이해관계자가 함께 신뢰할만한 AI 윤리 및 거버넌스 체계를 어떻게 구축할 수 있을까?
<주요 내용>
* AI 활용의 긍정적, 부정적 사례 :Beneficial AI, 빈곤감소를 위한 AI,
AI for Good Global, Adversarial machine learning 사례, 전쟁무기개발
* AI 알고리듬의 책무성, 공정성, 투명성이 필요한 이유
* AI가 인간사회의 가치를 이해하도록 설계할 수 있을까?
* AI 윤리 원칙을 위한 국제적 움직임. (EU연합, 영국, IEEE, Partnership on AI, 학계)
* 데이터 거버넌스와 AI 윤리 원칙과의 관계
* 책임있는 AI, 공정하고 투명한 AI를 개발을 위한 활동
□ 발표자: 최은창 (Fellow, The Free Internet Project)
□ 발표자료 : 제안자에 의해 발표자료가 비공개 되는 세션입니다.
