□ 제안자
최은창, The Free Internet Project
□ 제안 취지 및 쟁점
AI 활용이 확대되면서 자동화된 판단의 경제적 효과가 주목받고 있다. AI는 지구촌 빈곤을 파악하고, 저개발국가의 공중보건 활동에도 활용된다. AI는 산업뿐만이 아니라 국가 경쟁력, 안보를 강화시키려는 도구가 되고 있다. AI 시스템은 콘텐츠 큐레이션, 자동 상품 추천, 채용 과정의 스크리닝, 인터뷰, 전자상거래 가격 조정, 질병 진단, 예측적 방범활동, 가짜뉴스를 통한 프로파간다 등 정치과정에도 영향을 미친다. 그러나 AI의 유용성, 혁신, 비즈니스 기회에는 알고리듬 편향, 로봇의 결함, 오작동 등 위험과 사회적 비용이 수반된다. 오류나 부적절한 판단에 대한 우려도 커지고 있다. AI의 판단은 단순한 노동을 대체하는 것뿐만 아니라 취업 지원자의 인터뷰, 범죄자 양형, 사회적 자원의 배분에도 사용되기 시작했다. 그런데 AI은 사회에 통용되는 상식, 가치 체계, 윤리, 형평성, 적법절차에 무지하다. 그럼에도 불구하고 AI은 가치와 연결된(value-aligned) 판단을 자동적으로 내리고 수많은 개인들의 삶에 막대한 영향을 미치고 있다. AI 알고리듬은 기존에 축적된 데이터 세트를 학습하므로 인종 ·성별 ·종교에 따라서 대상을 차별할 수 있다. 빅데이터와 컴퓨터 알고리듬에 대한 맹신이 강하다면 자동화된 판단의 편향이나 오류는 무시될 수 있다.
Read More