◎ 제안 취지 및 주요쟁점
최근 팔란티어와 같은 군수기업이 국가 안보, 국방 분야에 인공지능 기술을 대거 확산시키고 있습니다. 군사 영역에 사용되는 인공지능은 단순 보조 기능을 넘어 감시와 표적 식별, 시뮬레이션 및 전투 지휘, 살상까지 인간의 생사결정에 직접 관여하는 수준으로 발전하고 있습니다.
실제로 이스라엘의 가자지구 공습 과정에서 인공지능 기반 표적 추천 시스템인 ‘라벤더(Lavender)’가 대량의 표적을 자동 생성해 인간의 개입 없이 살상 목표를 설정하는 데 사용되었다는 사실이 밝혀져 국제사회의 우려를 불러일으켰습니다. 기술이 인간의 생사결정에 직접 관여하는 단계로 진입한 것입니다.
한국에서도 군사 인공지능 도입이 빠르게 가속화되고 있습니다. 최근 개최된 국제 방산·안보 컨퍼런스에서는 무인기, 자율 무기 체계, AI 기반 지휘통제 시스템 등이 주요 의제로 다루어졌고, 정부와 방산업계는 AI 기술을 국방력 강화의 핵심 동력으로 삼고자 적극적으로 투자와 연구개발을 추진하고 있습니다. 국방부는 ‘첨단과학기술 기반 스마트 국방혁신’ 전략을 통해 AI 무기체계 개발과 배치를 본격화하겠다고 밝히기도 했습니다.
그러나 이러한 기술 확산 속도에 비해 군사 인공지능이 초래할 수 있는 인권·사회적 문제에 대한 논의는 매우 미흡한 상황입니다. 민주적 통제와 투명성 확보 방안도 사실상 부재합니다.
이번 워크숍을 통해 군사 인공지능 기술의 현재와 위험성을 짚고, 인권·안보·기술적 시각에서 우리 사회가 어떻게 대응해나가야 할 지를 모색하고자 합니다. “기술은 중립적이지 않다”는 점을 분명히 하고 인간 통제 없는 전쟁이 현실이 되는 것을 막기 위한 사회적 토대를 마련하는 자리가 되고자 합니다. 나아가 무기화되는 인공지능 기술에 대한 민주적 규제, 국제 협력, 윤리적 기준 마련의 필요성을 환기하고, 이를 위한 시민사회의 역할을 함께 논의하고자 합니다.
사회 : 고아침(AI 윤리레터)
패널 :
제목 미정 / 박해룡 (KISA 정보보호산업본부 보안기술단 단장)
AI 자율무기의 현황과 통제 방안 / 김윤명 (디지털정책연구소 소장)
AI 에이전트의 군사적 사용의 문제 / 이화영 (사이버안보연구소 부소장)
국제기구 및 주요국의 AI 안보담론 / 최효민 (서울대학교 외교학과 박사과정)
이스라엘의 군사 AI 사용 사례 / 뎡야핑 (팔레스타인평화연대)
제목 미정 / 김한민영 (국제앰네스티 한국지부)
제목 미정 / Kate Sim케이트 심 (Organizer with the No Tech for Apartheid campaign and part of the Fired Fifty for Google 416 action in 2024. Organizer with the Tech Workers Coalition)
* 패널의 의견은 그 단체 또는 소속의 의견이 아님을 알려드립니다.
