Home » COVER STORY, CT OPINION

[CT OPINION] 유네스코 인공지능 윤리 권고 (Recommendation for the Ethics of AI) 채택: 인공지능 윤리에 대한 최초의 국제 표준

April.2022 No Comment

유네스코(UNESCO)는 2021년 11월 23일에 파리 유네스코 본부에서 개최된 제41차 유네스코 총회(General Conference of UNESCO)에서 최초로 인공지능(이하 AI)의 윤리적 사용에 대한 국제 표준 지침인 ‘AI 윤리 권고 (Recommendation on the Ethics of AI)’를 193개 회원국(2021년 12월 기준)의 만장일치로 채택하였다. 본 권고안은 AI의 건설적이고 건강한 발전 및 활용을 위한 생태계를 조성하기 위해 요구되는 공통의 가치와 원칙 제시를 핵심으로 하고 있다.

[그림 1] 유네스코 제41차 총회 회원국 국기

[그림 1] 유네스코 제41차 총회 회원국 국기

AI 윤리와 관련하여 그동안 국가 또는 지역 수준에서의 전략이나 프레임워크에 대한 논의는 이루어졌지만, 국제적 수준에서의 기준은 마련되지 못한 실정이었다. 따라서, 국가의 발전 정도, 문화적 차이, 공공과 민간의 이해관계자 등 다양한 요인을 고려한 국제적 수준에서의 AI 윤리 가이드라인의 필요성이 지속해서 제기되었다. 이에 유엔의 체계 안에서 유일하게 철학적, 윤리적 성찰을 통하여 대화, 개방과 관용, 인류의 평화 증진을 위한 프로젝트를 구현하고 있는 유엔 특별기구( Specialized agency)인 유네스코는 2018년, 유네스코의 자문 기구인 세계과학기술윤리위원회(COMEST: The World Commission on the Ethics of Scientific Knowledge and Technology)에 ‘AI의 윤리에서 유네스코의 역할’에 관한 기초 연구(The preliminary study on ethics of AI) 준비를 요청하였다. 세계과학기술윤리위원회는 상기 기초 조사를 통해 AI 윤리에 관한 국제 기준이 부재하다는 것을 강조하면서, 유네스코의 특화 분야인 교육, 문화, 커뮤니케이션 영역의 전문성을 고려하여 관련 권고안을 작성할 것을 제안하였다. 2019년 12월 동 권고의 초안을 작성하기 위해 24명으로 구성된 특별 전문가 집단(Ad Hoc Expert Group)이 구성되었다. 그리고 지난 2년간 회원국을 비롯하여 다중 이해관계자들의 의견 수렴과정을 통해 상기 권고안을 마련하고, 이를 글로벌 규범적 프레임워크로 설정하여 국제 지침으로 채택하기에 이르렀다.

[그림 2] AI 윤리권고안 관련 유네스코 사무총장 메시지

[그림 2] AI 윤리권고안 관련 유네스코 사무총장 메시지

지난 유네스코 총회에서 AI 윤리권고안을 채택하면서, 유네스코는 이러한 기술이 인류에게 전례가 없는 도전을 불러오고 있다고 경고하였다. 오드리 아줄레이(Audrey Azoulay) 유네스코 사무총장은 “세계는 AI가 인류에게 혜택을 줄 수 있는 규칙이 필요하다”라고 강조하면서, 상기 권고안이 그러한 문제에 대한 보편적 기준을 제공하는 해답이 될 수 있다고 언급하였다. 동 권고는 AI가 사회에 가져다주는 이점을 실현하고, 그에 따른 위험을 줄이는 것을 목표로 AI의 윤리적 발전을 위해 요구되는 법적, 정책적 인프라 구축에 대한 구체적인 길잡이의 임무를 수행하는 것을 핵심으로 한다.

유네스코의 AI 윤리 권고의 구체적인 특징은 다음과 같다. 4대 가치(values) 및 10대 원칙(principles)으로 구성되어 있다. 4대 가치는 인간의 존엄성, 인권, 지속가능한 발전을 통한 생태계의 번영, 다양성 및 포용성 보장, 정의로운 상호연결된 사회 구축이라는 기본 가치인 유엔과 유네스코에서 중점적으로 실현하고자 하는 가치를 강조하고 있다. 10대 원칙은 비례성 및 무해성, 안전 및 보완, 비 차별성, 프라이버시 및 데이터 보고, 투명성 및 설명 가능성 등을 언급하며, 이는 각 회원국이 국가의 상황에 맞게 규제 프레임워크와 정책을 개선하거나 도입할 것을 요구하고 있다. 특히, AI 시스템 전주기와 그 주기의 시행 과정에서 관계된 모든 행위자(연구자, 공학자, 교육자, 소프트웨어 개발자, 이를 사용하는 최종 사용자, 기업, 대학, 민간 및 공공 기관, 일반 대중 등을 아우르는 법인과 자연인 모두 포함)를 AI 윤리 권고에 적용되는 대상으로 규정함에 따라서 기존의 권고안에 비해 가장 포괄적인 수준에서의 적용 범위를 설정하고 있다. 아울러 정부 간 기구라는 유네스코라는 시스템 내에서 회원국이 관련 법제화 및 제도를 통해 지침의 내용을 이행하도록 장려하며, 각국의 대응에 대한 점검, 보고 및 평가하는 절차적 메커니즘이 작동하고 있어 ‘권고’ 형식으로 채택된 동 문서는 법적 구속력이 약하다는 한계점을 어느 정도 극복하고자 하였다.

[그림 3] 유네스코 AI 윤리권고안 표지

[그림 3] 유네스코 AI 윤리권고안 표지

물론 유네스코 이외에도 경제개발협력기구(OECD)나 유럽연합(EU)과 같은 주요 국제기구 역시 AI 윤리의 중요성을 인식하고 이와 관계된 원칙들에 관한 연구를 통해 2019년, 2018년에 각각 글로벌 수준에서 윤리기준을 발표한 바 있다. 하지만, 유네스코의 AI 윤리권고안이 국제적 수준에서의 최초의 표준으로 그 가치를 인정받는 데에는 앞서 살펴본 내용적 측면과 더불어 다음과 같은 이유도 있다. 다른 윤리권고안의 경우 AI 기술 개발 역량을 보유한 국가들이 중심이 되어 발표한 원칙이라면, 유네스코의 권고안은 이미 AI를 개발하고 발전시키는 선두 국가를 포함하여, AI를 개발할 역량이 아직 마련되지 못하였거나 이제 그러한 투자를 시작하고 있는 국가들을 모두 포괄(inclusiveness)하는 것을 전제로 193개 회원국이 승인한 원칙이라는 점이다. 또한, 유네스코는 국제 수준에서의 AI 관련 협의체들과 이미 파트너십을 맺고 있으며, 이러한 관계를 통해서 기 구축된 협력관계를 한 축으로 또 다른 한 축으로는 회원국 중심의 협력 메커니즘을 기반으로 그 영향력 측면에서 타 기구와 차별성을 가진다.

유네스코 AI 윤리권고는 각 국가가 관련 정책과 법체계를 설립하고 정교화하는 과정에서 나침판의 역할을 하는 문서이므로 이를 통한 실효성 있는 정책조치를 시행하기 위해 구체화 시키는 작업은 도전적 과제가 될 것이다. 또한, 유네스코의 권고 범위가 과학 분야에만 국한된 것이 아니기 때문에 국내적 수준에서도 다중 이해 당사자의 참여를 기반으로 AI 윤리 추진체계를 만들어 나가기 위해서는 큰 노력이 필요할 것이다. 이러한 도전과 당면과제에도 불구하고 유네스코 AI 윤리권고를 통해서 많은 나라들이 관련 정책 개발에 착수하였다. 우리나라에서도 이미 ‘지능정보사회윤리가이드라인 (과학기술정보통신부 – 정보문화포럼)’이나 ‘이용자중심의 지능정보사회를 실현하기 위한 원칙(방송통신위원회 및 정보통신정책연구원)’ 등을 마련한 바 있다. 하지만 이러한 원칙은 범부처의 협력을 통해 도출한 윤리기준이라고 활용하기엔 일부 한계점이 있다. 따라서, 유네스코 AI 윤리권고는 글로벌 기준과의 합치성을 갖춘 동시에 범국가적으로 적용 가능한 인공지능 윤리기준을 마련하고 개선 작업에 더욱 촉진하는데 기여할 수 있을 것으로 기대된다. 마지막으로 유네스코 AI 윤리권고안 원안(영문, 불문)은 다음 링크(https://unesdoc.unesco.org/ark:/48223/pf0000381137?3=null&queryId=ca51512b-97bb-4244-9d76-de1eef783eed)를 통해 확인해볼 수 있다.

 

심혜승 기자

Images

[그림 1] 유네스코 웹사이트 (UNESCO HQ webpage)
[그림 2] 유네스코 트위터 (UNESCO Twitter)
[그림 3] 유네스코 웹사이트 (UNESCO HQ webpage)