유네스코 「인공지능 윤리 권고」(2021) 이행과 국제협력
최근 ‘챗GPT’를 통해 많은 사람이 인공지능을 본격적으로 체험하고 있다. 제주도 여행 계획을 부탁하면 순식간에 깔끔하게 정리된 일정표를 제시하는 편리함에 감탄하다가도, 23+18이 41이 아니라 40이라고 우기면 금방 자기가 잘못했다며 사과하는 과잉 겸손함(?)에 당혹감을 느끼기도 한다. 덕분에 우리는 인공지능이 유용하기도 하지만 문제를 일으킬 수도 있다는 사실에도 점점 익숙해져 가고 있다. 더 신뢰할 수 있고 윤리적인 인공지능을 만들기 위해 유네스코는 2021년 「인공지능 윤리 권고」를 채택했고, 유네스코한국위원회는 지난해 『유네스코 이슈 브리프』(제2호)를 통해 그 내용과 정책제언을 소개한 바 있다. 해당 권고 작성 과정에 직접 참여하고 이슈 브리프를 저술한 이상욱 교수가 그 내용을 요약해 소개한다.
최근 국제사회는 인공지능이 다양한 방식으로 인류 복지에 이바지할 잠재력이 있는 반면 허위정보를 유포하거나 차별적인 결정을 내리는 등 우리가 소중하게 여기는 핵심 가치를 훼손할 위험 역시 갖고 있음에 주목하고 이에 대응하기 위한 제도적 장치 마련을 위해 노력해 왔다. 예를 들어 유럽연합과 OECD는 2019년에 신뢰할만한(trustworthy) 인공지능 개발과 활용을 위한 윤리 원칙을 제시했고, 유럽연합은 이러한 윤리원칙을 보다 구체적으로 제도화하기 위해 현재 AI 윤리 법안을 마련 중이다.
유네스코가 2021년 11월 발표한 「인공지능 윤리 권고」(이하 「권고」)는 이런 국제적 배경에 비추어 볼 때 매우 독특한 지위를 가진다. 인공지능처럼 ‘특정’ 과학기술 분야에 대해 유네스코가 윤리적 규범 틀을 제시한 경우는 거의 없었기 때문이다. 이런 점을 고려할 때 유네스코의 「권고」 채택은 그만큼 회원국들 사이에서 인공지능 기술이 끼치는 영향의 중대함과 그에 대 한 윤리적 대응의 시급성에 대한 공감대가 널리 형성되었음을 의미한다. 우리나라도 「권고」 채택 과정에 적극 참여하는 한편, 이전부터 인공지능 윤리 기준을 제시하고 기업들이 활용할 수 있는 인공지능 윤리 관련 자율점검표를 만드는 등의 활동을 진행하고 있다. 유네스코한국위원회가 2022년 발간한 『이슈 브리프』 역시 이런 활동의 일환으로서 「권고」 채택 이후의 후속 조치와 국내의 대응 현황을 살펴보고 특히 국제협력의 관점에서의 시사점을 설명했다.
이슈브리프의 구체적인 내용을 보면, 「권고」의 내용과 특징을 소개한 2절에서 초안 작성 과정에서 쟁점이 되었던 주제와 초안 공개 이후의 의견 수렴 및 수정 과정을 자세히 설명하고 있다. 각기 다른 이해관계를 가진 회원국을 비롯한 여러 집단의 다양한 관점이 어떻게 서로 보완과 절충을 통해 국제적으로 영향력 있는 문서로 만들어졌는지 그 과정을 소개함으로써 우리나라의 적절한 대응 방안을 모색하는 데 참고가 되기 위함이다. 「권고」가 유사한 인공지능 윤리를 다룬 국제 문건과 비교해서 문화, 교육, 과학, 젠더, 정보 등 매우 포괄적인 영역과 주제에 대한 상세한 논의를 담고 있다는 점, 추상적인 윤리원칙 제시에 머물지 않고 구체적인 정책행동을 제시했다는 특징도 강조했다.
3절에서는 유네스코가 「권고」 채택 이후 어떤 후속 조치를 취하고 있는지와 이에 대한 국내 대응을 소개하고 있다. 「권고」가 제시하는 정책적 제안을 원론적으로 수용하는 회원국이라도 각각이 가진 정책적·제도적·경제적 환경은 서로 다르다. 따라서 「권고」가 실질적 성과로 이어지기 위해서는 각 현실을 반영한 적절한 대응책이 필요하며, 이런 이유로 유네스코는 현재 각 회원국이 「권고」의 내용을 이행하는 데 얼마나 ‘준비’가 되어 있는지를 평가하는 ‘준비 정도 평가(readiness assessment)’를 시행하기 위해 노력하고 있다. 「권고」는 또한 회원국들에게 인공지능 기술에 대한 ‘윤리 영향평가’를 할 것도 요청하고 있다. 이는 IEEE를 비롯한 많은 인공지능 연구자들이 말하는 ‘윤리적 설계 혹은 설계를 통한 윤리(Ethics by Design)’ 개념과 일맥상통하는 것이다. 다만 현재 이 윤리영향평가가 정확히 어떤 방식으로 이루어지는 것이 바람직한지에 대해서는 유네스코 본부 차원의 논의가 진행되고 있을 뿐, 구체적인 결과는 아직 발표되지 않았다.
현장에서 AI 기술을 개발하는 공학자나 관련 사업을 추진하는 기업가에게 유네스코의 「권고」는 ‘껄끄러운 규제’로 여겨질 수도 있다. ‘규제’를 곧 ‘혁신 저하’로 바라보는 경향이 있기 때문일 것이다. 하지만 이는 기술혁신의 역사적 사실과 어긋난 생각이다. 예컨대 1970년대에 자동차 배기가스 규제가 도입되려 할 때 미국의 자동차 업계는 해당 규제가 산업 생산력을 저하시키고 소비자의 권익을 해칠 것이라고 극렬하게 반대했지만, 오히려 이 규제는 보다 친환경적인 내연기관을 개발하는 기술 혁신과 배기가스 저감장치 등의 파생 기술 개발로 이어졌다.
이처럼 적절한 방식으로 합리적으로 운용된 규제는 기업의 산업 환경을 바꿈으로써 기업의 기술혁신 의욕을 오히려 더 고취할 수 있으며, 사회적으로 유용한 방향으로 기술혁신을 유도할 수 있다. 현재 한창 기술개발이 이루어지고 있기에 앞으로 혁신 잠재력이 큰 AI 기술에서도 현명한 규제가 앞서 ‘적응적’ 방식으로 이루어질 수 있다면, 70년대 배기가스 규제와 마찬가지로 기술혁신과 사회적 공익 실현을 동시에 달성할 수 있을 것이다.
이상욱 한양대학교 교수 (과학기술철학)