교통사고 급증이 걱정된다 해서 모두가 다시 말을 타고 다닐 순 없듯, 컴퓨터와 인공지능으로 집중되는 정보의 부작용이 우려된다고 해서 막대한 양의 정보를 사람이 일일이 처리하는 시대로 되돌아갈 수는 없다. 2021년 「인공지능 윤리 권고」를 채택한 유네스코는 인공지능을 활용하되, 모두를 위한 포용적이며 윤리적인 활용 방안을 지켜 나가도록 하는 것이 무엇보다 중요하다고 이야기한다.
인간 능력의 한계와 민주주의
시민들이 자유와 권리를 나눠 갖는 민주주의의 탄생이 오로지 ‘한꺼번에 모든 일을 처리할 수 없는 인간 능력의 한계’ 때문이라고 이야기하는 것은 지나친 비약일 것이다. 하지만 엄청난 양의 정보를 각자가 처리하면서 보여준 효율성이 민주주의만의 장점을 돋보이게 해 준 것만은 분명하다. 2018년 4월 캐나다 밴쿠버에서 열린 테드(TED) 강연에서 역사학자 유발 하라리가 민주주의와 자본주의가 파시즘과 공산주의를 물리친 요인으로 “정보를 처리하고 결정을 내리기에는 민주주의가 훨씬 나았기 때문”이라고 한 것도 같은 맥락이다. 그는 “20세기 기술 수준에서는 넘쳐나는 정보와 권력을 한 곳에 집중시키는 것이 지극히 비효율적”이었다면서 권위주의 정권이 무너진 이유 역시 모든 정보를 한 곳에 집중시키는 것이 불가능한 일이었기 때문이라고 말했다. 이는 우리 한국의 역사에서도 수긍이 가는 대목이다. 1987년 진실과 민주주의를 요구하던 대학생 박종철 군이 “탁 하고 치니 억 하고 죽더라”는 정권의 거짓말을 아무도 믿지 않게 됐을 때, 국민의 입을 막고 홀로 모든 걸 처리하려던 정부는 비로소 시민들에게 권력을 돌려줄 수 밖에 없었다.
각각의 시민에게 정보 접근과 자유로운 의사결정을 보장한다는 특징은 20세기 민주주의와 시장경제체제에 빛나는 승리를 가져다 주었다. 시장에서는 개인의 합리적인 계산과 판단이 모인 ‘보이지 않는 손’이, 정치에서는 시민의 지식과 양심적 판단이 모인 ‘투표’가 그 어떤 체제보다 효과적으로 세상을 앞으로 나아가게 했다. 하지만 20세기에 발명된 컴퓨터의 정보처리 능력이 기하급수적으로 향상되고 21세기 이후 거대한 네트워크가 우리 주변을 빠짐없이 연결하면서, 정보 처리의 분산화와 중앙집중화 간의 경쟁은 다시 새로운 국면을 맞았다. 21세기 정보사회에서 매 순간 생성되는 데이터의 양은 사람‘들’의 두뇌의 합으로도 처리하기에 버거운 수준이 된 지 오래다. 인간의 협업은 일정량 이상의 데이터 앞에서 한계를 드러낸 반면, 수많은 연산 유닛을 인공신경망으로 연결해 마치 하나의 두뇌처럼 정보를 처리하게 만든 딥러닝(Deep Learning) 모델은 오히려 입력되는 데이터가 많아질수록 성능까지 향상되는 결과를 보여 주었다. 그 대표적인 예가 최근 세계적인 열풍을 일으켰던 ‘챗GPT’로 대표되는 자연어 처리 모델이다. 이들은 정보가 한 곳으로 모여도 병목현상 없이 더 강력한 결과까지 만들어 낼 수 있게 됐고, <그림1>에서 보듯 세계 주요 테크기업과 연구소들은 최근 몇 년 사이 데이터 집적도를 엄청난 속도로 끌어올리고 있다.
집중의 문제, 자율로 해결할 수 있을까?
컴퓨터의 성능이 아무리 뛰어나도 충분한 양의 데이터가 입력되지 않으면 소용이 없다. 네트워크로 연결돼 충분한 양의 데이터를 입력 받을 수 있게 된 컴퓨터라도 그 데이터가 정확하거나 자세하지 않다면 유용한 분석을 내놓을 수 없다. 그런데 오늘날에는 우리 각자의 쇼핑 습관과 자주 보는 영상과 대화 상대까지 속속들이 알고 있는 스마트 기기,컴퓨터 뿐 아니라 냉장고와 세탁기까지 연결하는 네트워크, 그리고 막대한 양의 정보를 학습하며 스스로 개선까지 하는 인공지능이 ‘삼위일체’가 되어 그 위력을 제대로 발휘하고 있다. 그 결과 20세기까지 각 동네 슈퍼마켓이나 문구점 주인들의 머릿속에 들어있던 동네 제일 ‘핫’한 상품 목록은 이제 미국의 아마존이나 한국의 쿠팡 같은 거대 쇼핑업체의 메인서버에 모두 모여 있다. 이들 업체는 쇼핑뿐만 아니라 자사 소유의 OTT(인터넷 콘텐츠 제공 서비스)를통해 구매자의 취향과 관심사, 심지어 정치성향까지 어느정도 분석해낼 수 있으며, 정확한 분석을 바탕으로 내놓는 개별화된 추천 품목은 점점 높은 확률로 소비자의 선택을 이끌어내는 데 성공하고 있다.
그렇다면 이렇게 데이터가 집중되고 이를 인공지능이 처리하는 상황은 단순히 기업의 이윤 극대화를 넘어 우리 사회에서 어떤 문제가 될 수 있을까? 『유네스코뉴스』는그간 ▲인공지능 개발 과정에서 스며들 수 있는 인간의 편견과 성차별 문제(2019.07) ▲인간의 존엄성을 지키기 위한 인공지능 가이드라인(2023.01) ▲인공지능의 데이터 편향과 다양성 문제(2023.04) 등 여러 차례에 걸쳐 유네스코와 여러 전문가들이 제기하는 인공지능 개발 및 활용 과정에서의 윤리적인 쟁점을 소개한 바 있다. 이와 달리 인공지능 개발사들을 비롯해 이를 활용하고 있는 업계는 개별 기업들이 법을 잘 지키며 문제점을 개선해 나갈 수 있도록 하면 문제가 없거나 있더라도 최소화할 수 있을 것이라고 주장한다. 조셉 풀러(Joseph Fuller) 하버드대 경영대학원 교수는 지난 2020년 하버드대 공식 뉴스매체인 『하버드 가제트』에서 ‘마치 인공지능이 세상 모든 사람들의 머릿속에 편견을 심어줄 것처럼 공포심을 갖는 것은 지나친 과장’이라고 지적하며, “정치적인 측면에서나 법적·규제적인 측면에서, 혹은 윤리적인 측면에서 사람들에게 받아들여질 수 있는 선을 고민하지 않는 기업은 규모를 막론하고 이 세상에 없다”고 말했다. 이러한 답변의 기저에는 20세기에 그러했듯 개별 소비자들의 양심적이고 합리적인 선택이 법적 혹은 윤리적 문제를 일으키는 기업을 시장에서 몰아내는 ‘보이지 않는 손’이 21세기에도 여전히 작동할 수 있을 것이라는 믿음도 자리잡고 있다.
집중화를 우려하는 사람들
시장과 기업의 책임감이 제대로 작동할 것이고, 따라서 정부의 과도한 개입은 필요치 않을 것이라는 업계의 주장에 대해 마이클 샌델 하버드대 교수는 “둘 다 안 될 것”이라고 잘라 말한다. 샌델 교수는 오히려 “빅테크(big tech) 기업들은 스스로 규제도 하지 않고 있으며 적절한 정부 규제의 대상이 되지도 않기 때문에 두 가지 측면 모두에서 더 강한 대책이 필요하다”면서 “우리가 페이스북 사례1에서 보았듯 시장의 힘이 문제를 해결할 것이라 기대하는 것은 실수”라고도 덧붙였다.
2018년의 테드 강연을 마친 유발 하라리 교수 역시 이와 비슷한 질문을 받은 바 있다. 정보의 집중이 다시 독재와 파시즘을 불러올 수 있다는 주장에 대해 “지금 우리 개인정보를 통제하고 있는 건 정부가 아니라 거대 기업들이 아닌가”라는 질문을 받은 하라리 교수는 “기업이든 정부든 실제로 정보를 통제하는 그 주체가 사실상의 정부”라면서, “기업이 각 개인을 그 자신보다 더 잘 알게 된다면 적어도 개인의 깊은 내면의 감정과 욕망을 조종할 수 있을 것이고, (따라서 소비자가 자신의 이익에 반하는 기업을 시장에서 외면하는 선택을 통해) 독재에 저항하는 것은 이론적으로는 가능하지만 너무나 어려운 일이 될 것”이라 대답했다.
유네스코 역시 폭발적으로 영역을 넓혀가고 있는 인공지능이 단지 기업과 학계의 자율적인 선택을 통해 민주적이고 포용적인 시대를 만들어 줄 것이라 기대하기에는 그렇지 못했을 경우의 폐해가 너무나 크다고 보고 2021년 인공지능 분야에서 처음으로 합의된 전 지구적 차원의 체계인 「인공지능 윤리 권고」를 채택한 바 있다. 이를 기점으로 인공지능 거버넌스에 대한 논의를 지속적으로 확대해 나가야 한다는 믿음하에 전 세계 학계 및 시민사회와 함께 다양한 연구 및 논의도 이어오고 있다. 올 4월 유네스코와 퀘벡 인공지능 연구소(MILA)가 공동으로 발간한 『Missing Links in AI Governance(AI 거버넌스의 빠진 고리)』 역시 그러한 작업의 일환으로, 해당 단행본은 ‘인본주의적이며 책임감 있고 윤리적인 AI개발’을 위한 주요 관계자와 전문가들의 견해를 담고 있다. 이 책에서 인공지능으로 집중되는 의사결정과 힘이 야기할 수 있는 우려사항을 지적한 에릭 브린욜프손(Erik Brynjolfsson) 스탠포드대 인간중심AI연구소 선임연구원 등은 ▲기술적인 측면에서 정보 및 표준의 공유를 통해 더 많은 사람들이 자유롭게 참여하도록 하고 ▲경제적인 측면에서 교육을 통해 AI시대에 맞는 능력(곧 결정권)을 가진 인적자원을 길러내고 ▲정치적 측면에서 국가 간 경계를 넘어 이같은 탈집중화의 원칙이 국제적 차원에서 실행되도록 노력함으로써 위험을 방지하거나 최소한 그 피해를 완화할 수 있을 것이라고 주장했다.
우리 스스로 결정하는 미래
브린욜프손 연구원 등이 제안한 세 가지 측면에서의 대책은 상당 부분 유네스코의 「인공지능 윤리 권고」에서 강조하고 있는 것이기도 하다. 해당 권고는 기술적으로 더 다양한 주체가 참여하고 그 결과를 공유하도록 하는 것, 그리고 국제적 차원에서 이를 실행하는 것을 아우르는 주요 가치와 원칙, 그리고 상세한 정책 대안까지 담고 있다. 하지만 수 년간의 연구 및 논의를 거쳐 193개 회원국이 만장일치로 채택했음에도 불구하고 해당 권고의 이행은 전 지구적 차원에서 충분히 속도를 내지 못하고 있다. 유네스코가 3월에 내놓은 보도자료에 따르면 현재까지 유네스코와 함께 권고 이행을 위한 제반 사항을 체크해 나가고 있는 국가는 약 40여 개국이다. 인공지능 윤리 권고는 참여국이 매 4년마다 인공지능 분야에서의 권고 이행 상황 보고서를 제출토록 하고 있으며, 유네스코는 권고 채택 2년여가 되는 시점인 오는 12월 슬로베니아에서 열릴 인공지능 윤리에 관한유네스코 글로벌 포럼에서 그 중간 보고서를 발표할 예정이다. 유네스코한국위원회는 권고 채택 직후 해당 권고 작성 및 리뷰 과정에서 적극적인 역할을 한 이상욱 교수 등과함께 국내에서 권고 내용의 법제화 방안에 대한 논의를 촉진하기 위해 『인공지능 윤리와 법』 연구보고서를 발간한 바있으며, 작년에도 ‘유네스코 이슈 브리프’ 시리즈 제2호로『유네스코 「인공지능 윤리 권고」 이행과 국제협력』을 발간하는 등의 노력을 기울이고 있다.
여러 기관과 국제기구들이 전문가 및 정부 간 합의를 거쳐 내놓는 이러한 인공지능 윤리 관련 대책들을 바라보는 기업의 시선은 여전히 우호적이지만은 않다. 인공지능 분야에서 정부의 전문가적 역량이 기업의 그것에 미치지 못하는 상황에서 과도한 규제는 혁신 저하를 불러올 수밖에 없다는 주장은 여전히 많은 사람들에게 솔깃하게 들리는 것도 사실이다. 따라서 유네스코를 비롯해 인공지능 윤리 권고의 적극적 이행을 고민하는 정부들은 앞으로도 ‘스스로 잘 할 테니 혁신이 멈추지 않도록 믿고 기다려달라’는 기업들과 ‘소 잃기 전에 외양간을 튼튼히 만들자’는 시민들의 눈높이를 서로 잘 조율해 나가야 할 과제를 안고 있다.
20세기 민주주의에 승리를 안겨주었던 자유로운 개인의 합리적인 선택이 가져다준 상대적 효율성은 21세기 인공지능의 절대적 효율성 앞에서 민주주의 퇴조의 단초가 될 수도 있을까? “정보 기술 혁명으로 민주주의보다 독재가 더 높은 효율성을 갖게 되리라는 사실이 오늘날 자유 민주주의가 직면한 최대의 위험”이라 말한 유발 하라리는 “정보 처리를 분산시키는 것이 정보 처리를 한 곳에 집중시키는 것만큼이나 효율적이라는 걸 믿게 만드는 것이 민주주의를 지킬 최선의 방법”이라고 이야기한다. 그렇다면 고효율, 고성능의 인공지능 앞에서 한없이 비효율적이고 때론 퇴행적으로까지 보이는 민주주의의 분산적인 측면이 여전히 지켜야 할 가치를 갖고 있다는 사실은 어떻게 설득해야 할까. 결국 그 일을 할 수 있는 주체는 신기술의 면면을 더 잘 알고, 그것의 함의를 꿰뚫어 볼 수 있는 시민들의 깨어있는 두뇌와 적극적인 행동일 것이다. 따라서 새로운 기술을 활용하고 이해하고 그 결정 과정에 참여할 바탕이 되는 제대로 된 교육을 요청하는 일은 이 낯선 시대를 살아가는 우리 모두가 요구해야 할 생존권이기도 하다. 세계적인 ‘정의 열풍’을 불러 일으켰던 자신의 ‘정의란 무엇인가’ 수업에 이어 대중 대상 하버드대 온라인 수업 플랫폼(Gen Ed)에 ‘기술 윤리(Tech Ethics)’라는 이름의 강의를 마련했던 마이클 샌델 교수 역시 우리가 민주시민으로서 신기술과 그것의 사회적 윤리적 함의에 대해 스스로를 교육시켜야 하는 이유에 대해 이렇게 말한 바 있다.
“이는 어떤 규제가 필요한지를 우리가 결정하기 위해서일 뿐 아니라, 거대 기술기업이나 소셜미디어들이 우리 삶에서 어떤 역할을 할지를 다름아닌 우리가 결정하기 위해서입니다.”
김보람 『유네스코뉴스』 편집장