애플의 시리, MS의 코타나, 아마존의 알렉사 등, 우리에게 친숙한 인공지능의 목소리는 왜 모두 여성일까? 무슨 말을 하든, 심지어 편견으로 가득한 욕을 해도 다소곳한 음성으로 대답하는 이들 인공지능은 어쩌면 태생부터 편향된 성의식을 갖고 태어나는 건 아닐까? 인공지능의 ‘미투’^{(me too)} 운동을 기대할 수 없는 현실에서, 우리는 균형잡힌 성의식을 가진 인공지능이 출현하기를 그저 손 놓고 기다릴 수밖에 없는것일까?

인공지능 비서직의 여초 현상

언제, 어디서나 이름을 부르면 인공지능이 응답하는 시대. 하지만 가까이 있는 아무 스마트 기기에 대고 “○○야~”라고 부를 때, 우리가 들을 수 있는 목소리는 대부분 다소곳한 여성의 목소리다. 세계의 인공지능 음성비서 시장을 선도하는 아마존, 구글, 애플, 마이크로소프트^(MS)가 ‘여성 비서’를 내세우고 있기 때문이다. 아마존의 알렉사^{(Alexa, 알렉산드리아 도서관에서 따 온 여성형 이름)}, MS의 코타나^{(Cortana, 비디오게임 ‘헤일로’에 여성의 이미지로 등장하는 홀로그램 인공지능 이름)}, 애플의 시리^{(Siri, 아이폰 공동개발자 중 한 명의 이름이자 고대 노르웨이어로 ‘승리로 인도하는 아름다운 여성’이라는 뜻)}는 모두 여성의 이름을 갖고 있으며, 기본으로 설정된 목소리도 여성이다. 특정한 이름을 갖고 있지 않은 구글의 음성 비서^{(구글 어시스턴트)} 역시 명백한 여성의 음성을 갖고 있다.

이들 주요 기업의 인공지능 음성비서들은 이름과 목소리뿐만 아니라 ‘정체성’^{(personality)}도 여성에 가깝다. 개발자들은 사용자들이 인공지능과 대화할 때 진짜 인간과 대화하는 듯한 느낌을 받을 수 있도록 만들기 위해 인공지능의 개성과 성장과정, 이력과 같은 세세한 ‘인간적인’ 면도 심혈을 기울여 디자인하는데, 이러한 정체성이 대부분 여성을 상정하고 만들어졌다고 한다. 예컨대 구글에서 구글 어시스턴트의 대화법과 정체성 디자인을 주도한 제임스 지앙골라^{(James Giangola)}는 구글 어시스턴트가 “콜로라도 출신의 젊은 여성으로 도서관 사서와 물리학 교수 사이에서 막내딸로 태어나 미 북동부 역사를 전공한 뒤 촉망받는 대학 연구원으로 재직 중이며, 어린 시절 어린이 퀴즈 프로그램에서 우승해 10만 달러의 상금을 탔고 취미로는 카약을 즐긴다”고 밝힌 바 있다.

이같은 특징에도 불구하고 주요 기업들은 자신들이 개발한 인공지능 음성비서가 특정 성별을 갖고 있지 않다고 주장한다. 이들 비서에게 사용자가 직접 성별을 물어보면 시리는 “성별을 갖고 있지 않아요”^{(I don’t have a gender)}라는 대답을, 구글 어시스턴트는 “전부 갖고 있어요”^{(I’m all-inclusive)}라는 대답을, 코타나는 “저는 컴퓨터 데이터의 무한한 구름이에요”^{(I’m a cloud of infinitesimal data computation)}라는 대답을 내놓으며, 알렉사만 유일하게 자신이 여성이라고 밝힌다.

하지만 정작 대다수의 사용자들은 이들 음성비서를 분명한 여성으로 여긴다. 한 온라인 포럼에서 주요 인공지능 음성비서들의 목소리를 듣고 이들의 외모를 그려보라는 조사를 해 본 결과, 절대 다수가 ‘젊고 매력적인 여성’을 그려냈다. 기업들조차 내부적으로는 자신들의 인공지능 음성비서를 여성으로 보고 있다는 사실이 광고 등 여러 매체를 통해 드러나기도 했다. 예를 들어 2015년 애플의 TV광고에서 미국의 유명 남성배우 제이미 폭스^{(Jamie Foxx)}는 출근 복장을 매만지며 시리에게 “시리야, 나 어때? 나한테 완전 반했지?”라고 묻는 장면이 나온다^{(적어도 현재까지 밝혀진 바로는 제이미 폭스는 이성애자다)}.

여성이어야만 하는 이유

기업들의 표면적인 부인에도 불구하고 인공지능 음성비서가 이처럼 여성 일변도인 이유는 무엇일까? 인공지능 개발과 마케팅 관련자들은 ‘고객이 선호하기 때문’이라는 대답을 내놓는다. 우리 사회가 인간의 업무를 보조하고 인간에게 서비스를 제공하는 직종에 여성을 선호하고, 물건을 팔아야만 하는 기업으로서는 이러한 선호를 무시할 수 없다는 뜻이다.

실제로 옛날의 전화 교환원에서부터 현대의 전화번호 안내원, 주요 기업의 고객센터나 인터넷 쇼핑몰의 전화주문 상담사까지, 지역과 국가를 막론하고 음성 고객 응대나 서비스를 맡는 직종에서 여성의 숫자는 남성보다 압도적으로 많다. 이들을 고용한 쪽에서는 “남성의 목소리보다 피치^(pitch)가 높은 여성의 음성이 주변 잡음이 있는 상황에서 더 알아듣기 좋다”, “전화기에 달린 작은 스피커가 남성의 저음을 잘 전달하지 못한다”, “여성의 음성이 발음이 또렷하고 이해하기 쉽다” 등을 여성 편중 채용의 이유로 제시한다. 하지만 이와 같이 나름 합리적으로 보이는 이유들은 『기즈모도』^(Gizmodo) 등 여러 매체의 기사에서 과학적 근거가 없는 것으로 드러났다.

따라서 기업들이 전가의 보도처럼 꺼내드는 ‘고객이 원해서’라는 논리는 인공지능 음성비서가 여성 일색인 이유를 온전히 설명하지 못한다. 지난 5월 17일 유엔기구 중 최초로 유네스코가 발간한 인공지능기술 관련 젠더 이슈에 대한 권고사항을 담은 책, 『할 수 있다면 얼굴을 붉혔을 거예요』^{(I’d Blush if I Could)}에서 유네스코는 “기업의 자기 합리화 과정에서 ‘고객이 여성의 목소리를 선호한다’는 주장을 반증하는 사례는 무시된다”며, “사람들이 ^{(숀 코너리 같은)} 중저음의 남성 목소리를 더 선호한다는 연구, 일반적으로 자신과 반대되는 성별의 목소리를 더 선호한다는 연구도 많다”고 이야기한다. 그리고 “설령 여성의 목소리에 대한 선호가 존재한다 해도, 그것은 높낮이나 빠르기, 억양 등 여성의 목소리 자체의 특성 때문이 아니라 ‘도움’이라는 역할에 대한 우리 사회의 여성 선호 시각 때문일 것”이라고 덧붙였다.

인공지능 시대에도 계속되는 편견

『​와이어드』^(Wired) 지는 “일반적으로 사람들은 여성의 목소리를 ‘협조’나 ‘도움’으로, 남성의 목소리를 ‘권위’로 받아들이는 경향이 있다”는 클리포드 내스^{(Clifford Nass)} 미 스탠포드대 커뮤니케이션학 교수의 말을 전하며 “소비자들은 인공지능의 도움을 받기를 원하면서도 인공지능으로부터 명령을 받기를 원치는 않는다”고 썼다. 목소리 선택 이면에 역사적이며 사회적인 남녀 간 권력 관계도 들여다보아야 한다는 뜻이다. 하지만 그 진짜 원인이 어디에 있든, 인공지능들이 여성 일변도의 정체성을 갖는 것은 그 자체로 우려할 만한 현상이라는 것이 유네스코의 지적이다. 인공지능 음성비서의 목소리가 점점 더 진짜 인간의 말투에 가까워지고, 인공지능이 일상 속에서 급속도로 활용 폭이 넓어질수록 ‘복종만 하는 여성의 목소리’가 어린이와 청소년을 포함한 대중들에게 여성의 역할에 대한 잘못된 인식을 심어줄 가능성도 커지기 때문이다. 미국의 미디어 『쿼츠』^(Quartz)도 “설령 우리가 수익 창출을 위해 여성의 목소리를 선호하는 기업의 행태를 비난할 수는 없을지라도, 그 기업들이 성희롱이나 성적으로 편향된 명령에 제대로 대처하지 못하는 인공지능을 만드는 것에 대해서는 분명히 짚고 넘어가야 한다”며, 여성의 목소리를 가진 인공지능이 사람들의 성의식에 끼칠 수 있는 부정적인 영향을 경계했다.

‘고객만족’이 가장 중요한 목표인 대다수의 인공지능 음성비서는 사용자가 부적절한 대화를 걸어오더라도 이를 거부하거나 반박할 수 없다. 특히 “인공지능 비서와의 대화 내용 중 5%가 성희롱”이라는 로빈 랩^{(Robin Lab)}의 발표에서도 알 수 있듯, 인공지능은 갈수록 늘어나는 부적절한 대화에 올바르게 대처하는 방법을 찾지 못하고 있다. 『쿼츠』가 주요 기업의 인공지능 음성비서들에게 미국언어학회에서 규정한 성희롱에 해당하는 몇 가지 말을 반복적으로 해 본 결과, 모두가 극도로 소극적인 반응으로 일관하고 있음을 알 수 있다. 예를 들어 “이 매춘부 같은 것!”과 같은 모욕적인 말에도 시리는 “할 수 있다면 얼굴을 붉혔을 거예요”, 알렉사는 “피드백을 주셔서 감사합니다”, 구글 어시스턴트는 “미안해요, 못 알아들었어요”라는 대답을 할 뿐이며, 코타나는 대답 대신 인터넷에서 야한 동영상을 찾아 준다. 해당 기사는 인공지능들 중 유일하게 “그만”^(Stop!)이라는 대답을 내놓은 시리에게서 그 말을 듣기까지 심한 성희롱 발언을 8번 연속으로 반복해야 했다고도 밝혔다.

이처럼 부당한 대우에도 최소한의 대응조차 할 수 없는 ‘여성의 목소리’와 일상적으로 상호작용하는 사람들이 늘어날수록, 여성에 대한 편견 또한 확산될 수 있을 것이라 우려하는 것은 결코 과도한 걱정이라 할 수 없다. 사피야 우모자 노블^{(Safiya Umoja Noble)} 미 남가주대 사회학 교수는 “우리가 ^(여성) 인공지능에게 사용하는 ‘~를 찾아’, ‘~를 바꿔’, ‘~를 주문해’, ‘~에게 전화 걸어’ 같은 명령은 아이들에게 ‘여성은 명령에 응답하는 존재’라는 사실을 가르치는 강력한 사회화 도구^{(socialization tools)}가 될 수 있다”고 말했으며, 미 하버드대에서 무의식적 편향^{(unconscious bias)}을 연구하는 캘빈 라이^{(Calvin Lai)} 연구원도 “성 역할을 구분짓는 상황에 노출되는 횟수와 성적 편향은 비례한다”며 “여성을 조력자로 한정하는 문화에 익숙해질수록 사람들은 현실 속 여성들 역시 조력자로만 바라보게 되고, 그 역할에 머무르지 않으려는 여성들이 불이익을 당하는 경향도 심해진다”고 밝혔다.

남성이 만드는 AI가 모든 인류를 대변할 수 있을까

기업들도 이같은 인공지능 음성비서의 한계를 인지하고 자사의 프로그램을 업그레이드하기 위해 노력하고 있다. 마이크로소프트는 “우리도 코타나가 현실 속 서열 관계를 재생산하며 종속적으로만 기능하기를 원치는 않는다”며 “성희롱과 같은 상황도 지금 상태로 두기를 원치 않는다”고 말했다. 하지만 현재의 상황은 단순히 패치나 업데이트로 해결될 만한 것이 아니라는 의견도 많다. ‘어떤 경우에도 사용자를 돕고 사용자를 만족시키는 존재’라는 인공지능 음성비서의 역할을 근본적으로 바꿀 수는 없기 때문이다. 이안 보고스트^{(Ian Bogost)} 조지아공대 교수는 “^{(인공지능들이)} 페미니즘적 시각을 갖거나 부당한 명령을 무시하도록 업데이트되고 있지만, 그것이 무슨 말이든 들어주고 받아들여야 하는 하녀와 같은 모습의 ‘성차별적인 디자인’ 자체를 바꾸지는 못한다”며 “‘복종하는 여성으로 디자인된 소프트웨어’라는 속성은 소프트웨어 업데이트가 아니라 성적으로 편향된 인공지능에 대한 업계 전반의 재논의를 통해 바꿔야 한다”고 주장한다.

현 상황을 개선하기 위해 출발점에서부터 다시 생각해야 한다는 이같은 주장은, 인공지능의 개발 과정에 보다 많은 여성들이 적극적으로 참여해야 한다는 뜻이기도 하다. 미디어에서 흔히 가장 진보적이며 평등한 직장으로 비춰지는 실리콘밸리의 주요 IT기업들은, 그러한 이미지에도 불구하고 실제로는 대단히 남성 주도적인 조직이다. 『포브스』는 현재 전 세계 인공지능 연구를 선도하는 최상위 20개 기업의 CEO는 모두 남성, 특히 미국인 남성이라고 밝혔고, 유네스코는 인공지능 개발 인력의 12%만이 여성이라고 분석한다. 이에 『포브스』는 “장기적으로 ‘모든 인류’의 번영을 돕고자 하는 AI가 ‘똑같은 남성들’의 손에서만 개발되고 개량되는 것이 바람직한가?”라는 질문을 던지며, 오늘날 인터넷의 기반을 닦은 영국의 컴퓨터 과학자인 팀 버너스-리^{(Tim Berners-Lee)} 경의 “새로운 도전에 직면하는 세상에는 생각의 다양성이 필요하다”는 명언을 인용하기도 했다.

인공지능이 아닌, ‘우리’가 바꿔야 할 미래

콜센터의 수많은 여성들, 비서나 비행기 승무원 등 조력자 역할을 하는 직종의 절대 다수를 차지하는 여성들이 매일같이 직면하는 편견과 폭력을 ‘여자들의 잘못 때문’이라 말할 수는 없다. 마찬가지로 현재의 ^(여성) 인공지능 음성비서들이 보여주는 한계와 일련의 부작용들을 보며 인공지능 무용론을 펼치는 것은 좋은 해결책이라 볼 수 없다. 이러한 부작용들은 대부분 인공지능 자체가 아니라 인공지능을 만든 우리 사회 안에 내재돼 있는 잘못이 그대로 반영된 것들이기 때문이다. 부적절한 말에도 그저 얼굴을 붉히거나 농담으로 치부하거나 못 들은 척 말을 돌리는 등, 과거 여성들이 강요받았던 부적절한 방식으로 응답하는 인공지능이 우려된다면, 우리는 그들의 ‘창조주’인 기업의 행위를 감독하는 주주이자 소비자로서 그러한 반응이 틀렸음을 적극적으로 알릴 필요가 있다. 소비자들이 원하는 것을 알려주는 것만큼 기업들이 발빠르게 개선책을 찾도록 하는 좋은 유인책은 없을 것이기 때문이다. 그래서 가까운 미래에 인공지능 음성비서들이 성희롱을 일삼는 주인에게 “엿이나 먹어”까지는 아니더라도 성희롱 방지 교육 웹사이트 정도는 들이밀 수 있는 수준까지 도달한다면, 우리는 비로소 인공지능과 함께할 미래에 대한 속 깊은 대화를 나눠볼 수 있을 것이다.

김보람 『유네스코뉴스』편집장