‘설명을 요구할 권리(right to explanation)’는 정보 주체인 사용자가 알고리즘이 내리는 자동화된 의사결정에 대해서 알고리즘의 공정성과 객관성에 의문을 가질 때 설명을 요구할 권리가 보장된다면 기업과 공공당국, 기관 등에 알고리즘 작동 원리에 대해 설명을 요구할 수 있는 권리다.

‘설명을 요구할 권리(right to explanation)’는 정보 주체가 알고리즘이 내리는 자동화된 의사결정에 대해 설명을 요구할 수 있는 권리다. 최근 알고리즘의 사회경제적 활용이 급증하는 가운데, 알고리즘이 과연 객관적이고 공정한지에 대한 문제가 지속해서 제기되며 등장했다.

예를 들어 검색엔진은 데이터를 처리하는 규칙, 즉 알고리즘에 따라 사용자에게 어떤 검색 결과와 어떤 광고를 보여줄지 결정한다. 개인화된 결과다. 이때 정보 주체인 사용자는 알고리즘의 공정성과 객관성에 대해 의문을 가질 수 있다. 설명을 요구할 권리가 보장된다면 사용자는 기업과 공공당국, 혹은 기관 등 단체에 알고리즘이 어떻게 작동한 것인지 설명을 요구할 수 있다.

정보 주체는 알고리즘의 공정성과 객관성에 의문을 가질 때 기업과 공공당국, 기관 등에 알고리즘 작동 원리에 대해 설명해달라고 요구할 수 있다.

설명을 요구할 권리의 등장 배경

설명을 요구할 권리에 대한 논의는 2016년 유럽에서 시작됐다. 그 배경에는 ‘알고리즘은 객관적’이라는 믿음에 반해 지속해서 발생하는 알고리즘의 사회적 역기능과 부작용이 있다.

알고리즘은 겉보기에 객관적으로 보인다. 또 중립적이고 공정한 것 같다. 그러나 이런 믿음이 사실이 아니라는 사례가 잇달아 발생했다. 의도적이든 의도적이지 않든, 알고리즘이 편향적이거나 차별적인 의사결정을 내놓는 사례다.

2015년 연구 결과에 따르면 구글의 온라인 광고 알고리즘은 성차별적이고 인종차별적으로 작동했다. 구글 온라인 광고는 여성보다 남성에게 상대적으로 임금이 높은 직업 광고를 추천하는 경향이 있고, 백인보다 흑인에게 저렴한 상품 광고를 집중적으로 보여주는 경향이 높았다. 2016년 7월 ‘전 세계 최초로 인공지능(AI)이 심사하는 미인대회’라는 슬로건을 내걸고 열린 온라인 국제미인대회에서도 비슷한 일이 일어났다. 대회 참가자들의 프로필 사진 심사를 맡은 인공지능 프로그램 ‘뷰티닷에이아이(Beauty.AI)’는 백인 여성만 대회에 입선시켰다.

알고리즘이 정치적으로 악용됐다는 의혹이 제기된 일도 있다. 미국 대선을 5개월 앞둔 2016년 5월, 미국 IT 매체 <기즈모도>는 페이스북이 특정 미국 대선후보를 낙선시키기 위해 페이스북 내 뉴스편집 서비스 ‘트렌딩 토픽’의 알고리즘을 조작했다는 의혹 보도를 냈다.

페이스북 ‘트렌딩 토픽’<출처: 페이스북>

이원태 정보통신정책연구원 연구위원은 “알고리즘은 이데올로기의 산물로서 다분히 정치적이라고 할 수 있을 것”이라는 말로 알고리즘의 정치 편향성을 정리했다. 그는 “알고리즘을 구축하는 단계에서 개발자의 성향과 판단, 사회적 풍토, 외적인 압력이 개입되기 때문에 알고리즘은 편향적일 수밖에 없다”라고 지적했다.

현대인의 일상생활 곳곳에 관여하는 알고리즘이 이같이 사회의 편견과 차별을 답습 의사결정을 내리고 있지만, 정보 주체는 알고리즘이 어떻게 작동하는지 알 수 없다. 기업 등 알고리즘을 사용하는 단체가 알고리즘의 작동 원리를 투명하게 공개하지 않기 때문이다.

알고리즘 규제 이슈 담은 EU의 ‘일반개인정보보호규정’

알고리즘의 사회적 부작용과 역기능이 불거진 가운데 2016년 4월, 유럽연합(EU)에서 ‘일반개인정보보호규정(GDPR : General Data Protection Regulation)’이 통과됐다. GDPR은 알고리즘 규제에 대한 법제화를 주요 내용으로 다루고 있어, 인공지능 시대 알고리즘 규제에 대한 중요한 전환점으로 평가받는다. 유럽에서 GDPR가 통과된 것은 설명을 요구할 권리에 대한 논의가 본격적으로 시작된 사건이다. GDPR의 효력은 2018년 5월부터 유럽 전역에서 발효된다.

GDPR 발효일까지 남은 기간을 알려주는 EU GDPR 홈페이지 메인.<출처: EU GDPR 홈페이지>

GDPR에 설명을 요구할 권리가 직접적으로 명시돼 있지는 않다. 설명을 요구할 권리는 영국 옥스퍼드대의 브라이스 굿맨(Bryce Goodman)과 세스 플랙스먼(Seth Flaxman)이 GDPR의 조항을 해석한 논문에서 처음 등장했다.

브라이스 굿맨(왼쪽)과 세스 플랙스먼(오른쪽).<출처: 옥스퍼드 인터넷 연구소 홈페이지 및 옥스퍼드대 홈페이지>

브라이스 굿맨과 세스 플랙스먼은 2016년 8월 발표한 보고서에서 GDPR의 13-15조를 풀이하며 ‘설명을 요구할 권리’라는 개념을 처음 사용했다. 두 사람이 보고서에서 설명한 ‘설명을 요구할 권리’를 요약하면 다음과 같다.

바야흐로 알고리즘이 사회적 감시와 규제를 받아야 하는 존재로서 부각된 셈이다. GDPR의 설명을 요구할 권리는 알고리즘을 기술의 영역에서 사회적 영역으로 옮겨놓았다. 그로 인해 알고리즘과 설명을 요구할 권리를 둘러싼 사회적 논쟁이 필연적으로 발생하게 됐다.

[논쟁 1] 설명을 요구할 권리는 혁신을 해치는 ‘테크포비아(technophobia)적 안티테제’

설명을 요구할 권리를 보장한 GDPR의 알고리즘 규제를 ‘불필요한’ 규제로 보는 시각이 많다. 기술 발전과 기업 혁신을 저해한다는 이유에서다.

설명을 요구할 권리가 기술 발전과 기업 혁신을 저해한다고 보는 견해도 많다.<출처: (CC BY SA) maido155 at wikimedia>

GDPR이 통과됐다는 소식을 접한 많은 기업들은 알고리즘 규제가 정보 주체인 소비자에게 기여하는 바는 적은 반면, 인공지능 기술이 발전하는 속도는 크게 떨어뜨릴 것이라고 우려했다.

기업이 알고리즘을 통해 공정치 않은 결정을 내릴 가능성에 대처하기 위해 GDPR이 고안됐다는 점을 이해하지만, 이미 기존 법 · 제도에 개인이 기업에 맞서 자신의 이익을 지킬 수 있는 조항이 있기 때문에 GDPR의 실효성에 의구심이 든다는 것이다. 이들은 또 개발자들이 GDPR 기준을 따르다가 유럽의 인공지능 발전이 뒤처질 것이라고 우려한다.

[논쟁 2] ‘블랙박스’ 존재하는 알고리즘, 설명 불가능한 영역 존재

설명을 요구할 권리를 보장하는 것이 ‘불가능’하다며 GDPR을 비판하는 목소리도 있다. 알고리즘은 머신러닝 등 기술의 발전으로 점점 고도화됐다. 이에 따라 알고리즘을 설계한 개발자조차 자신이 만든 알고리즘이 어떻게 결과를 도출하는지 완벽하게 이해하지 못한다. 즉 알고리즘에는 그 누구도 이해할 수 없는 영역인 ‘블랙박스’가 존재한다.

알고리즘에는 누구도 이해 못하는 영역인 ‘블랙박스’가 존재한다.

IT 매체 <와이어드>는 “신경망 네트워크처럼 설계된 알고리즘 내부에서 무슨 일이 일어나고 있는지 설명하는 것은 전문가들에게도 벅찬 일”이라고 짚으며 “알고리즘이 정확히 어떤 과정을 거쳐 특정 결정을 도출했는지 추적하기란 불가능하다”라고 지적했다.

이에 대해 GDPR의 초안을 작성하는 데 참여했던 빅토르 마이어 쇤베르거(Viktor Mayer-Schonberger) 영국 옥스퍼드대 교수는 “알고리즘의 자동화 의사결정에 대한 GDPR 조항은 여러 해석에 대해 열려 있다”라고 말했다. 여러 이해관계자들이 사회적 논의를 거쳐 합의를 도출해야 할 영역이라는 것이다.

GDPR 초안 작성에 참여한 빅토르 마이어 쇤베르거 영국 옥스퍼드대 교수.쇤베르거 교수는 빅데이터 분야 세계 최고 권위자로, <빅데이터가 만드는 세상>(Big Data: A Revo-lution That Will Transform How We Live, Work and Think), <잊혀질 권리>(Delete: The Virtue of Forgetting in the Digital Age) 등의 저자이기도 하다.
<출처: (CC BY) Chatham House at wikimedia>

브라이스 굿맨과 세스 플랙스먼 역시 보고서에서 “현재 머신러닝 프로그램에 대해 GDPR는 여러 가지 문제점을 안고 있다”라며 “이런 문제들은 좋은 과제가 될 수 있다”라고 말했다. 그러면서 “알고리즘의 효율성 뿐만 아니라, 투명성과 공정성 역시 중요하다”라고 강조했다.