서울대 인공지능정책 이니셔티브

ENG

Publication

서울대 인공지능정책 이니셔티브가 연구한 자료입니다.

PUBLICATION LIST

Paper

알고리듬 매개성과 정치적 양분사회: 기술과 사회심리의 상호작용효과

디지털기술과 민주주의는 밀접한 관계를 가져왔다. 기술의 변화가 시민의 정보습득, 참여방식에 영향을 미치기 때문이다. 인공지능시대에 알고리듬으로 대변되는 새로운 소프트웨어 기술은 정치 및 정보매개자로서 사회의 접착제 역할을 수행하고 있다. 알고리듬은 우리의 일상 현실을 재구성하고 정보생산 및 소비양식을 변화시키고 있다.
알고리듬은 단순한 매개자가 아니라 사회구조와 인간의 인식 등에 광범위한 영향을 미친다 알고리듬은 입력데이터와 모델 등 다양한 요인에 의해 편향을 가질 수 밖에 없다. 알고리즘 편향의 결과는 다양하게 나타난다. 우선, 차별의 문제를 들 수 있다. 알고리듬의 차별은 의도적인 차별적 처우와 결과에 의해 발생하는 차별적 효과로 구분해서 설명할 수 있다. 전자는 설계상의 문제이고, 후자는 학습 데이터에 의한 문제이다. 또한 알고리듬은 사람들의 인지나 판단과정에도 영향을 미친다. 알고리즘이 제시하는 정보의 배열순서만 바꾸어도 정치후보자에 대한 태도가 변화하고, 제공하는 소셜미디어 상의 감정전이가 일어난다. 알고리듬은 전달하는 내용과 관계없이 그 자체로 고유한 효과를 만든다.
알고리듬은 오늘날 우리가 겪고 있는 정치적 갈등, 특히 좌우 이념과 의견대립으로 나타나는 사회의 양극화와 분리할 수 없다. 필터버블과, 에코챔버와 같은 용어로 대변되는 온라인상의 소통단절과 분극화 현상은 알고리즘 효과와 연관이 있다. 필터버블은 이용자의 개인맞춤 알고리듬에 의해 생기는 정보편식현상을 의미하며, 이용자가 제한된 주제의 정보에 갇혀 정보의 다양성과 여론지각의 균형성이 떨어진 상태를 말한다. 필터버블은 같은 정보를 공유하는 유유상종의 정보 및 의견집단을 형성시켜, 사회적 분극화를 부추기는 원인의 하나이다. 유사한 집단 내에서 일어나는 상호작용은 또 다른 심리적 기제인 동조화 효과를 양산하고 그 결과 집단극화가 일어난다.
에코챔버효과는 밀폐된 반향실에서 자신과 같은 목소리가 메아리치고 증폭되는 현상이다. 디지털공간에서 유사한 사람들끼리만 소통하게 되어 점차적으로 편향된 사고가 강화되는 효과를 뜻한다. 네트워크 관점에서 보면 이런 현상을 호모필리 또는 유유상종 효과라고 부를 수 있다. 필터버블과 에코챔버는 사람들의 확증편향을 강화시켜서 허위조작정보(가짜뉴스)를 셍신하고 유통시키는 원인이기도 하다.
알고리듬에 의해 매개되는 편향된 여론지각 환경과 닫힌 커뮤니케이션 구조는 우리 사회를 양분시키고 각각의 집단이 극단의 방향으로 움직이게 한다. 언론과 같은 전통적 정치매개집단의 신뢰와 영향력이 낮은 가운데, 민주주의의 건강성을 확보하기 위한 노력이 필요하다.
알고리듬의 영향으로부터 자율적인 판단능력을 기르기 위해서는 정확한 정보를 판단할 수 있는 판단기준의 제시, 다양한 이견의 교차성, 다른 생각을 인정하는 관용, 대화와 표현능력이 필요하다. 기술을 매개로 연결되는 관계 속에서 시민주의 능력(civic competence) 점점 중요해 지고 있다. 이에 따라 디지털리터시에 많은 관심이 필요하다.
또한 알고리듬이 작동되는 방식을 어떻게 설명하는가에 따라 알고리듬의 결과물을 받아들이는 비판적 능력이 달라진다. 따라서 알고리듬의 설명책임을 어떻게 실행할 것인지를 디지털플랫폼 사업자들이 고민해야 한다
Paper

민주주의는 위협받고 있는가?: 알고리듬, 프로파일링 시대의 명암

알고리듬, 특히 이용자에 대한 프로파일링에 기초한 서비스가 우리의 생활을 여러 측면에서 편리하게 해주고 있다. 하지만, 이 과정에서 부작용이 나타나고 있다는 비판이 동시에 제기되고 있다. 그 중 가장 근본적인 비판 하나는 알고리듬의 일상화를 통해 민주주의에 대한 위협이 발생한다는 비판이다. 알고리듬은 컴퓨터가 문제를 해결하는 일련의 절차를 의미한다. 프로파일링에 관하여는 다양한 정의가 있지만, 핵심적인 것은 다양한 정보를 분석하여 개인에 관한 정보를 추론해낸다는 것이다. 즉, 프로파일링은 다양한 출처에서 직접 수집하거나 관찰, 추론한 정보를 통계학적 방법론이나 빅데이터 방법론을 통해 분석하여 종국적으로 개인에 관한 정보를 추론하는 과정이라 할 수 있다.
알고리듬과 프로파일링은 이미 널리 활용되고 있다. 마케팅이나 홍보 영역은 특히 프로파일링이 핵심적인 역할을 할 수 있는 영역으로, 알고리듬과 프로파일링은 맞춤형 인터넷 광고를 통해 인터넷 생태계를 유지하는 데 핵심적인 역할을 하고 있다. 그 밖에도 컨텐츠를 추천하거나, 검색 서비스를 제공할 때, 고용이나 노무에 관한 의사결정을 할 때, 금융에 관계된 결정을 내릴 때, 공공 영역의 정책을 결정, 집행하거나 범죄를 수사할 때 등 매우 다양한 영역에서 알고리듬과 프로파일링이 활용될 수 있다.
특히, 미디어의 영역에서 알고리듬과 프로파일링의 활용은 미디어 환경에 커다란 변화를 가져오고 있다. 인쇄매체의 수요는 줄면서 온라인을 통한 정보의 제공이 중심축으로 이동하게 되었고, 온라인 플랫폼 사업자의 영향력이 점점 더 강화되고 있다. 양면 시장의 성격을 가지는 인터넷에서의 광고 시장은 복잡하게 분화하였다. 이러한 미디어 환경에서 알고리듬이 그 불투명성, 불공정성, 에코 체임버 효과 등으로 인하여 민주주의를 위협한다는 주장이 제기되고 있다. 그러한 주장과 우려에도 불구하고, 현재로는 알고리듬의 이용이 가져오는 민주주의적 의사결정에 대한 위협이 얼마나 구체적이고 현실적인 것인지에 관해 실증적인 검증이 충분히 이루어진 것으로 보기는 어렵다.
다른 한편, 알고리듬이 어떠한 문제를 야기하는지에 대하여 충분한 논의가 이루어지고, 이에 대한 검증이나 확신이 가능하다고 하더라도, 그에 대한 적절한 규율을 마련하는 것은 간단한 일이 아니다. 알고리듬을 규율하기 위한 기초적인 규범적 개념이나 누구에게 어떠한 권리나 의무를 인정해야 할 것인지 등의 문제들은 하나하나가 쉽게 결정할 수 있는 문제가 아니기 때문이다. 이에 관하여 매우 상세하고 치밀한 분석과 사회적인 논의가 선행되어야 한다.
Paper

미디어 알고리듬과 민주주의

2019년 11월, 서울대 인공지능정책 이니셔티브의 두번째 이슈페이퍼가 나왔습니다.
Paper

인공지능과 시장경쟁: 데이터에 대한 규율을 중심으로

최근 들어 커다란 기술적 발전을 보이고 있는 인공지능, 특히 머신러닝 인공지능 기술은, 유용한 훈련용 데이터의 존재를 전제로 한다는 중요한 특징을 지니고 있다. 유용한 데이터가 존재하는지 그리 고 이를 이용할 수 있는지 여부에 따라, 기술의 발전은 물론 시장경쟁의 구도가 크게 달라질 수 있다. 따라서 인공지능과 관련된 시장경쟁의 양태는 기술의 발전으로부터 영향을 받는 문제일 뿐만 아니라, 개인정보 및 데이터에 관한 규율과도 매우 밀접한 관련이 있다. 또한 데이터 및 이를 기반으로 하여 개발된 인공지능은 차별이나 공정성 등과 관련된 새로운 사회적 과제를 제기하기도 한다. 인공지능과 관련된 맥락에서 새로이 제기될 수 있는 차별이나 공정성 이슈 또한 데이터와 관련이 매우 높은 것이 다. 인공지능 기술이 시장경쟁을 포함하여 사회 및 경제에 어떤 구체적인 영향을 미칠지에 관하여는 다양한 가능성이 언급되고 있는 상황이다. 효과적인 인공지능 정책의 수립을 위해서는 데이터 정책과 의 연관성을 매우 면밀하게 고려할 필요가 있다.
Report

“보건의료 빅데이터의 보호 및 활용을 위한 법적 기반 강화 연구” 보고서 발간 (2019)

보건의료정보는 일반적인 개인정보와는 차별화되는 독특한 특징을 가지고 있습니다. 또한 의료제도 및 건강보험제도 등이 보이는 특징을 반영하여 보건의료정보가 생성되고 전달되는 방식에 있어서도 별도의 체계가 존재합니다. 이 연구를 통해 보건의료정보 관련 법제도 정리 및 국내외 입법사례에 대한 조사·연구를 수행했고, 보건의료정보 보호 및 활용을 위한 거버넌스 구축·운영방안을 모색하여 정리하였습니다.
Paper

윤리적 인공지능의 실현과 과제

본고는 인공지능 시대에 우리나라가 앞으로 어떠한 형태의 윤리규범 체계를 갖추어야 하는가라는 문제의식에 대한 실마리를 제공하는 것을 목적으로 하는 글이다. 아시모프 ‘로봇 3원칙’ 이래로, 인공지능 윤리규범 이슈는, 첫째, 논의의 주체가 설계자, 제작자, 이용자와 같이 배후에 위치한 인간에게로 확장되었고, 둘째, 책임귀속에 관련된 과거의 대전제가 오늘날에는 통용되지 않게 된 경우가 많아졌으며, 셋째, 인공지능에 대한 대중의 알 권리와 이해관계자의 주체적 참여에 대한 요구가 늘어나면서 책임성(accountability)에 대한 관념이 확장되고 있고, 넷째, 일률적인 규정을 기계적으로 적용하는 방식의 한계가 지적되고 그 대신 인공지능이 활용되는 구체적 맥락(context) 위주의 접근법에 대한 필요성이 강조되는 방향으로 논의가 이루어지고 있다.
인공지능의 윤리적 측면에 관한 국내외의 논의는 최근 2년여의 기간 동안 급속도로 진전이 이루어졌다. 그동안 해외에서 제시된 윤리규범은 대체적으로는, ① 기본원칙을 중심으로 하는 윤리규범 유형, ② 기본원칙에 더하여 주요 이슈에 대해 상세하게 함께 다룬 윤리규범 및 보고서 유형, ③ 윤리규범의 정립방안에 대한 구체적 방법론을 함께 언급한 유형으로 구분지어 파악할 수 있다. 기본원칙 중심의 윤리규범은 OECD 권고안, 일본 총무성 가이드라인, 아실로마 원칙, 그리고 그 이외에 마이크로소프트, 구글과 같은 사기업에서 발표한 규범 등을 들 수 있다. 기본원칙 중심의 윤리규범은 다양한 참여자들의 다양한 관점 및 상이한 이해관계를 종합하기에 용이한 방식인 한편, 추가적인 후속 규범이 마련되지 않으면 규범력이 상대적으로 낮을 가능성이 있다. 다음으로, 기본원칙과 주요 이슈를 함께 다룬 윤리규범 유형으로는 IEEE 보고서, 영국 상원 보고서, 그리고 UNGP & IAPP의 보고서를 들 수 있다. 구체적 논의에 대한 세부사항까지도 포함하는 셋째 유형으로는 유럽의회 결의안, EU 집행위원회 고위급 전문가 그룹의 가이드라인 등을 들 수 있다. 이러한 윤리규범 중에는, 원칙에 대한 선언 그 자체로 의미를 가지는 것도 있고, 후속 작업과 모니터링의 과정을 통해 더 구체화하고 규범력을 확보할 수 있는 장치가 마련된 것도 있다.
Paper

인공지능과 고용시장의 변화

초기의 인공지능(AI)는 소프트웨어가 작업을 수행하는데 필요한 규칙을 시스템화하는 것으로 시작되었으나, 빅데이터의 등장과 컴퓨팅 능력의 증가로 인간이 사전적으로 정한 규칙에 메이지 않고 정확도가 높은 알고리즘을 체득하는 방향으로 발전해왔다(OECD, 2018). 경제학계의 많은 연구에서는 AI를 생산활동에서 인간의 개입이 필요하지 않거나, 적게 필요로 하는 자동화(automation)를 가능하게 하는 방법 중 하나로 간주한다. 경제학 이론적으로 자동화의 도입은 기존의 인력의 대체하는 효과를 유발하는 동시에, 기술과 보완적인 관계에 있는 인력에 대한 수요를 늘리는 효과 또한 가지고 있다. 일부 실증 경제 분석에 따르면, 자동화와 보완적 관계에 있는 경우 일자리 증가뿐만 아니라 종사자들의 생산성, 임금 상승 등에도 긍정적인 효과를 가진다고 보고되고 있다(Autor, 2003). 따라서 AI가 일자리에 미치는 영향은 AI 기술이 어떠한 직업을 대체할 것인지 그리고 AI 기술 확대로 인해 어떠한 직종이 더 필요하게 될지 두 가지 측면에서 고려할 필요가 있다. 하지만 후자의 경우 객관적인 예측(prediction)이 어려운 이유로 관련 연구가 상대적으로 드물게 보고되고 있다. 따라서 본 보고서에서는 전자의 문제를 중심으로 연구방법론과 주요 결과를 소개하고자 한다.
Paper

인공지능과 시장경제: 정책적 현안과 과제

최근 인공지능은 금융, 의료, 유통, 교육 등 수많은 영역에 광범위하게 침투하면서 시장경제의 지형을 빠르게 변화시키고 있다. 이러한 급속한 변화를 가능하게 만드는 핵심 기술 중 하나가 바로 딥러닝이라는 데이터 학습 기반의 인공지능 기술이다. 그리고 그 배경에는 빅데이터로 알려진 데이터 마이닝 기술의 양적, 질적 개선이 자리잡고 있다. 인공지능을 주어진 문제에 대해 가능한 합리적인 판단을 내리는 체계라고 정의한다면, 딥러닝 인공지능은 연역적으로 도출되거나 사전에 이식된 지식이 아닌, 입력된 문제 상황의 데이터 패턴을 분석하여 습득한 지식을 바탕으로 판단을 내린다는 특징을 지닌다. 이처럼 딥러닝 인공지능 개발에는 학습에 필요한 적정한 데이터의 생성과 활용이 필수적이므로, 인공지능 정책을 설계함에 있어 관련 규제들이 단순히 인공지능이라는 특정 기술에 국한된 것이 아니라, 정보기술 산업 전반에 영향을 미치는 개인정보 및 데이터 규제와 밀접한 관련이 있다는 점에 유념해야 할 것이다. 한편 시장경제와 그 내에서의 경쟁에 대해 인공지능의 발전과 활용이 어떤 영향을 미칠 지에 관하여 다양한 예측과 주장들이 제시되기 시작했고, 그에 대한 실증적 검토와 분석이 필요한 상황이다. 특히 구체적으로 규제의 필요성, 목표, 내용 및 수준을 논함에 있어 미래의 불확실성에 대한 인식, 규제가 해결하고자 하는 우려에 대한 명확한 정의, 사회적 편익과 비용을 모두 고려한 규제 방안의 디자인, 그리고 다층적 · 다면적으로 이루어질 가능성이 높은 규제들의 누적적 · 총체적 효과에 대한 신중한 분석과 검토가 요구된다.
Paper

인공지능과 경제성장: 인공지능은 경제 성장의 촉진제가 될 수 있을까

인류가 이제껏 경험했던 기술 혁신은 폭발적인 성장(성장률의 증가)을 가져온 적은 없지만, 산업혁명 이후 지난 150년동안 지속적인 성장의 원동력이었다. 그런데 국제 금융 위기를 겪고 난 뒤인 약 10여년전부터 미국과 유럽의 경제 선진국들이 기대치 보다 낮은 경제성장률을 보이며 경제 성장에 대한 우려가 시작되었다. 기술 혁신과 그에 따른 생산성의 향상이 예전만 못하기 때문에 이제는 저성장이 당연하다는 의견도 있다.
최근 머신러닝을 기반으로 한 인공지능 기술의 빠른 발전에도 이러한 우려는 사라지지 않는 것으로 보인다. 앞으로도 인공지능 기술의 발전은 이전의 경제 성장세를 회복하기에는 역부족일까. 아니면 저성장을 넘어 폭발적인 경제 성장, 즉 특이점과 같은 전혀 새로운 양상의 경제 성장을 가능하게 할까.
이 글에서는 위의 질문에 대한 경제학 연구와 경제학자들의 의견을 살펴본다. 경제학 이론에 의하면 인공지능 기술이 스스로 발전할 수 있게 되더라도 ‘모든 생산 활동의 완전한 자동화’가 힘들다면 폭발적인 경제 성장은 힘들 것으로 보인다. 보몰의 비용 질병 원리(Baumol’s cost disease) 때문에 자동화되지 못한 작업들이 경제 성장에 장애가 되기 때문이다.
경제학자들의 의견을 살펴보면 반 정도가 조심스러운 입장 –‘앞으로의 기술 발전으로 저성장을 벗어날 수 있을지 확실하게 알 수 없다’ – 을 취하고 있다.
인공지능 기술을 경제 전반에 응용할 수 있는 환경적 기반이 마련된다면, 인공지능 기술이 이전의 경제 성장세를 회복하고 지속적으로 성장하는 원동력이 될 수 있을 것이라는 의견이 나머지 반에서는 우세하다. 또한 경제학자들은 인공지능 기술의 발전으로 인한 일자리 문제나 불평등 심화 등의 경제적 손실이 생산성 향상과 같은 경제적 이익보다는 크지 않을 것으로 보고 있다.
Paper

인공지능과 미래사회

2019년 5월, “인공지능과 미래사회”라는 주제로 인공지능정책 이니셔티브의 첫 이슈페이퍼가 발간되었습니다.
Book

“데이터 오너십 : 내 정보는 누구의 것인가?” 출간

이 책은 데이터에 대해 통상적인 법적 의미의 소유권은 부여되기 어렵다는 인식에서 출발하여, 그러한 인식을 전제로 하면 데이터에 대해 어떤 식의 권리관계를 구상해 볼 수 있을지, 그에 관한 해외에서의 논의는 없는지, 데이터의 중요한 특징은 무엇인지, 데이터 유형별로 독특한 상황이 발생하고 있지는 않은지, 개별 법영역에서는 데이터에 관하여 어떤 새로운 이슈들이 나타나고 있는지 등에 관해 필자들이 고민하고 논의한 내용이 담겨있다.
Report

“프로파일링 관련 기술 동향 분석 및 개인정보 정책 방안 연구” 보고서 발간 (2018)

맞춤형 서비스, 맞춤형 광고, 개인평가 등을 목적으로 한 프로파일링 및 자동화된 의사결정 도입사례가 증가함에 따라 프라이버시 침해우려가 증가하고 있습니다. 프로파일링, 자동화된 의사결정 관련 기술의 동향을 정리하고 프라이버시 침해를 최소화하기 법제도의 개선방안을 연구하였습니다.