2021.05.27 AI Framework

AI [Ethics] Framework | EP04. 국가와 문화를 초월하는 협력

Cross-Cultural
Cooperation on AI

Cross-Cultural
Cooperation
on AI

국가와 문화를 초월하는 협력

인공지능으로 재편될 세계는 불확실함으로 가득차 있습니다. 그러나 AI 분야를 선도하고 있는 인공지능 전문가들은 오랜 연구와 경험을 통해 기술로 과거와 미래 세대를 연결하고 있습니다. 끊임없이 기술을 혁신하여 AI 시대의 청사진을 그리는 AI 분야 리더들과 함께 기술이 인류의 이익에 봉사할 수 있도록 개인과 기업 또한 어떤 일을 할 수 있을지 함께 고민해야 할 때입니다.

 

[AI FRAMEWORK]는 인공지능과 인류의 미래를 고민하는 세계적인 석학들의 눈을 통해 ‘AI를 바라보는 새로운 관점’을 제시하는 엔씨의 새로운 콘텐츠 시리즈입니다. 엔씨의 AI Center 설립을 주도하며 첨단 기술의 윤리적 문제를 탐구해 온 윤송이 CSO가 공학, 정치학, 철학 등 각 분야의 리더들을 만나 서로의 생각과 관점을 나눕니다. 지난 편에서 스탠퍼드 인간중심 AI 연구소(HAI – Stanford Institute for Human-Centered Artificial Intelligence)의 페이페이 리(Fei-Fei Li) 공동 소장과 인공지능 기술을 바라보는 새로운 관점, 혁신과 규제, AI 시대의 새로운 인류에 대해 알아 보았습니다.

 

마지막으로 이야기를 나눌 주제는 AI 분야를 선도하는 리더들의 역할입니다. AI 기술이 펼쳐질 불확실한 미래를 위해 국가와 문화의 경계를 넘어 함께 노력해야 하는 일은 무엇인지 알아보고, 스탠퍼드 인간중심 AI 연구소가 힘써서 구축하고 있는 플랫폼은 어떤 모습인지 이야기를 나눠보겠습니다.

Songyee Yoon

엔씨소프트의 사장(최고전략책임, CSO)이자 북미법인(NC West) 최고경영자로 엔씨의 글로벌 사업전략을 총괄하고 있다. 엔씨의 AI Center 설립을 주도해 AI와 NLP에 관한 다양한 연구개발 성과를 기업 경영에 접목하고 있다. 특히 AI가 미치는 사회적 영향과 AI 윤리를 지속적으로 고민하며, 현재 미국 스탠퍼드 인간중심 AI 연구소(Human-Centered AI Institute, HAI) 자문 위원과 메사추세츠공과대학(MIT) 이사회 이사로 활동 중이다.

Fei-Fei Li

스탠퍼드대학 컴퓨터과학과 교수이자 스탠퍼드 인간중심 AI 연구소(Human-Centered AI Institute, HAI) 공동 소장으로 전 세계 AI 분야의 최고 석학으로 꼽힌다. 주 전공은 컴퓨터 비전이며, 딥러닝이 빠르게 발전할 수 있도록 ImageNet을 고안해 세계적으로 주목받았다. 또한 헬스케어 분야에 AI를 적용해 다양한 문제를 해결하는 데 선도적인 역할을 하고 있다. AI 분야에서 다양성의 가치를 확장하고자 여성과 소외된 계층을 대상으로 하는 비영리단체 AI4ALL을 창립했으며, AI 교육의 발전을 위해 STEM 교육과 조기 교육의 중요성을 지속적으로 강조하고 있다.

A Platform to Share
And Shape the Future of AI

미래의 AI로 나아가는 첫 걸음 '플랫폼'

페이페이 리   송이 님은 지속적으로 AI 윤리에 관한 화두를 던지고 방향성을 제시하고 있어요. 실제로 스탠퍼드 인간중심 AI 연구소 이사회의 이사를 역임하면서 HAI의 활동을 조언하기도 하고 지지를 보내기도 하시죠. 저는 기업가인 송이 님의 생각이 궁금합니다. AI 기술이 가져올 위험을 완화하기 위한 기업가의 역할은 무엇일까요.

 

윤송이   지금 당장은 답변할 수 없을 것 같아요. 왜냐하면 제가 박사님의 생각과 관점을 들어보고 싶었던 이유가 바로 이것 때문이었거든요. 다만 우리는 ‘무엇이 공정한 것인지’, ‘공정성이 사회에서 어떠한 의미를 지니는지’ 그에 대한 타당한 정의(good definition)가 없는 상황에서 무언가 공정한 것을 만들라는 요구를 받았어요. 저는 먼저 책임감을 인식하는 것부터 시작한다고 생각해요. 한 집단에게 공정하게 보이는 것이 꼭 그렇지만은 않거든요. 결함을 인지하고, 문제들을 전반적인 맥락 안에서 파악해야 함을 지각하는 게 좋은 출발점이 될 거예요.

윤송이   기업가나 엔지니어들이 공정성에 대한 정의와 기준을 혼자서 정하는 건 아니에요. AI 기술을 다각도로 이해하고, 앞서서 길을 만들고 있는 박사님과 같은 연구자로부터 다양한 생각과 관점을 계속 듣는 것이 필요하죠. 그래서 명료하고 솔직한 박사님의 생각을 공유해 주시는 지금 이 순간이 감사해요.

 

박사님, 우리의 대화는 AI를 바라보는 새로운 관점에서부터 시작해 규제와 혁신, 새로운 세대에 대한 것까지 이르렀습니다. 이제 마지막 질문이 남았네요. 우린 현재 여러 세대 간의 엄청난 문화 충돌을 목격하고 있습니다. 세대 간, 정당 간의 문화 충돌과 신념의 차이는 그 어느 때보다 극단에 있지요.

 

정부가 AI 기술에 대한 가이드라인을 정하고 정책을 실행하는 것과는 별개로 개발자가 한 줄씩 입력하는 코딩 그 자체를 통제할 순 없어요. AI 알고리즘의 편향은 엔지니어가 가진 편견을 보여주는 징후일 수도 있는 것이지요. 인간에 대한 존엄을 지키고, 우리가 지켜야 할 가치들의 조화를 이루어 내는 것은 선생님이나 정치인도 해내기 힘든 과제입니다. 저도 이 질문에 대한 정답을 내릴 수는 없는데요, 이 힘든 과제를 AI 분야 리더들의 노력을 통해 성공적으로 해결할 수 있다고 믿으시나요?

 

페이페이 리   이 질문은 심오하고 근본적인 질문이에요. 저 또한 이 질문에 대한 정답을 갖고 있다고 말할 수는 없습니다. 송이 님과 저 그리고 HAI 구성원들이 함께 답을 찾기 위해 탐구하고 있지요. 스탠퍼드 인간중심 AI 연구소에서는 플랫폼을 만드는 일에 노력을 하고 있습니다. 저희는 비영리 교육 기관으로 중립에 서 있어요. 그래서 이 플랫폼에서 ‘인공지능을 디자인 한다는 건 어디에서부터 시작하는 것인가?’라든가 ‘인공지능이 평등하고 인간적이기를 원한다면 어느 정도에서 끝을 내야 하는 것인가?’와 같은 질문을 던질 수 있어요. 논의를 진전시켜 나갈 때는 법, 규제, 소셜 미디어, 사회 운동 그리고 서로 다른 형태의 시대적 도구들을 모두 고려해야 할 것입니다. 하지만 결국 마지막에는 다중 이해관계자가 대화하고 실험할 수 있는 포럼과 같은 플랫폼이 필요할 것입니다.

The Power of Multiple Perspectives

다양한 관점에서 돌파구를 찾다

페이페이 리   예를 들어 얼굴 인식 AI(face recognition)는 영향력이 매우 큰 기술이에요. 사람들은 이 기술이 편향된 데이터로 훈련되어 인간에 대한 편견을 내포한 채로 재판 제도와 같은 법률 집행 제도, 재정적 형평성을 악화시킬 금융 제도, 의료 제도 등에 사용되고 특정 피부색을 가진 사람에게 불이익을 줄까 봐 걱정합니다. 이 기술은 많은 관심을 받고 있으며 여러 관점을 가진 모든 세대가 이 기술에 대한 의견을 표현하고 있어요. 그래서 작년에 HAI는 다중 이해관계자를 초청해 포럼을 열었습니다. 우리는 ACLU 변호사와 같은 시민 사회, 또 알고리즘 저스티스 리그뿐만 아니라 NIST와 같은 표준을 정하는 연방 기구들, 지역 그리고 주 정부의 정책 입안자들, 법학자들, 본질론과 실재론 학자들, 기술을 개발하고 연구하는 컴퓨터 공학자들을 한 자리에 모았습니다. 송이 님, 이 대화의 결과를 상상해 볼 수 있을 거예요.

* 각주1) ACLU(American Civil Liberties Union): 미국시민자유연맹

* 각주2) AJL(Algorithmic Justice League): 컴퓨터 과학자 Joy Buolamwini가 2016년 설립, AI의 사회적 영향에 대한 대중의 인식을 높이는 것을 목표로 하는 단체

* 각주3) NIST(National Institute for Standards and Technology): 미국 국립표준기술연구소

페이페이 리   이런 대화는 한 번으로 충분하지 않아요. 사람들을 한 장소에 모아서 각자의 관점을 모두 말하게 하고, 서로 듣게 하는 것 자체가 매우 중요한 첫 단계입니다. 여러 이해관계자는 이렇게 자주 모이지 않잖아요. 그러면 어떻게 모두를 위한 잠재적인 해결책을 모색할 수 있을까요. 한 자리에 모여 대화하고 서로 다른 입장에 대해 이해하고 공감대를 형성해야 공동선을 위한 보편적인 해결법을 찾을 수 있습니다. HAI는 이 플랫폼을 만드는 것을 열망해요.

 

그리고 플랫폼을 만드는 것을 넘어 관련 프로젝트나 연구도 지원하고 있습니다. HAI에서 법학자나 컴퓨터 공학자가 이러한 일들을 수행하고 있어요. 우리는 직접 정책을 홍보하거나 정책을 제안한 담당자를 돕는 활동을 할 수 있습니다. 또한 HAI에는 의회 관계자, 언론 기자 그리고 기업 경영진을 포함한 다양한 사회 계층의 사람을 초대하는 캠프가 있어요. 여기 다중 이해관계자 플랫폼에서 수차례 토론이 이루어지고, 그 결과로 다양한 콘텐츠가 만들어져요. 이를 바탕으로 더 풍요로운 대화가 오고 가고, 이러한 다양한 콘텐츠는 다중 이해관계자의 협업을 장려하는 교육 수단으로도 활용됩니다. 제가 송이 님의 질문에 제대로 답변을 했는지 모르겠지만 제가 믿고 있는 방법론을 이야기했어요. 다중 이해관계자와 여러 세대 사상가와 리더들 그리고 시민 사회를 초대해 함께 어울려 해답을 찾는 것이지요.

 

윤송이   네, 저 역시 다중 이해관계자가 참여하는 포럼을 열고 서로를 이해할 수 있는 장을 열어 주는 게 중요한 첫 단계임에 동의합니다. 다만, 참여한 사람들이 서로 다른 용어를 사용한다면 대화를 시작하기가 매우 어려울 것 같아요. 그들을 한 자리에 모이게 하는 것 자체가 하나의 과제인데, 서로 같은 용어를 사용하게 하는 것 또한 어려운 문제일 것 같습니다.

 

페이페이 리   네, 이 과정을 엄청나게 반복해야 할 거예요. 송이 님, 제가 보건 의료 프로젝트를 진행할 때가 생각나네요. 저는 의사가 말하는 모든 의료 용어를 익히고, 그들의 대화를 이해하는데 몇 년이 걸렸어요. 아직도 노력하고 있습니다.

Toward a New Era of AI

새로운 시대를 맞이하기 위한 글로벌 AI 리더들의 과제

페이페이 리   저도 송이 님에게 마지막 질문이 한 가지 있어요. 송이 님은 아시아 사람이고, 국제 사회에서의 경험도 있지요. 가끔 우리는 미국에만 관심을 두는 것 같은데요, 수평적 기술(horizontal technology)을 위해서 우리가 국제적으로 어떻게 관계를 맺을 수 있을까요? 그리고 기술뿐만 아니라 윤리적 신념 혹은 평등, 기술을 자애롭게 퍼트려 사용하는 것에 대해 어떻게 생각하시는지 궁금합니다.

 

윤송이   네, 모든 것은 훌륭한 기초(good foundation)부터 쌓아 올려야 합니다. 여러 국제적인 리더들과 협력하여 우리의 신념을 수평적으로 펼쳐 나가기 위해서는 ‘일반적인 신념(the common set of beliefs)’으로부터 출발하는 것이 중요해요. 예를 들면, ‘개인에게 속한 데이터의 자유란 무엇인지’ 그리고 ‘그 데이터의 소유권은 누구에게 있는지’와 같은 것들 말이에요. 몇몇 국가는 이에 대해 다른 시각을 갖고 있고, 심지어 어떤 제도에서는 개인의 데이터 소유를 존중하지도 않습니다. 이런 기본적 이해조차 없다면 어떤 신념이나 기준을 퍼트리기가 어려울 거예요. 그래서 전체론적 접근(holistic approach) 같은 게 필요합니다. 단지 기술 발전에 관한 것이 아니에요. 우리의 법치와 민주주의에 관한 것이고, 인간과 자유에 대한 믿음에 관한 것이에요.

윤송이   더 나은 미래를 위해서는 함께 모이는 수밖에 없다고 생각합니다. 더 나은 미래를 위해 끈질기게 함께 일하는 것 말고는 다른 대안이 없어요. 남아 있는 시간도 많지 않습니다. 미래를 향해 나아가는 과정에서 실수도 하겠지만, 우리가 이전 편에 이야기했던 AI가 가진 여러 단점과 위험을 깨닫게 될 거예요.

 

페이페이 리   네, 동감입니다. 대학 연구소에 있는 저로서는 현재와 미래에 대해 명료한 책임감을 갖고 있는 송이 님과 같은 리더의 이야기를 듣는 것으로 정말 큰 용기를 얻어요. 함께하는 긴 여정이 될 것 같아요. 송이 님과 같은 친구이자 조언자, 지지하는 이가 있음에 감사합니다. 개인적으로도 우리가 함께한 대화와 협력한 일들이 많은 것을 깨우쳐 주었고, 마음이 따뜻해지는 경험이었습니다. 이러한 파트너십이 지속되기를 바랍니다.

 

윤송이   AI 분야에 앞장서서 올바른 길을 만들며, 책임감을 가지고 세계에 영향력을 펼치는 박사님과 스탠퍼드 인간중심 AI 연구소를 지원할 수 있어서 저도 기쁩니다. 감사합니다.

TOP