2021.04.29 AI Framework

AI [Ethics] Framework | EP01. AI 시대가 이끄는 윤리의 혁명

The Revolution of Ethics
in the Realms of AI

The Revolution
of Ethics
in the Realms of AI

AI 시대가 이끄는 윤리의 혁명

엔씨는 2019년 칼럼 ‘AI 시대의 윤리’를 시작으로 인공지능을 둘러싼 윤리 문제를 지속적으로 제기해 왔습니다. 그사이 AI 기술은 편리와 효율을 앞세우며 더욱 강력해졌고, 우리의 일상 속으로 빠르게 스며들었습니다. 기술의 발전을 넘어 시대적 패러다임으로 AI를 맞이하는 지금, 우리는 우려했던 것보다 더 빨리 공정과 자유, 신뢰에 대한 범인류적인 문제들을 직면하고 있습니다. 이제는 AI를 향한 윤리적 관점의 필요성을 논의하는 단계를 넘어, 새 시대의 AI를 위한 철학을 재정립해야 할 때입니다.

 

[AI FRAMEWORK]는 인공지능과 인류의 미래를 고민하는 세계적인 석학들의 눈을 통해 ‘AI를 바라보는 새로운 관점’을 제시하는 엔씨의 새로운 콘텐츠 시리즈입니다. 엔씨의 AI Center 설립을 주도하며 첨단기술의 윤리적 문제를 탐구해 온 윤송이 CSO가 공학, 정치학, 철학 등 각 분야의 리더들을 만나 서로의 생각과 관점을 나눕니다.

 

첫 번째로 우리에게 새로운 관점을 선사할 인물은 스탠퍼드 인간중심 AI 연구소(HAI – Stanford Institute for Human-Centered Artificial Intelligence) 페이페이 리(Fei-Fei Li) 공동소장입니다. 스탠퍼드 인간중심 AI 연구소의 비전과 미션을 시작으로, ‘인간 중심의 AI’를 위해 인공지능 기술을 바라보는 새로운 관점(AI Framework)을 마련해야 한다는 주제로 이야기를 나눠 보겠습니다.

Songyee Yoon

엔씨소프트의 사장(최고전략책임, CSO)이자 북미법인(NC West) 최고경영자로서 현재 엔씨의 글로벌 사업전략을 총괄한다. 엔씨의 AI Center 설립을 주도하여 AI와 NLP에 관련된 다양한 연구개발 성과를 기업 경영에 접목하고 있다. 특히 AI가 미치는 사회적 영향과 AI 윤리에 대해 지속적으로 고민하며 현재 미국 스탠퍼드대학 인간중심 AI 연구소(Human-Centered AI Institute, HAI)의 자문 위원과 메사추세츠공과대학(MIT) 이사회 이사로 활동 중이다.

Fei-Fei Li

스탠퍼드대학 컴퓨터 과학과 교수이자 스탠퍼드 인간중심  AI  연구소(Human-Centered AI Institute, HAI)의 공동 소장으로 전세계 AI 분야의 최고 석학으로 꼽힌다. 주 전공은 컴퓨터 비전으로 딥러닝이 빠르게 발전할 수 있도록 ImageNet을 고안해 세계적으로 주목받았다. 또한 헬스케어 분야에 AI를 적용하며 다양한 문제를 해결하는 데 선도적인 역할을 하고 있다. AI 분야에 다양성의 가치를 확장하기 위해 여성과 소외된 계층을 대상으로 하는 비영리단체 AI4ALL을 창립했으며, AI 교육의 발전을 위해 STEM 교육과 조기 교육의 중요성을 지속적으로 강조하고 있다.

Human
-Centered AI

인간 중심의 인공지능

윤송이    오늘 이 만남을 기대했어요. 시간 내주셔서 정말 감사합니다. 이 시대에 정말 중요한 이야기를 함께 나눌 수 있어서 기쁘네요.

 

페이페이 리    저도 이 대화를 이어갈 수 있어서 기뻐요. 스탠퍼드 HAI는 자문위원인 송이 님을 비롯한 동료들의 노력 덕분에 여기까지 올 수 있었습니다. HAI가 성장하는 과정 전반에 보내 준 송이 님의 지지와 참여에 감사해요.

 

 제가 처음 일을 시작했을 때 저는 건물 한쪽 구석에 있는 컴퓨터 과학 부서에 앉아 있었어요. 그때 함께 일하던 사람들은 대부분 컴퓨터 과학을 전공하는 학생이거나 AI 랩의 동료였죠.

 

윤송이   맞아요. 저 또한 학제적인 특성 때문에 컴퓨터 과학 부서 구석에 앉아 있던 게 생각납니다. 그 당시 컴퓨터 공학 엔지니어들은 AI를 전통적인 공학 분야로 보지 않았거든요. 그래서 ‘넌 아마 심리학 분야에 속할 거야’라는 오해도 많이 받았죠. 그때 비하면 지금은 참 많이 달라졌어요.

 

페이페이 리   네, 오늘날에는 AI가 정말 빠르게 성장하고 있고, 이미 사회에서 변혁을 주도하는 역할을 하고 있습니다. 이제 AI는 단지 기술의 한 부류가 아니라 다양한 학문이 융합된 종합적인 분야가 되었다는 사실을 인지할 필요가 있게 된 거죠.

Why Stanford Started Human-Centered AI Research

왜 스탠퍼드는 인간 중심 AI 연구를 시작했나

윤송이   HAI의 웹페이지나 소개 자료가 있지만, 박사님에게 직접 이야기를 듣고 싶어요. 스탠퍼드 HAI는 인간 중심의 AI를 위한 다양한 실험과 논의의 장을 만들고, 학제 간 협업을 통해 혁신적인 기술을 공공 부문에 적용해 실제로 현실 세계를 변화시키고 있습니다. 스탠퍼드대학에서 이렇게 중요한 연구소를 만들게 된 이유를 묻고 싶어요. 또 어떤 비전을 가지고 운영하고 있는지도요.

 

페이페이 리   우리가 HAI라 부르는 스탠퍼드 인간중심 AI 연구소는 3~4년 전에 시작되었습니다. AI 기술이 우리 삶 속에 스며들어 강력한 변화의 조짐이 수면 위로 드러나기 시작할 때였죠. 당시는 구글의 알파고가 이세돌 9단을 대국에서 이기고, 자율 주행 자동차가 더는 SF소설 속 이야기가 아니라 실제로 생산되고 있을 시점이었습니다. 동시에 AI 얼굴 인식 시스템에서 일종의 편견이 발견되고, 프라이버시 문제가 드러나면서 AI의 ‘공정성’에 대한 우려도 높아지던 시기였죠. 캠퍼스 내의 학자들 다수가 스탠퍼드의 시대적 역할, 기회 그리고 책임이 무엇인지 생각하기 시작했어요.

 

스탠퍼드대학은 미국에서 가장 오래된 두 개의 AI 연구실 중 하나가 있는 곳일 뿐 아니라, ‘인공지능’이라는 단어를 처음 만든 곳이기도 합니다. 또 스탠퍼드 AI 실험실의 창립 이사인 John McCarthy 교수부터 1970~80년대의 튜링 어워드 우승자, 자율 주행 자동차를 개발한 연구자 그리고 딥러닝 선구자까지 역사적으로 가장 강력한 AI 혁신의 중심 역할을 해 왔죠. 스탠퍼드는 AI 기술이 인류의 삶에 영향을 미치는 하나의 새로운 시대를 생각했습니다. 그리고 더불어 기술의 발전을 지속하면서 인류와 인간에 대한 책임을 생각해야 했죠. 이를 통해 모두의 삶을 더 낫게 만들기 위한 기술을 발전시키고 활용해야 한다는 신념을 가지게 되었어요.

AI FRAMEWORK:
A New Perspective on AI

AI를 바라보는 새로운 눈

윤송이   박사님은 지금과 같은 과도기에 장기적이고 긍정적인 변화를 이끌기 위해서는 AI의 새로운 프레임워크를 설계하는 것이 중요하다고 말씀하셨어요. 더불어 이를 위해 정부, 학계 그리고 기업의 역할이 중요하다는 점을 강조하셨습니다. 그렇다면 각자가 책임을 다하면서 함께 시너지를 내는 협력적 구조를 어떻게 만들 수 있을까요?

 

페이페이 리   네, 송이 님. 좋은 질문이에요. 우선 HAI는 다양한 이해 관계자(multi-stakeholder)의 관점에서 새로운 AI 프레임워크에 접근해야 한다는 신념을 바탕으로 세워졌어요. 한마디로 ‘혼자’서는 할 수 없다는 말이죠. 이때 제가 말하는 ‘혼자’는 컴퓨터 과학자나 대학을 뜻합니다. 우리는 연구, 교육, 정책, 사회 공헌 등 모든 일을 진행할 때 앞으로 이야기할 세 가지 관점을 반드시 염두하고 시작합니다.

01. An Interdisciplinary Approach to AI

공학을 넘어, 사회학과 철학에 이르기까지

페이페이 리   첫 번째는 서로 다른 학문 간의 더 깊이 있는 융합으로 인간과 사회에 미치는 AI의 영향력을 연구해야 한다는 거예요. AI가 이제 더는 컴퓨터 과학 틈새에 있는 고립된 하위 영역이 아니란 걸 깨달아야 하죠.

 

우리는 여러 대학과 전 세계에 있는 사회 과학자들, 인문학자들과 협력해야 합니다. AI가 미치는 다양한 영향력을 예측하려면 인간과 사회의 영향력에 대해서도 이해가 필요하거든요. 인간과 사회의 영향을 이해하는 건 궁극적으로 관련된 정책을 제안하거나 교육과 연구의 방향을 결정하는 데도 도움이 될 수 있습니다.

02. AI: Not Replacing, but Augmenting Humanity

AI는 인류의 대체재가 아니다

페이페이 리   두 번째는​ 오늘날 사람들이 AI를 생각할 때 떠올리는 단어에 관한 것입니다. ​AI와 관련해 가장 많이 언급되는 단어는 ‘대체하다’예요. 그러나 AI는 인류를 대체하는 것이 아니라 인류를 보강하는 기술이며, 인류 발전을 위한 큰 기회일 수 있습니다. 경제학자나 정책 입안자들과 함께 고심해야 하는 굉장히 중요한 문제죠.

 

제가 10년째 일하고 있는 보건의료계만 보더라도, AI는 다른 기술들과 함께 의사의 생산성을 증가시킬 수 있고, 환자들을 더 안전하게 보호할 수 있으며, 간호사와 의사들의 피로와 스트레스를 감소시킬 수 있습니다. 또 노인들을 더 안전하게 보호할 수 있고, 이로써 그들을 돌보는 가족들은 더 여유로워질 수 있죠. 이 외에도 신약이나 백신을 개발하고 희소 질환의 치료법을 찾는 데 도움을 주기도 하죠. 인류를 도울 수많은 기회가 열려 있는 거예요. AI와 머신러닝은 인류의 더 나은 삶 그리고 노동의 생산성을 높이는 데 도움을 줄 수 있습니다.

03. Creating Tomorrow's AI Technology

학문의 경계가 무너질 때, AI 기술은 발전한다

페이페이 리   세 번째는 인간의 신경 과학과 인지 과학에서 영감을 받은 미래의 AI 기술을 만들어야 한다는 것입니다. ‘AI가 사람을 돕는다’는 원대한 목표는 현재의 AI 기술로는 이룰 수 없어요. 우리의 꿈을 이루기 위해서는 현재의 불안정하고, 제한적이고, 모호한 수준을 벗어나서 지속적으로 AI의 핵심 기술을 발전시켜 나가야 합니다. AI의 기초 과학이 아무리 발전하더라도 뇌 과학, 인지 과학, 심리학 등 인간 고유 영역에 대한 탐구 영역은 여전히 남아 있죠.

TOP