2021.05.21 AI Framework

AI [Ethics] Framework | EP03. AI 시대와 인류의 진화

Taking the Next Step
in Human Evolution

Taking the Next Step
in Human Evolution

AI 시대와 인류의 진화

인공지능은 인간의 삶의 질을 높이고 기후변화, 자원 고갈, 의료 혁신 등 국가와 세계가 직면한 문제를 해결하고 우주에 대한 지식을 고도화할 수 있는 무한한 가능성으로 인류에게 새로운 세상을 열어주고 있습니다. 하지만 무한한 것으로 보이는 잠재력은 한편으로 인류에게 공포와 우려의 대상이 되기도 합니다. AI 기술이 등장하면서 제기된 인류의 ‘대체’, ’교체’에 대한 불안이라든지 기술의 ‘편향성’이나 ‘공정성’과 같은 윤리 문제가 실질적인 논란으로 떠오르고 있는데요. AI 기술이 펼쳐질 새로운 시대에 인류는 어떤 역량이 필요한지 우리는 미래 세대를 위해 무엇을 준비해야할지 고민을 시작해야 합니다.

 

[AI FRAMEWORK]는 인공지능과 인류의 미래를 고민하는 세계적인 석학들의 눈을 통해 ‘AI를 바라보는 새로운 관점’을 제시하는 엔씨의 새로운 콘텐츠 시리즈입니다. 엔씨의 AI Center 설립을 주도하며 첨단기술의 윤리적 문제를 탐구해온 윤송이 CSO가 공학, 정치학, 철학 등 각 분야의 리더들을 만나 서로의 생각과 관점을 나눕니다. 지난 편에서 스탠퍼드 인간중심 AI 연구소(HAI – Stanford Institute for Human-Centered Artificial Intelligence)의 페이페이 리(Fei-Fei Li) 공동소장과 인공지능 기술을 바라보는 새로운 관점과 AI 기술에 대한 혁신과 규제에 대해 알아보았습니다.

 

세 번째 이야기 나눌 주제는 AI 기술로 진화될 다음 세대, 새로운 인류입니다. 우리가 맞이해야 할 새로운 인류는 어떤 모습일지 알아보는 것을 시작으로 기술과 휴머니즘이 균형잡힌 미래 세대를 위해 우리가 해야할 일은 무엇인지 이야기를 나눠보겠습니다.

Songyee Yoon

엔씨소프트의 사장(최고전략책임, CSO)이자 북미법인(NC West) 최고경영자로 엔씨의 글로벌 사업전략을 총괄하고 있다. 엔씨의 AI Center 설립을 주도해 AI와 NLP에 관한 다양한 연구개발 성과를 기업 경영에 접목하고 있다. 특히 AI가 미치는 사회적 영향과 AI 윤리를 지속적으로 고민하며, 현재 미국 스탠퍼드 인간중심 AI 연구소(Human-Centered AI Institute, HAI) 자문 위원과 메사추세츠공과대학(MIT) 이사회 이사로 활동 중이다.

Fei-Fei Li

스탠퍼드대학 컴퓨터과학과 교수이자 스탠퍼드 인간중심 AI 연구소(Human-Centered AI Institute, HAI) 공동 소장으로 전 세계 AI 분야의 최고 석학으로 꼽힌다. 주 전공은 컴퓨터 비전이며, 딥러닝이 빠르게 발전할 수 있도록 ImageNet을 고안해 세계적으로 주목받았다. 또한 헬스케어 분야에 AI를 적용해 다양한 문제를 해결하는 데 선도적인 역할을 하고 있다. AI 분야에서 다양성의 가치를 확장하고자 여성과 소외된 계층을 대상으로 하는 비영리단체 AI4ALL을 창립했으며, AI 교육의 발전을 위해 STEM 교육과 조기 교육의 중요성을 지속적으로 강조하고 있다.

The Importance
of Human Values

in AI

AI를 견제하는 '사람'의 중요성

윤송이   저는 박사님이 AI 시대에 어떤 것을 가장 걱정하고 있는지 궁금해요. 대부분 사람들은 AI를 생각하면 ‘교체’, ‘대체’ 그리고 ‘편향’과 같은 단어를 떠올리며 우려를 표하는데요. AI 전문가로서 이에 대해 어떻게 생각하시나요? 또 인류가 주목해야 할 것은 무엇일까요?

 

페이페이 리   송이 님이 언급한 단어들은 모두 기억해야 할 것들이에요. 그러나 결국 이 문제를 풀 수 있는 열쇠는 ‘사람’일 거예요. 만약 송이 님이 저에게 가장 중요한 것이 무엇인지 하나만 꼽으라고 한다면 저는 ‘새로운 세대들’이라고 답하겠습니다. 복수형으로요. 왜냐면 현재 벌어지고 있는 문제들이 해결되는 데는 한 세대만으로는 충분하지 않기 때문이죠.

AI with the New Generations

공학과 인문학을 겸비한 새로운 세대

페이페이 리   이 ‘새로운 세대들’은 공학과 인문학을 모두 깊이 이해하고 있는 엔지니어, 정치가, 사업가, 의사, 변호사들을 말합니다. 이 말은 소프트웨어 개발자에게 윤리학 박사 학위가 있어야 한다는 뜻은 아니에요.

 

미국의 청소년들은 16살 즈음에 운전하는 법을 배우면서 동시에 자동차 엔진에 대해 조금이나마 알게 됩니다. 또 자동차 운행의 원리와 함께 도로교통법 같은 규칙과 개인의 책임 또한 배우게 되죠. 이 비유를 통해 제가 말하고 싶은 바는 다음 세대가 사업가, 정치가, 선생님, 엔지니어, 그 무엇이 되더라도 우리가 오늘날 개발해 낸 교육 수준과 체계는 이전보다 더 나아야 한다는 거예요. 기술과 함께 인간을 중심으로 더 균형을 맞춰야 합니다.

페이페이 리   정치가가 인터넷 산업이 어떻게 운영되는지 이해하지 못하면 안 됩니다. 기계가 위험한 상황을 일으킬 때 기술자가 자신의 책임이 아니라고 하는 상황이 발생해서는 안 됩니다. 실제로 제가 만난 실리콘밸리의 한 소프트웨어 개발자는 “저는 기술로 좋은 일을 하고 싶어요. 그런데 유치원에서 대학까지 전 교육과정을 통틀어 AI 윤리에 대해 단 한 번의 수업도 받아 보지 못했고, 책 한 권도 읽어 본 적이 없어요. 실리콘밸리 소프트웨어 개발자가 되기 전까지 단 한 번도요.”라고 눈물을 흘리며 말했어요. 이게 컴퓨터 공학이란 분야의 현실이에요. 정말 눈앞이 깜깜한 일이죠.

 

다음 세대도, 그다음 세대도 이러한 상황에 처해서는 안 됩니다. 이것이 바로 제가 HAI와 우리 일의 중요성에 대해 생각하는 이유예요. 저는 이 새로운 세대들을 매일 생각합니다.

Aligning AI with Human Values

책임과 권한은 누구에게 있는가

윤송이   그렇다면 불평등에 대해서는 어떻게 생각하시나요? 또 자동화에 대해서는 어떻게 생각하시는지 궁금합니다. 자동화는 기술이나 데이터를 가진 사람들에게 엄청난 이익을 주지만, 그러지 못한 사람들에게는 기회를 빼앗는 결과를 낳을 수 있죠.

 

페이페이 리   인간이 강력한 도구를 개발한 건 AI가 처음이 아니에요. 시대마다 인간이 개발한 강력한 도구는 늘 선과 악의 양면적인 결과를 가져왔어요. 예를 들면, 전기는 이전에 발명된 어떤 기술보다 더 많은 사람에게 빛과 따뜻함을 제공했습니다. 그러나 동시에 경제 시장에서 불평등을 만들기도 했죠.

 

AI도 마찬가지라고 봅니다. AI 기술은 인류에게 거대한 선을 가져오고 그 효용이 잘 배분될(democratize) 잠재력이 있습니다. 하지만 분석할 수 있는 데이터와 비즈니스 모델이 있는 사람에게 부와 권력이 집중될 수도 있어요.

 

그래서 저는 AI 기술이 선악을 결정하는 유일한 요소가 아니라 전체의 한 부분(part of equation)이라고 생각합니다. AI 기술과 관련된 정책을 수립하고, 규제를 확립하고, 시민사회가 참여해 전체를 이루는 것이죠. AI 기술이 방치된다면, 정말 걱정이죠. 우리는 이미 인터넷 기술을 통해 경험한 사실이 있습니다. 기술 자체는 악하지 않다는 것이죠. 악은 사람들의 올바른 행동, 올바른 법안 그리고 올바른 견제와 균형이 없다면 나타날 겁니다. 기계의 가치는 독립적으로 존재하지 않습니다. 기계의 가치는 인간의 가치를 반영합니다.

페이페이 리   자, 제가 보건의료 프로젝트를 진행하고 있으니 COVID-19를 예로 들어 볼게요. 원격의료(telemedicine)는 코로나 때문에 급격하게 확대된 기술인데요. 원격의료를 통해 집 밖에 나갈 수 없는 노인이나 만성 환자를 비롯한 많은 사람에게 약과 의료 서비스가 제공되었습니다. 저 역시 작년에 아팠을때 어느 때보다 담당 의사와 영상 통화를 자주했습니다. 원격의료는 의료 서비스가 보다 민주화 된 사례이죠. 그러나 동시에 우리는 이 시스템의 모든 과정에서 ‘권한을 가진 사람이 누구인지’, ‘누군가에게 불공정하거나 불평등하게 작동하진 않는지’ 경계해야 합니다.

 

그리고 반드시 기억해야 할 것은 이 모든 시스템이 작동하는 과정과 의사결정에는 사람이 있다는 것입니다. 이 점에 주의하지 않는다면 이 시스템과 의사결정 곳곳에 영향이 미칠 거예요. 우리는 AI와 관련된 규제부터 교육까지 인간 중심으로 견제하고 균형을 유지함으로써 다중 이해관계자적 접근(multi-stakeholder approach)을 지속해야 할 것입니다.

윤송이   네, 맞습니다. 앞으로 차세대 리더나 중요한 역할을 할 사람들이 강력한 도구를 올바른 방법으로 사용하는 것이 중요할 것 같아요. 그러려면 기술의 위험에 대해 교육시키는 교육자의 역할이 정말 중요하네요.

 

페이페이 리   네. 그러나 저는 송이 님과 같은 비즈니스 리더 또한 큰 역할을 한다고 말하고 싶어요. 우리는 끊임없이 배워야 하는 동시에 누군가를 이끌거나, 신념을 널리 전해야 할 필요가 있어요. 우리는 모두 각자의 자리에서 학생이고 교육자여야 합니다.

TOP