AI [Human] Framework | EP01. 하버드의 도전, Embedded EthiCS
Why Embedded EthiCS?
하버드의 도전, Embedded EthiCS
전 세계의 경제 산업 분야에서는 현존하는 유일한 인류인 호모 사피엔스를 넘어 인공지능을 갖춘 ‘로보 사피엔스(Robo Sapiens)’가 등장할 거라고 전망합니다. 앞으로 호모 사피엔스와 로보 사피엔스의 공존은 더 이상 공상 과학 영화 속의 이야기가 아닙니다. 인류는 오랜 세대에 걸쳐 인간이란 무엇인지, 생명이란 무엇인지에 대해 끊임없는 질문을 했습니다. 이제 AI 기술 시대에 맞는 철학에 대한 답은 현세대들이 풀어 나가야 할 숙제입니다.
[AI FRAMEWORK]는 인공지능과 인류의 미래를 고민하는 세계적인 석학들의 눈을 통해 ‘AI를 바라보는 새로운 관점’을 제시하는 엔씨의 새로운 콘텐츠 시리즈입니다. 엔씨의 AI Center 설립을 주도하며 첨단 기술의 윤리적 문제를 탐구해 온 윤송이 CSO가 공학, 정치학, 철학 등 각 분야의 리더들을 만나 서로의 생각과 관점을 나눕니다.
제임스 미킨스 교수님에 이어 대화를 나눌 인물은 하버드 대학의 임베디드 에틱스(Embedded EthiCS) 공동 창립자인 철학자 앨리슨 시몬스 교수입니다. 프로그램의 시작부터 현재까지 컴퓨터 과학 수업의 윤리 모듈 개발에 참여하고 있는데요. 컴퓨터 과학 윤리 교육의 시초인 임베디드 에틱스가 어떻게 탄생했고 어떻게 진화해 가고 있는지 살펴보겠습니다.
Songyee Yoon
엔씨소프트의 사장(최고전략책임, CSO)이자 북미 법인(NC West) 최고 경영자로 엔씨의 글로벌 사업 전략을 총괄하고 있다. 엔씨의 AI Center 설립을 주도해 AI와 NLP에 관한 다양한 연구 개발 성과를 기업 경영에 접목하고 있다. 특히 AI가 미치는 사회적 영향과 AI 윤리를 지속적으로 고민하며, 현재 미국 스탠퍼드 인간중심 AI 연구소(Human-Centered AI Institute, HAI) 자문 위원과 메사추세츠 공과대학(MIT) 이사회 이사로 활동 중이다.
Alison Simmons
미국의 철학자이자 하버드 대학의 Samuel H. Walcott 철학 교수이다. 시대의 변화에 따른 인간 철학과 심리에 관심이 많아 이를 이용한 다양한 분야에서 활동 중이다. 컴퓨터 과학 커리큘럼의 윤리적인 모듈을 개발하는 프로그램인 하버드 임베디드 에틱스(Embedded EthiCS)의 공동 설립자로서 활발히 프로그램을 운영 중이다. 하버드 대학교의 과학사 학부 겸임 교수(Faculty Affiliate)로 활동하며 지난 2017년에는 “Mind-Body Union and the Limits of Cartesian Metaphysics”를 집필하였다.
History of Embedded EthiCS
임베디드 에틱스의 시작
윤송이 안녕하세요, 교수님. 우리 하버드 임베디드 에틱스(Embedded EthiCS) 프로그램으로 대화를 시작해 볼까요? 교수님은 이 프로그램을 처음 만든 교수진의 한 분이시죠. 바바라 그로스(Barbara J. Grosz) 교수님과 함께 프로그램을 만드셨고요. 이 프로그램은 개설 이후로 매 학기 높은 수준의 교육을 제공하고 있습니다. 그래서 이 프로그램이 어떻게 만들어진 것인지 궁금합니다. 어떻게 성장하고 있고, 어떤 시행착오를 겪었는지, 어떤 성과를 만들어 냈는지 들어 보고 싶어요.
앨리슨 시몬스 물론이죠, 감사합니다. 이 프로그램의 유래라……. 이야기는 2016년 가을에 시작이 됩니다. 말씀하셨듯이 제 동료인 바바라 컴퓨터 과학과 교수님께서 그 학기에 ‘지능형 시스템: 설계 및 윤리적 문제(Intelligent Systems: Design and Ethical Challenges)’라는 강의를 하게 되었어요. 144명의 학생들이 이 수업에 신청했지만, 세미나 형식의 소규모 수업이었기 때문에 바바라 교수님은 24명의 학생들만 수강 등록을 시켰죠. 컴퓨터 과학, 철학, 정치학 등등 다양한 분야에서 AI와 윤리학 모두에 관심이 있는 학생으로만 구성된 그룹이었습니다.
앨리슨 시몬스 그러던 어느 화요일 수업 시간에, 바바라 교수님과 학생들은 페이스북 감정 전이 실험(emotional contagion experiment)에 대해 이야기했어요. 그리고 사용자 프로필에서 데이터를 수집할 때 일반적으로 무슨 일이 벌어지는지에 대해서도 이야기를 했죠. 학생들은 사용자 프로필 데이터가 이용되는 방식에 매우 화가 났고, 그들은 윤리적 문제에 대해서도 대화를 나눴습니다.
*각주1) 감정 전이 실험(emotional contagion experiment): 사람들의 감정 상태가 직접 접촉 없이도 네트워크를 통해 ‘전염’된다는 점을 실증적으로 입증하는 실험. 변인을 정량적으로 통제하고 페이스북 사용자 수십만 명을 대상으로 실시한 실험이라는 점에서 신빙성이 상당히 높지만, 감정 관련 데이터를 다루는 것이 윤리적으로 문제가 될 수 있다는 점에서 논란을 빚기도 했다.
앨리슨 시몬스 그 주 목요일에는 바바라 교수님이 학생들에게 과제 하나를 내줬어요. “여러분이 소셜 미디어 플랫폼 회사에서 일하고 있고, 피트니스 프로그램을 다루는 새 고객이 있다고 합시다. 페이스북 같은 소셜 미디어 플랫폼에 대한 지식을 바탕으로, 광고를 노출시킬 대상을 결정하는 알고리즘에 사용될 사용자 프로필의 5가지 특징을 작성해 보세요.” 학생들은 항상 그렇듯이 열정적으로 과제를 해냈습니다. 마지막에 바바라 교수님은 물었죠. “여러분 중에 자신이 한 일의 윤리적 의미에 대해 생각해 본 사람은 몇 명인가요?“
0명, 0명이었어요. 바바라 교수님은 충격에 빠졌죠. 그 그룹은 기대가 컸었던 그룹이었거든요. 그래서 그녀는 저에게 연락을 취했죠.
바바라 교수님이 말하더군요. “앨리슨, 내가 학생들을 페이스북과 구글에 보내고 있는데, 정작 학생들은 자신이 하는 일의 윤리적 의미에 대해 생각하는 방법을 몰라. 우리는 이 문제를 해결해야 해.” 그녀는 본인이 3년 후 은퇴하기 전에 이걸 해내야 한다고 했죠. 저는 도전을 좋아하기도 하고, 이 문제가 중요해 보였어요. 그리고 바바라 교수님도 좋아하고요. 그래서 저희는 같이 일을 하게 되었습니다. 그다음엔 우리가 하고 싶지 않은 것들에 대해서 매우 빠르게 결정을 내렸어요. 아마 제임스 교수님께 들으셨을 텐데, 저희는 그저 컴퓨터 과학을 위한 또 하나의 윤리학을 만들고 싶지는 않았습니다.
앨리슨 시몬스 물론 그런 수업에도 나름의 목적이 있겠죠. 하지만 그렇게 하면 바바라 교수님의 수업에서 발생한 것과 같은 현상만 더 늘어날까 봐 걱정이 됐어요. 학생들이 본인이 하는 컴퓨터 과학의 일과 윤리적 추론을 구분해서 생각하는 것 말이에요. 그래서 저희는 어떻게 하면 학생들이 컴퓨터 과학자가 하는 일의 일부로 윤리적 추론을 생각하게 할 수 있을지, 방법을 찾고 싶었어요. 이때 임베디드 모듈의 피자(pizza of embedded modules)에 대한 아이디어를 떠올리게 되었죠.
기존의 수업들에 모듈을 끼워 넣고 콘텐츠를 연관 짓는 겁니다. 그리고 그들이 공부하고 있는 모든 것에서 문제가 어떻게 발생하는지 학생들에게 보여 주고 직접 경험하게 한다면, 그것이 답이 될 수 있겠죠. 하지만 넘어야 할 산이 있었어요. 컴퓨터 과학과 교수님들 수업의 반 이상을 저희가 차지할 수는 없잖아요. 저희는 한두 번 정도만 들어가 수업할 수 있었어요.
그때 저희는 분산 모델(distributed model)에 대해 생각하게 되었어요. 저희가 많은 수업을 위해 이런 프로그램을 만들어 놓으면, 학생들은 윤리적 추론을 계속해서 반복하게 될 것이고, 윤리적 문제를 생각하는 습관을 기를 수 있을 거라고 생각했죠. 그리고 그들은 이런 문제가 인공지능, 머신 러닝뿐만 아니라 하드웨어 같은 모든 분야에서 발생한다는 것을 보게 될 것입니다. 이야기가 이렇게 된 것이에요.
Evolution of Embedded EthiCS
끝나지 않은 도전, 임베디드 에틱스
앨리슨 시몬스 임베디드 에틱스 프로그램은 2017년 봄 학기에 시작했습니다. 여기에 관심 있어 할 만한 네 명의 컴퓨터 과학과 교수님들과 함께 일을 했던 MIT 대학원생들에게 도움을 요청하기도 했어요. 그리고 저희는 네 개의 모듈과 네 개의 강좌를 열었죠. 지금까지 저희는 많이 성장했어요. 84개의 모듈과 37개의 고유한 컴퓨터 과학 강좌를 마쳤고요. 그 수요는 이제 저희가 감당할 수 있는 수준을 넘어섰어요. 실제로 사람들을 다 받지 못하고 돌려보내야 했으니까요.
이것은 하버드 안에서의 성장입니다. 그리고 송이 님 같은 분들 덕분에 하버드 밖에서도 발전하고 있어요. 다른 학교에서도 저희를 모델로 삼고 있거든요. MIT는 물론이고, 스탠퍼드, 네브래스카, 테크니온, 토론토 등에서요. 그래서 저희는 학교 각각의 적합한 모델을 개발하는 걸 어떻게 도울 수 있을지도 고민 중입니다. 학교마다 상황이 달라요. 학교마다 DNA가 다르고, 갖고 있는 자원이나 해결해야 할 문제들도 다 다를 테니까요.
앨리슨 시몬스 그래서 저희가 현재 해결해야 할 과제 중 하나는 각 학교들이 하버드와는 다른 그들만의 버전을 개발하는 데 도움이 될 방법을 찾는 것입니다. 그것은 그 학교만의 프로그램이고, 다른 곳에서와는 다르게 작동할 거예요. 예를 들어, 철학자가 없는 학교라면 어떻게 해야 할까요? 이것이 저희가 찾아낸 하나의 도전 과제입니다.
*Any endorsements, views, opinions, and appearances shared by the interviewee are made solely in his/her/their personal capacity; Harvard does not endorse this organization or its products or services.
