2021.05.06 AI Framework

AI [Ethics] Framework | EP02. 규제와 혁신의 사이에서

Innovation vs Regulation

Innovation
vs Regulation

규제와 혁신의 사이에서

오늘날 세계 경제는 혁신적인 기술을 기반으로 한 산업이 이끌고 있다고 해도 과언이 아닙니다. 인터넷과 모바일의 발전이 디지털 혁신을 이끌고, 빅데이터와 발전된 컴퓨팅 인프라가 인공지능을 탄생시키며 혁신적인 기술이 하나의 산업으로 빠르게 도약하고 있습니다.

 

21세기의 가장 중요한 기술인 AI는 발전을 견인하고 잠재적인 위험을 완화하는 주체인 정부가 정책을 수립하고 제도를 마련하는 속도보다 더 빠르게 발전하고 있습니다. AI 기술이 ‘인간 중심의 AI’로 지속 가능하게 성장하기 위해서는 기술 혁신과 인재 양성, 공정한 경쟁, 기술에 대한 가이드라인이 필요합니다. 이제 정부는 ‘인간 중심의 AI’를 위한 더 활발한 논의를 진행해야 할 때입니다.

 

[AI FRAMEWORK]는 인공지능과 인류의 미래를 고민하는 세계적인 석학들의 눈을 통해 ‘AI를 바라보는 새로운 관점’을 제시하는 엔씨의 새로운 콘텐츠 시리즈입니다. 엔씨의 AI Center 설립을 주도하며 첨단기술의 윤리적 문제를 탐구해 온 윤송이 CSO가 공학, 정치학, 철학 등 각 분야의 리더들을 만나 서로의 생각과 관점을 나눕니다. 지난 편에서는 스탠퍼드 인간중심 AI 연구소(HAI – Stanford Institute for Human-Centered Artificial Intelligence)의 페이페이 리(Fei-Fei Li) 공동소장과 인공지능 기술을 바라보는 새로운 관점에 대해 알아보았습니다.

 

두 번째로 이야기 나눌 주제는 AI 기술에 대한 혁신과 규제입니다. 최근 스탠퍼드 인간중심 AI 연구소와 미국 정부가 협력했던 AI 관련 법안을 소개하는 것을 시작으로, ‘인간 중심의 AI’를 위한 정부의 역할은 무엇인지 이야기를 나눠 보겠습니다.

Songyee Yoon

엔씨소프트의 사장(최고전략책임, CSO)이자 북미법인(NC West) 최고경영자로서 현재 엔씨의 글로벌 사업전략을 총괄한다. 엔씨의 AI Center 설립을 주도하여 AI와 NLP에 관련된 다양한 연구개발 성과를 기업 경영에 접목하고 있다. 특히 AI가 미치는 사회적 영향과 AI 윤리에 대해 지속적으로 고민하며 현재 미국 스탠퍼드 인간중심 AI 연구소(Human-Centered AI Institute, HAI)의 자문 위원과 메사추세츠공과대학(MIT) 이사회 이사로 활동 중이다.

Fei-Fei Li

스탠퍼드대학 컴퓨터 과학과 교수이자 스탠퍼드 인간중심 AI 연구소(Human-Centered AI Institute, HAI)의 공동 소장으로 전세계 AI 분야의 최고 석학으로 꼽힌다. 주 전공은 컴퓨터 비전으로 딥러닝이 빠르게 발전할 수 있도록 ImageNet을 고안해 세계적으로 주목받았다. 또한 헬스케어 분야에 AI를 적용하며 다양한 문제를 해결하는 데 선도적인 역할을 하고 있다. AI 분야에 다양성의 가치를 확장하기 위해 여성과 소외된 계층을 대상으로 하는 비영리단체 AI4ALL을 창립했으며, AI 교육의 발전을 위해 STEM 교육과 조기 교육의 중요성을 지속적으로 강조하고 있다.

What Is the Role
of Government

혁신을 저해하지 않는 정부의 역할이란

윤송이   지난해 미국 정부에서 AI 행정명령으로 AI 연구 투자, 연구개발 전략, 데이터 접근 방식과 국제 표준 개발을 위한 법안을 마련했습니다. 윤리적이고 책임 있는 AI 기술을 개발하기 위함이었는데, 정부가 지속 가능한 AI 발전을 위해 제도와 정책에 대해 고민한다는 건 놀랄만한 성과라 할 수 있을 것 같아요. 하지만 많은 국가에서 AI 기술을 지원하기 위한 정책이나 가이드라인을 성급하게 준비하는 경향도 있는 것 같습니다.

 

박사님은 작년에 미국 정부를 도와 AI와 관련된 법안이 통과되도록 많은 노력을 기울이셨는데요. 정부가 정책적으로 AI 연구개발과 전략을 세우도록 리더십을 발휘하셨죠. 특히 박사님은 과거부터 이 분야에 대한 정부의 개입과 지원을 강력하게 지지하셨습니다. 반면에 일부 과학자나 공학자 중에는 정부의 개입이 오히려 혁신의 걸림돌이 된다고 보는 시각도 있습니다. AI 기술의 발전에서 정부의 개입과 지원이 왜 중요한지 여쭤보고 싶은데요. AI 관련 정책에서 핵심적인 내용은 무엇이 되어야 할까요?

 

페이페이 리   네, 송이 님. 이번 질문에는 두 가지 주제가 담겨 있습니다. 하나는 ‘스탠퍼드 HAI가 정부와 무엇을 했는가’이고, 두 번째는 ‘정부의 역할은 혁신이냐 규제냐’ 하는 포괄적인 질문이에요. 이 두 질문은 연결되어 있습니다. 작년에 HAI가 정부와 무엇을 함께했는지 요약해서 소개해 드릴게요.

페이페이 리   작년에 HAI는 ‘국가 AI 연구 클라우드(National Research Cloud)’를 위한 ‘미 국가 AI 연구자원 태스크포스법(National Research Cloud Task Force Act)’을 제정하는 데 도움을 줬습니다. 미국 전역의 대학과 기업이 다 함께 힘을 모았죠. ‘국가 AI 연구 클라우드’는 공공 분야와 연구자가 필요한 데이터를 자유롭게 사용하고, AI 연구에 투자와 지원을 증가시키는 데 도움이 될 거예요.

 

이 법은 AI 기술이 발전하는 데 충분한 양의 데이터와 컴퓨팅 인프라(compute)가 필요하다는 점을 정부가 인식했다는 걸 보여 줍니다. 또한 꿈에 불과했던 언어 모델을 사용하는, openAI사가 개발한 GPT3(Generation Pre-trained Transformer 3)이 가능한 배경이기도 하고요. 충분한 데이터와 컴퓨팅 인프라는 앞으로 스마트 알고리즘을 가능케 하는 기술적인 돌파구가 될 거예요.

*각주1) National Research Cloud(NRC) : AI 교육 및 연구에 필요한 컴퓨팅 인프라와 데이터를 학계 및 비영리 연구원에게 제공하는 이니셔티브. 2021년 1월 1일 미 의회는 2021 회계 연도 국방 승인 법의 일부로 National AI Research Resource Task Force Act를 승인

*각주2) GPT3: 딥러닝을 이용해 인간다운 텍스트를 만들어내는 자기회귀 언어 모델, GPT-n 시리즈의 3세대 언어 예측 모델

페이페이 리   미국은 컴퓨터 혁명을 주도하고, 생명 공학의 발전을 이끌어 왔습니다. 그 외에도 많은 부분을 선도했죠. 이는 건강한 생태계를 추구한 성과예요. 건강한 생태계는 기초과학의 혁신, 사내 기업가 정신, 고효율 산업, 정치적 지원으로 형성됩니다. 효율적인 정부 인센티브와 지원도 필요하고요. 우리는 이 같은 건강한 생태계를 지속해 나가야 해요. 

 

AI 시대에는 기술의 흐름이 빠르게 바뀌고 전용 데이터 리소스와 컴퓨팅 인프라를 갖춘 기업이 순식간에 테크놀로지 산업의 리더가 돼요. 그렇기 때문에 지금이 바로 정부가 나서서 공공분야의 기초과학 연구를 장려하고 지원해야 하는 중요한 순간이라고 보고 있습니다. 정부의 지원은 기술 혁신뿐만 아니라 더 나아가 인재 교육을 위해서도 중요합니다. 왜냐하면 결국 세대를 이어 성공을 이루려면 인재를 훈련시켜야 하기 때문이에요. 그 인재들은 어디에서 교육받나요? 바로 스탠퍼드 같은 대학(universities)이나 종합대학(colleges)에서 교육을 받죠.

The First Role of Government: A Catalyst of Innovation

정부는 새로운 기술이 출현할 때마다, 혁신의 기폭제 역할을 해 왔다.

페이페이 리   자연스럽게 두 번째 질문인 ‘정부의 역할은 혁신이냐 규제냐’ 하는 질문으로 연결되는데요. 과연 정부가 기술이 발전하는 과정에 관여하지 않아야 혁신이 지속될까요? 미국의 건강한 생태계는 자유 시장 체제와 견고한 기업가 DNA 덕분입니다. 정부는 이 과정에서 중요한 역할을 했고, AI 분야도 크게 다르지 않을 거예요.

 

대표적인 예로, 인터넷이 처음 생겼을 때를 떠올려 보세요. 연방정부의 자금 지원이 최초의 인터넷이 출범하는 데 중요한 역할을 했습니다. 미국의 연방정부 자금과 인센티브는 제2차 세계대전 이후 반세기가 넘는 동안 미국의 디지털 혁신을 이끈 엄청난 기폭제가 되었어요. 이런 사실은 실리콘밸리 기업가들도 잘 모를 거예요. 혁신은 연방정부의 자금이 아니었다면 지금 이만큼 발전하지 못했을 거예요. 그래서 저는 정부가 한 역할이 매우 긍정적이라고 생각합니다.

 

윤송이   그러네요. 오늘날 AI가 어디쯤 있는지 생각해 볼 때 인터넷의 발전 과정과 비교해 보는 게 정말 중요한 것 같습니다. 30년 전 대대적인 국제 투자와 정부 투자로 인터넷의 혁신이 가능했던 상황은 기술 발전의 모범 사례라 할 수 있겠어요. 이제 정부의 또 다른 역할에 관해 이야기해 주실 차례예요.

The Second Role of Government: A Regulator

기술의 탈선을 막는 가드레일

페이페이 리   네, 정부의 또 다른 중요한 역할이 있습니다. 바로 규제 기관으로서의 역할이죠. AI 같은 기술은 발달하면 할수록 가속도가 붙어서 좀처럼 멈출 수 없게 돼요. 우리는 앞서 1편에서 알고리즘의 편향성, 인류에게 미칠 잠재적 피해, 사생활 침해 문제, 국제 질서에 끼치는 영향 등을 이야기했습니다.

 

정부는 사람들에게 피해를 줄 수 있는 AI 기술을 규제함으로써 안전망을 만들어야 합니다. 더불어 기술이 상용화될 때 시장에서 공정한 경쟁이 이루어지도록 조정할 책임도 있습니다. 정부는 기술이 올바른 방향으로 발전할 수 있도록 기준이 되는 주춧돌을 놓아야 해요.

The Third Role of Government: A Collaborator

인류 보편의 가치에 서서

페이페이 리   현재 미국 정부는 수평적이고 강력한 AI 기술(Horizontal Powerful Technology)이 선하게 사용되도록 국경을 넘어 동맹국들, 파트너들과 함께 협력하고 있습니다. 여러 분야에 활용될 수 있는 이 기술이 보편적인 인권을 존중하면서 문화적, 종교적, 정치적 차이를 넘어 인도적으로 사용되도록 말이에요. 이 같은 모든 일이 혁신으로 나아가는 데 걸림돌이 되지 않으면서 정부가 할 수 있는 중요한 역할이죠.

TOP