AI 이후의 세계

[북스저널] AI 이후의 세계  » 에릭 슈미트,헨리 A. 키신저,대니얼 허튼로커 저 | 윌북(willbook) »

챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라

챗GPT는 시작일 뿐이다. 우리에게 어떤 미래가 올 것인지 본격 탐구하고 이해해야 할 시점이 왔다. 정계·재계·학계의 세 거인, 헨리 키신저, 에릭 슈밋, 대니얼 허튼로커가 이 인공지능(AI)을 주제로 한자리에 모였다. 『AI 이후의 세계』는 사회, 경제, 정치, 외교, 기술 등 여러 분야에서 AI가 일으킬 혁명적 변화 속 우리가 빠지게 될 딜레마를 깊이 다룬 책이다. 4년에 걸쳐 논의한 내용을 한 권에 담아 『생성형 AI가 내놓는 뛰어난 결과물에 감탄하며 실용적 활용법에 주목하고 있는 오늘날이지만 이 신기술이 인류에게 끼칠 철학적·전략적 영향에 관한 논의는 부족한 실정이다. 우리를 대신해 생각과 판단을 해주는 인공지능을 당연하게 여길 ‘AI 네이티브’ 세대의 등장이 예고된 가운데, 걷잡을 수 없는 문제가 발생하기 전에 지금 당장 모든 시민이 위와 같은 질문과 마주하여 AI의 효용과 한계를 합의해야 한다. 저자들은 ‘아직’ 인간이 미래의 주도권을 쥐고 있다고 역설한다.』라며 이 책은 우리의 가치관에 부합하는 바람직한 미래를 독자가 스스로 모색할 기틀을 제공한다. <편집자 주>

챗GPT 너머에 찾아올 본격 인공지능 시대, 인류의 미래는?
키신저(미국 전 국무장관) × 슈밋(구글 전 CEO) × 허튼로커(MIT 학장): 정치, 경제, 과학의 세 거인의 날카로운 통찰

● 인사 담당 AI가 승진에서 나를 탈락시켰다면, 이를 수용할 수 있는가?
● 안보 전문 AI가 적국을 타격하라고 제안한다면, 장군이나 대통령은 따라야 할까?
● 그에 따른 책임은 어떻게 지며, 사람들에게는 그 결과를 어떻게 납득시킬 것인가?
● 인간의 논리와 사고력을 초월하는 AI를 우리는 따라야 할까, 제한해야 할까?
● 이해하거나 공감할 수 없는 인공지능의 결정을 어디까지 신뢰할 수 있나?

“챗GPT, 달리(DALL·E), 스태빌리티AI를 비롯한 생성형 AI의 등장으로 인공지능이 당장 시대적 화두로 성큼 다가왔다. 많은 이가 그 혜택과 활용법에 주목하지만, 이 신기술이 인류에게 끼칠 근본적 영향과 대처에 관한 논의는 부족한 실정이다. “GPT-4보다 강력한 AI 시스템의 훈련을 최소 6개월 이상 중단해달라”는 서명 운동에 이름 있는 연구자와 CEO가 참여하여 국제적으로 관심을 모았다.

한편 우리나라에서는 “조선왕조실록에 기록된 세종대왕의 맥북 프로 던짐 사건에 대해 알려줘”라는 엉뚱한 질문에 챗GPT가 허무맹랑한 답변을 생성하는 환각(hallucination) 현상을 보여 SNS에서 화제에 올랐다. 최근 미국 의회에서는 AI 알고리즘으로 재밌는 영상을 추천해주는 플랫폼 틱톡을 금지하는 ‘리스트릭트 법안(RESTRICT Act)’이 발의됐다. 인공지능을 둘러싼 이 모든 상황은 한 가지를 가리킨다. 모든 시민이-특히 사회를 움직이는 리더라면-AI 이후의 시대 전략을 고찰하고 결정을 내려야 한다는 것. 그래서 정치와 경제와 과학, 각 분야를 대표하는 세 저자가 중지를 모았다. 『AI 이후의 세계』는 미국 전 국무장관이자 국제정치 이론의 거장 헨리 키신저, 구글 회장과 인공지능국가안보위원회(NSCAI) 위원장을 역임한 에릭 슈밋, MIT 슈워츠먼컴퓨팅대학의 초대 학장 대니얼 허튼로커가 4년에 걸쳐 AI를 주제로 논의한 내용을 담은 책이다.”라며 출판사가 내놓은 화두이다.

“AI를 조심히 다루고 통제하라. 21세기 가장 긴급한 논쟁에 기여하는 책” 이라고 이코노미스트는 평했다.

<AI 이후의 세계> 책 한국어 판으로 출판하며, “우리는 인류의 운명을 좌우할 변곡점을 경험하고 있다”라며, 카이스트 뇌과학자 김대식 교수의 서문에서는 ‘인공지능’이라는 연구 분야가 어떻게 시작되었고 오늘날 생성형 AI가 왜 혁신인지를 설명했다. 이 책의 저자들은 AI를 둘러싼 수많은 물음에 전부 답을 내리진 않는다. 한 권으로 완벽하게 끝을 내고 시대를 규정하려는 짓은 오만한 시도라고 인정하며 오히려 더욱 질문을 던진다. “이 책의 목적은 인간의 이성을 초월한 기계와 함께 살아갈 주체들이 인류의 목적을 정의하도록, 더 활발한 논의와 논쟁에 불을 지피는 것이다.”라고 한다. 이제는 『AI 이후의 세계』는 일자리를 구하려는 학생부터 아이를 키우는 부모, 글로벌 리더까지 모두가 읽어야 할 훌륭한 AI 입문서라고 감히 말할 수 있겠다.

첫째는, AI의 창발성이다. 

창발성의 의미를 살펴보자면, “기대하지 않았던 뭔가 뜬금없는 그런 새로운 결과가 도출되는 그런 의미”라 하겠다. 그러니까 우리가 미처 생각해내지 못했던 그러한 해법들을 AI가 창발적으로 찾아낼 수 있다. 예를 들면 알파제로라는 머신러닝 기법을 통해서 체스라든가 알파고 이런 것들을 AI로 만들었는데 그 내용을 분석해 보자면,  인간이 기존에 체스를 두고 장기를 뒀던 수천 년 동안의 패턴과 전혀 엉뚱한 방식으로 체스를 두고 장기를 두는데 절대적으로 승리를 하게 됐다. 그 원인은 머신러닝을 통해서 AI가 기존에 인간의 체스 경기를 공부하는게 아니라 대국을 하면서 스스로 체스 바둑의 패턴을 찾아내어서, 기존의 인간이 전혀 생각하지도 못하고, 시도하지도 못했던 그런 새로운 패턴을 창발적으로 만들어냈다는 것이다. 그리고 할리슨이라는 항생 물질이 있는데, 이것은 딥러닝 기법을 이용해서 ‘항생물질이 항상 내성을 키워 슈퍼 박테리아가 되는 큰 문제점’에  대해서 인체에 무해한 항생 물질인 할리슨을 찾아냈는데 그 방식이 기존 우리가 항생 물질을 찾아내던 방식대로 분자 구조를 이해하고, 인체 적용여부를 연구하던 기존 방식과는 전혀 다른 메커니즘으로 찾아냈다는 것이다. 

여기서 우리가 생각해 볼 필요가 있다. 우리 인간에게는 다양한 본능 그리고 편견이 있다. 관성이라해서 해오던 식으로 계속 하는 것이 권위가 있다. 그래서 이렇게 만들어진 어떤 권위가 있게 되면 다른 방식을 도전해 볼 수조차 없다. 중세교회의 권위로 천동설이다 하면 지동설은 아예 생각조차 못해보는 그런 것들을 말할 수 있다. 그리고 수능 편향이 있다. 예를 들어서 1번부터 10번까지 순서대로 질문을 하게 된다. 그러니까 “누가 a가 길고 b가 짧다”라고 했는데, 앞에서 사람들이 b가 길다고 대답을 하면, 네 번째, 다섯 번째, 여섯 번째 사람들도 계속해 b가 길다고 똑같은 대답하게 된다. 그러니까 누가 봐도 명약관화한 그런 사실임에도 불구하고 다른 사람의 의견에 순응하려는 이런 편향성을 가지고 있다는 것이다.

이렇게 전체적으로 보면, 우리 인간 만의 사고 패턴 본능 편향이란 것들이 존재해 왔는데 AI는 그런 것들에 자유롭다. 그러니까 인류가 수천 년 동안 “아, 이 세계를 어떻게 파악할 것인가?”, “이 현실의 측면들을 어떻게 이해하고 접근할 것인가?”하는 패턴에 익숙해져 살아왔는데, 그런 메커니즘을 벗어나서 인간의 전통적인 사고 패턴과 다른 방식으로 접근을 한다는 점이다. 사실 과학이라는게 어떤 사실을 사실로 규정하는 그 과정은 굉장히 지난하다. 어떤 경우, 그 뻔한 것도 과학적으로 인정받으려면 굉장한 시간과 다양하게 설정된 규정들을 통과를 해야 된다. 그러한 한계로 인해서 빠르게 발견하지 못했던 어떤 것들을 AI가 해결하고, 해법을 제시하고, 놀라운 결과물을 보여주게 될 것이다. 그 근거는 바로 AI에게는 인간적 본능과 편견이 없기 때문이다.

둘째는, AI의 무한 시간이다.

인류가 어떠한 패턴을 찾으려고 하나씩 끼워 맞추는 식으로 시도를 해본다고 했을 때 경우에 따라선 수백 년이 걸릴만한 그런 일들을 AI는 단 하루만에 해낼 수 있다. 바로 이 무한 시간 즉, 시간에 제한이 없다는 점에서 AI의 놀라운 효용성이 있다. 그러니까 지금은 “인간의 질병을 미리 탐지한다거나 하는 관점에서 AI를 어떻게 유용하게 사용할 것인가?” 라는 정도의 그런 기대를 갖고 있는데, 이제는 그런 기대 그런 차원이 아니라 이것은 인류가 이뤄 온 모든 것들을 뒤집어 엎을 수 있는 그러한 진실 규명의 가능성이 열렸다는 점에서 이것이 바로 AI의 가장 놀라운 측면이 되지 않을까 하는 관점에서 한편으로는 기대감 한편으로는 어떤 두려움을 갖고 AI를 바라보게 된다.

생성형 신경망 AI는 그냥 하나의 도구다. 프로그램처럼 우리가 이용하면 되는 것이다. 이렇게만 생각하는 것은 AI를 너무 좁게 규정하고 있는 것이 아닌가? 지금 우리가 경험 하듯이 이제 생성형 AI를 우리 일상에서 접하게 되면서 우려가 생긴다. 이런 기술이 어떤 방향으로 어떻게 어느 수준으로 발전할지 누구도 예측이 안 된다는 점이다. 생각해 본다면, 창조가 가능한 AI라는 개념이 만들어 지는 것인데, 쉽게 접근해 보자면, 가령 AI가 창조를 하다 보면 우리는 어떤 것이 현실이라는 것이고, 과연 무엇이 현실이고, 또 무엇이 허구인지 이런 것들을 분간해내기 어려운 상황으로 빠져버릴 수 있다는 것이다. 기술의 발전은 시간이 흐르면 흐를수록 더욱 가속도가 붙게 마련이다. 이런 측면에서 AI의 미래에 대해서 막연한 기대감과 동시에 두려움을 갖지 않을 수 없을 것 같다.

종종, 필자의 경우에도 텍스트 생성을 해주는 Chat GPT 경험을 해 보게 되면서 깜짝 놀라운 경우를 느끼게 된다. 어쩌면, 이제 사람에게 글쓰기 능력이 필요 없겠다 싶다. 이제껏 익혀 온 작문 능력 이런게 무용지물이 되겠다. 몇 줄의 글 개요만 제공을 해주면 놀랍도록 우수한 텍스트를 생성을 해낸다. 그리고 전문가다운 광고 카피라든가 브레인스토밍 같은 복잡하고 시간이 요하는 과정을 단 몇 분만에 해주고, 마켓팅 분석까지 바탕이 된 최적의 광고 카피를 잠시잠깐 만들어 낼 수 있는 세상이 됐다. 과연 시간이 지날수록 우리가 AI를 따라잡을 수 있을까?오히려 그 격차는 더욱 커져갈 것이다. 

그리고 이미지를 생성하는 것도 마찬가지이다. 이미지를 아이디어로 구상하고 프롬프트를 만들어 제시를 하면 단순한 것부터 시작해서 복잡한 이미지까지 순식간에 뚝딱 생성을 해낸다. 실사 이미지일 경우, 얼굴이 진짜인지 아닌지 분간이 안 될 정도이다. 이로 인해서 딥페이크 같은 실제 인물이 어떤 행동을 한 것처럼 만들게 된다면, 나중에는 그런게 분간이 안 될 정도이다. 각종 영역에서 이제는 노래부분, 영상부분, 심지어 아나운서 멘트 처리까지 실제와 아닌지 구분이 안 될 정도의 수준까지 이른 AI 영상을 보기도 한다. 심각한 경우를 예를 들어 보자면, 어떤 대통령이 어떤 말을 했는데, 이게 딥 페이크인지 진짜인지 현실과 허구가 모호해지는 경우가 올 수도 있게 된다. 이런 일이 일상에 나타난다면 국가와 사회가 얼마나 혼란스럽겠는가? 

마지막으로 AI와 인간의 일자리이다.

프로그램 생성도 AI를 이용하면 간단한 하다. 이제는 AI가 왠만한 코딩은 거침 없이 다 한다. 이러한 현실에 직면하니 그 많은 프로그래머의 역할은 어떻게 될 것인가 고민스럽기 조차 하다. 결국은 시간 문제일 것이다. 지금 당장은 비싼 비용을 들여서 AI를 개발해야 되니까 사람을 쓰는게 더 저렴할 뿐이다. 과거에 산업혁명이 왜 중국에서 일어나지 않고 영국에서 일어났는가를 생각해 보면 알 수 있다. 당시에는 중국이 경제적 수준이 훨씬 높았다. 그럼에도 불구하고 한 가지 이유는 영국은 인건비가 높았다. 반면에 중국은 인건비가 너무 싸서 기술을 개발할 필요가 없었다. 흔한 게 사람이니, 그런 잉여 인력을 써서 일을 시키는게 더 저렴했다. 하지만 영국은 인건비가 일단은 비싸니까 어떻게 하면 인건비를 줄일 수 있을까? 어떻게 하면 기술을 이용할 수 있을까? 그 이유가 산업혁명을 일으켰다.

이러한 관점을 지금 현실에 적용해 보면, 아직까지는 이런 일을 하는데 비싸게 AI를 개발할 필요까지 없으니 AI 개발 대비 비용이 훨씬 저렴한 사람을 쓰는게 낫다. 이렇게 생각할 수도 있겠지만 결국 시간이 지나면서 AI의 개발비도 크게 줄어들게 분명하다. 그러면 결국엔 인공지능 AI가 거의 모든 작업에서 인간을 밀어낼 가능성이 높다. 예를 들어, 필자 개인적으로 전망해 보면, 머리를 써서 하는 일은 거의 AI가 인간을 밀어내지 않을까 싶다. 그러면 또 새로운 직업이 생길 것이다. 그 새로운 직업이 생기면 결국 얼마 지나기 전에 그 일 또한 AI를 개발해서 대체할 것이고, 결국은 시간 문제일 뿐이다. 많은 전문가가 공통적으로 하는 이야기이다.

사피엔스의 저자인 유발 하라리 교수도 똑같은 이야기를 한다. 그 결론은 완전히 새로운 경제 모델이 필요하다는 것이다. 이것도 우리 인간에게는 본성이 있고, 관성이 있고, 권위 또 현재의 이익 구조에 대한 보수적 관점의 수능 편향이란게 있기 때문에 현 경제 시스템에 대해서 절대적인 신뢰를 갖는 것처럼 오해하는 경향도 있다. 우리가 신앙생활을 하는 면에서도 마찬가지이다. 오래된 전통과 관성과 권위와 시스템이 굳건하다고 믿기 때문이다. 그래서 현재 우리가 하는 일이 옳다라고 철석같이  믿으며, 신뢰를 보낸다. 하지만 현 경제 시스템도, 종교 시스템도 인류의 전체의 역사에서 본다면 아주 일시적인 짧은 기간에 불과하질 않겠는가?

그러므로 <AI 이후의 세계> 책을 읽어 보면서 결국 느낀 것은 “우리에게 시간이 조금 더 걸리느냐 조금 덜 걸리느냐 그런 차원의 문제일 뿐이지 과거 우리가 경험했던 그 어떤 것보다도 우리의 삶 뿐만이 아니라 인류의 문명 자체를 아주 근원적으로 변화시킬 수 있는 도구가 세상에 만들어졌는데, 그것이 바로 인공지능 AI이다.”라는 결론에 이르면서 기대와 두려움을 동시에 느껴야 했다. “AI와 더불어 공생공영 하면서, 질서적이며, 삶을 보다 윤택하게, 건강하게, 안전하게 지낼 수 있는 인류의 삶을 구현해 가기 위해서 우리는 어떻게 AI를 다룰 것인가?”라는 논의가 시급하다. 먼저는 기독교계가 앞장서야 하지 않겠는가 하는 그런 마음이 가슴을 깊이 파고든다.

글: 이창배 발행인

◙ Now&Here©ucdigiN(유크digitalNEWS)의 모든 콘텐트(기사)는 저작권법으로 보호를 받고 있습니다. 무단 전재, 복사, 배포 등을 금합니다.