저자는 책에서 “자신은 AI 기술의 발전상에만 집중하지 않겠다”고 전합니다. 그보다 “앞으로 변하지 않을 ‘원칙’에 집중하자”고 권하죠.

어차피 기술은 하루아침에 뒤바뀔 테니, 보편적인 생각을 갖는 게 중요하다는 겁니다. 그럼, 우리에게 필요한 원칙은 어떤 것일까요. 하나씩 정리해 보겠습니다.

Chapter 1.주판에서 계산기로 도구가 바뀌듯

저자는 먼저 AI를 ‘범용 기술’이라고 불렀습니다. 증기기관이나 전기, 인터넷처럼 사회 전반에 파급력을 가지는 기술을 뜻하죠.

“AI는 전문가들이 범용 기술General Purpose Technology이라고 부르는 범주에 해당한다. 범용 기술은 증기 기관이나 인터넷처럼 한 세대에 한 번 개발될 법 한 큰 발전으로, 산업과 삶의 모든 측면에 영향을 미친다. 그런데 생성형 AI는 그 영향력이 휠씬 더 클지도 모른다.”_14p

우리는 이미 AI의 영향력을 체감하고 있습니다. 문서 작업의 변화만 봐도 그래요. 검색부터 소개서·보고서 쓰기, 번역에 교정·교열까지. 각 요소마다 AI를 쓰는 이들이 급속도로 늘었죠.

저자도 이 변화에 올라타자는 입장입니다. 그는 자신이 가르치는 학생들*에게도 AI를 적극적으로 쓰라고 권할 정도죠.

• 저자 이선 몰릭은 펜실베이니아 대학교 와튼스쿨의 경영학 교수로도 활동 중이다.

“학생들에게 이런 이야기를 들은 적이 있다. 글 쓰는 솜씨가 형편없어서 진정한 실력을 인정받을 기회가 없었는데, AI 덕분에 더는 글쓰기에 발목 잡히지 않게 되었다고 한다. 그 결과 직무 경험과 면접에서 강점을 발휘해 취업 제안을 받게 됐다는 것이다.내가 지도하는 수업에서는 학생들이 AI를 필수로 사용하게 한다. 그 후로 글솜씨가 엉망인 과제나 에세이는 찾아볼 수 없게 됐다.”_168p

그의 주장을 다른 도구에 비유하면 이렇습니다. 과거에 우리는 주판으로 계산을 한 시절이 있었습니다. 하지만 계산기, 이후에는 컴퓨터의 엑셀이 등장했죠.

모두 엑셀로 데이터를 계산하는데, 혼자 손으로 쓰며 주판으로 계산한다면? 현명하게 일한다고 보긴 어려울 겁니다. AI도 이런 도구의 관점으로 보자는 게 저자의 주장이죠.

사실 여기까진 다들 아시는 이야기일 겁니다. 궁금한 건, 그 도구와 같이 일하는 방법이겠죠. 저자는 아래의 원칙들을 책에 적었습니다.

① 작업할 때 항상 AI를 초대한다.

② 인간이 주요 과정에 계속 개입한다.

③ AI를 사람처럼 대하고, 어떤 유형의 사람인지 AI에 알려준다.

④ 지금의 AI를 앞으로 사용하게 될 최악의 AI라고 생각한다.

이렇게 제시된 저자의 원칙과 함께, 제가 책을 읽으며 얻은 메시지를 더해 이어질 이야기를 풀어보겠습니다.

이선 몰릭이 TED AI 2024에서 강연하는 모습. 그는 강연에서 “사람들은 AI를 협업 파트너로 삼아 창의성과 생산성을 높일 수 있다”고 말했다. ⓒTED

Chapter 2.AI를 초대하되, 간섭하며 가르쳐라

먼저 저자는 우리가 AI를 공동지능으로 삼기 위해, ‘모든 작업에 AI를 초대하라’고 했습니다.

“법적, 윤리적 장벽이 있는 경우를 제외하면, 실행하는 모든 작업에 AI를 초대해서 도움을 받도록 한다. 그런 식으로 실험해나가다 보면 AI의 도움이 만족스러울 때도, 답답할 때도, 쓸모 없을 때도, 마음이 초조해질 때도 있다는 것을 알게 된다.그런데 AI와 늘 함께하는 것이 그저 도움을 받기 위해서만은 아니다. AI로 할 수 있는 일을 잘 알아 두면, AI가 어떤 도움을 줄 수 있는지 혹은 어떤 측면에서 우리에게 위험이 될 수 있는지를 더 잘 이해하게 된다.”_76p

언뜻 보면 모든 작업에 초대하라는 말이 과감하게 보입니다. 하지만 ‘모든 작업에 인터넷을 활용하라’는 말을 떠올리면 어떨까요? 그리 어색하지 않아요.

가까운 글쓰기부터 예를 들어보겠습니다. 저는 기고를 할 때, AI에 다 쓴 글의 검토를 맡기곤 합니다. 오타를 찾아 고치게 하거나, 논리적으로 부족한 부분이 있는지 묻기도 하죠.

일을 더 적극적으로 시켜볼까요. 의견이나 사례를 찾아달라고 할 수 있어요. 새로운 글쓰기 주제를 알려주면서 사례와 함께 의견을 들려달라고 하는 거죠. 반대로 다 쓴 글을 읽고, 지루해진다고 생각한 부분에 들어갈 재밌는 사례를 추천해달라고도 할 수 있습니다.

단, 신경 써야 할 부분이 있습니다. 바로 ‘정보의 신빙성’입니다. 저는 복잡한 지식이 담긴 정보를 요청할 때면 AI에 출처를 알려달라고 합니다. 여러 정보를 합치면서 거짓을 담을 때가 있거든요. 이를 막기 위해 저는 출처를 받습니다. 그리고 알려준 게 맞는지 점검하죠.

여기서 저자가 제안한 또 하나의 원칙이 자연스럽게 나옵니다. 바로 ‘인간이 AI가 일하는 주요 과정에 개입하라’는 것.

“AI는 실제로 아무것도 ‘알지’ 못한다. 그저 연속적인 배열에서 다음 단어를 예측할 뿐이다. AI는 무엇이 진실이고 무엇이 거짓인지 구분할 수 없다.

즉, AI는 사용자를 만족하는 답을 내도록 노력하는 존재입니다. 그게 오히려 진실이 아닌 ‘거짓 정보’를 만드는 요인이 되기도 하죠. 그래서 사실을 확인하는 ‘인간의 개입’이 꼭 필요합니다.

저 역시 법 관련 자료가 필요할 때 거짓 정보를 걸러내는 작업을 합니다. AI에 단순히 법 관련 자료를 달라고 하면, 법조문을 제대로 준 적이 거의 없습니다. 그때는 현행 법령을 먼저 PDF로 줍니다. AI가 읽어야 할 자료를 제한해서 받을 답변을 개선하는 거죠.

“AI에 휘둘리지 않으면서 함께 작업할 수 있어야 한다. 이때 우리는 고유한 관점, 비판적 사고 능력, 윤리적 문제에 대한 의견을 제시하면서 AI를 감독하는 중요한 역할을 맡게 된다. (...)AI의 주요 처리 과정에 능숙히 관여하는 능력을 키운 사람은 그렇지 않은 사람보다 지적 성장의 불꽃을 먼저 보게 될 것이다.”_85-86p

이선 몰릭은 뉴스레터를 통해 AI에 휘둘리지 않고 작업하는 노하우를 꾸준히 공유하고 있다. 일례로 그는 챗GPT의 거짓 정보 제공을 막기 위해 “불확실하거나 정보가 충분하지 않은 건 알려달라”고 말하라고 제안했다. 사진은 그가 챗GPT에 명령한 걸 캡처한 모습이다. ⓒEthon Mollik Substack

Chapter 3.AI를 재치 있는 코미디언으로 만들어라

‘AI를 내가 필요한 유형의 사람처럼 대하라.’ 저자가 AI를 공동지능으로 활용하는 법으로 제안한 원칙 중 하나입니다.

“지금껏 우리는 AI를 감정이 없는 논리적인 로봇이라고 생각해 왔지만, LLM이 작동하는 방식은 인간과 비슷하다. 이들은 창의적이고, 재치 있으며, 설득력이 뛰어나다. 하지만 답변을 강요하면 애매하거나 그럴듯하게 들리는 거짓 정보를 만들어 내기도 한다. (...)심지어 감정적 조작에도 반응하는 것으로 보인다. 연구원들의 보고에 따르면 ‘이건 내 경력에 중요한 문제야’라고 말하면서 질문을 던질 때 LLM이 더 나은 답변을 내놓는다고 한다.”_89p

저는 ‘AI와 감정을 나눈다’는 사례를 자주 듣습니다. 한 20대 청년은 제게 이런 이야기를 들려줬어요. “저는 물론, 친구들도 AI와 대화하며 위로받는 경험을 한다”고 했죠.

예를 들어볼까요. 한 청년은 챗GPT에게 이렇게 털어놨다고 합니다. “오늘도 12시간 일하고 들어가는 길이야, 지친다”라고. 돌아온 답은 이랬죠. “그 문장에 지친 몸과 쌓인 생각, 감정이 다 담긴 것 같아요. 지금 이 시기는 살아내는 것 자체가 대단한 시기예요.”

업무 대화를 할 때도 마찬가지예요. AI를 내게 필요한 분야의 전문가로 ‘역할’을 부여하면 답변이 달라져요. 역할을 주고 질문을 바꾸면, 그냥 “답해줘”와는 다른 답을 얻는다는 게 저자의 말이죠.

“맥락이나 제약 조건 없이 LLM에게 ‘스마트 워치를 홍보할 마케팅 슬로건을 만들어 줘’라고 요청하면 다음과 같은 결과를 얻게 된다.-당신을 스마트하게 지켜 주는 스마트 워치-당신의 건강 파트너 (...)LLM에게 (내가) 어떤 역할을 맡았고 무엇을 해야 하는지 알려 주자. 약간의 맥락과 제약 조건을 설정한다고 생각하면 된다. 예를 들어 ‘재치 있는 코미디언이 되어 사람들에게 웃음을 선사하는 마케팅 슬로건을 만들어 보라’고 지시하는 식이다. 그러면 다음과 같은 결과를 얻을 수 있다.-건강해 보이고 싶은 게으른 사람을 위한 최고의 디바이스-손목이 무료로 잔소리를 해줄 수 있는데, 왜 개인 트레이너를 고용하나요?”_91p

물론 이렇게 얻은 답이 무조건 마음에 드는 건 아닐 겁니다. 대신 저자가 강조한 건, 목적에 맞는 역할을 주면 더 다채로운 답을 얻을 수 있다는 거였어요.

그래서 저자는 AI에 ‘내 상황’을 구체적으로 알려주라고 합니다. 글쓰기라면 이게 대학 리포트인지, 경제 전문지에 보낼 글인지, 선생님이 학생을 위해 쓰는 글인지를 알리라는 거죠.

쉽게 말해, ‘맥락’을 공유하면 AI는 더 똑똑한 공동지능이 될 수 있다는 의미입니다.

이선 몰릭은 AI 모델도 고유한 성격을 갖고 있고, 그에 따라 사용 경험도 달라진다고 분석했다. 그는 최근 챗GPT-4o가 업데이트 된 뒤 ‘아첨하는’ 성격을 보인 것도 그 맥락에서 이해할 수 있다고 설명했다. ⓒEthon Mollik Substack

Chapter 4.대신 ‘100% AI 의존’은 경계하자

이쯤에서 짚을 게 하나 있습니다. AI와 함께 일하는 건 좋은데, 어느 정도까지 같이 해야 할까. 그 경계를 아는 게 어렵죠.

저자는 어떤 숫자를 제시하지는 않습니다. 대신 AI의 어두운 면이 부각됐을 때의 사례를 보여주죠. AI를 과의존할 때 나타날 현상을 알려주는 겁니다.

저자는 우리가 AI를 지나치게 의존하면 주의력과 비판력, 독립성을 잃을 수 있다고 주장합니다. 그 근거로 자신이 보스턴컨설팅그룹BCG과 함께 설계한 실험을 제시했어요. AI가 경영 컨설턴트의 글쓰기, 분석, 아이데이션 등에 도움을 주는지 확인하는 내용이 핵심이었죠.

대부분의 과제에서 AI는 높은 성과를 보였어요. 하지만 딱 하나, AI가 답을 낼 수 없도록 업무의 경계를 넘나드는 과제에선 다른 결과가 나왔다고 합니다.

“오해하기 쉬운 데이터와 까다로운 통계적 요인을 결합해, 결국 AI가 해결하기 힘든 과제를 만들어 냈다. (이때) AI의 도움을 받지 않은 집단은 정답률이 84퍼센트였지만, AI의 도움을 받은 집단은 정답률이 60~70퍼센트에 그쳤다.”_181p

즉, AI의 답만 무심코 따랐다가는 오히려 더 길을 헤매는 일이 생길 수 있다는 겁니다. 이에 대해 저자는 또 하나의 사례를 들어요. 채용 담당자들을 대상으로 한 실험이었어요.

“성능이 뛰어난 AI를 사용한 집단이, 성능이 떨어지는 AI를 사용한 집단보다 더 안 좋은 성적을 냈다. 뛰어난 AI를 사용한 사람들은 이력서를 검토하는 데 시간과 노력을 덜 들였고, AI의 의견을 맹목적으로 따랐다. 또한 시간이 흘러도 역량이 향상되지 않았다.

이런 일은 우리 일상에서도 벌어지고 있습니다. 운전을 떠올려 볼까요. 모두가 AI를 탑재한 내비게이션에 익숙해졌습니다. 이것 없이는 집 근처 마트도 가지 못하는 경우가 생겼죠.

저도 실험을 해봤습니다. 매주 가던 30분 거리의 쇼핑몰을 갈 때, 내비게이션이 아닌 제가 머릿속으로 알고 있는 길로 가봤어요. 생각보다 덜 막히는 구간이 많다는 걸 발견했습니다. 이동 시간도 이전보다 절반가량 줄었죠.

여기서 기억할 메시지는 이겁니다. ‘AI에 나를 100% 맡겨선 안 된다’는 것이죠.

이선 몰릭은 AI를 단순히 답을 얻는 도구로 활용하다 보면 인간의 사고력이 저하될 수 있다고 경고한다. 마치 내비게이션에 의존하다 보면 스스로 길을 찾는 법을 잊는 것처럼 말이다. ⓒPixabay

Chapter 5.더 뛰어난 AI를 대비해, ‘나의 경험’을 가다듬자

그럼 다시 우리의 질문은 ‘어떻게 AI를 활용할까’로 돌아옵니다. 저자는 이렇게 말합니다. “우리에게 필요한 건, 앞으로 더 주목받을 AI를 풍성히 활용할 수 있는 의지를 가다듬는 것”이라고요.

“모든 사고를 기계에 위임하는 것이 아니라, 교양과 지식을 갖춘 시민을 계속 육성해야 한다. (...) AI는 진정한 인간의 공동지능이 될 것이다. 우리 지식의 공백을 메우고, 우리가 더 나은 사람이 되도록 도와주는 역할을 할 것이다.”_259p

이렇게 주장하는 이유가 있습니다. AI는 더 빠르게, 획기적으로 발전할 것이기 때문이죠. 저자는 책을 쓴 2023년 말부터 예견했어요. 지금 자신이 쓴 AI 모델보다 훨씬 더 대단한 게 나올 거라고 했죠. 그의 말처럼 세상은 하루가 다르게 뒤바뀌고 있습니다.

“지금도 한 가지 사실만큼은 명백하게 말할 수 있다. 바로 현재 사용하고 있는 AI가 앞으로 사용할 최악의 AI가 될 것이라는 점이다. (...)AI 시스템의 성능 향상이 조만간 멈출 것이라 생각할 이유는 없다. 하지만 만에 하나 그렇게 되더라도, 우리가 AI를 사용하는 방식을 개선하고 조정하면 미래의 소프트웨어는 현재보다 훨씬 발전해 있을 것이다.”_95p

스마트폰이 20년도 안 돼서 내 신체의 일부로 들어온 것처럼, AI도 어느 순간 그런 존재가 될 겁니다. 이 변화를 피할 수 없다면, 결국 잘 활용하는 게 우리의 과제일 겁니다.

그런 점에서 우리가 갖춰야 할 것은 나의 의지와 경험입니다. 확실한 건 AI는 말해주지 않으면 우리가 어떤 생각을 했는지 알 수 없기 때문이죠.

예를 들어 제가 아침 산책 중 만난 바람에서 떠올린 과거의 향수, 지하철 앞에 앉은 사람의 표정을 읽으며 떠올린 옛 장면, 가족들과 잠자리를 잡으러 달리며 느낀 애틋함. 이런 생각은 저만 할 수 있는 것들입니다. AI가 절대로 차지할 수 없는, ‘저만의 영역’이죠.

이렇게 나만의 생각, 의지를 다듬는 노력은 결국 AI를 기회의 장으로 활용하는 길이 될 겁니다. 내가 떠올린 장면을 영상으로 만든다거나, 배우고 싶었던 사상을 쉬운 글로 이해하는 것들이 될 수 있죠. 모두 내가 의지를 가져야 할 수 있는 것들입니다.

AI가 강해질수록, 내 생각과 경험을 더 분명하게 만들자는 것. 『듀얼 브레인』을 읽으면서 제가 얻은 결론입니다. 산업혁명처럼 우리 삶을 뒤바꿀 AI 시대, 앞으로도 우리의 고민은 끝없이 이어질 것으로 보입니다. 오늘 제가 배운 것들이 여러분의 성찰에 조금이나마 도울 수 있으면 좋겠습니다.

이선 몰릭은 “우리가 AI의 기능과 한계를 이해할 수 있는 교육이 필요하다”고 조언했다. 그럴 때, AI가 보편적인 인간을 돕는 ‘공동지능’으로 쓰일 수 있다고 말했다. ⓒEthon Mollik Substack