[유발 하라리 특별 대담] 정보는 진실이 아니다

인공지능에 관심이 많다면?
매일 AI 소식과 인사이트를 알차게 전해드리는
AI안테나 뉴스레터를 구독해보세요! 
(구독하기)

 

 

김지윤 박사님의 질문:

사실 제가 교수님의 책 넥서스를 읽고서 굉장히 흥미로웠던 부분은 우리가 정보에 대해서 얼마나 순진하게 생각하고 접근하는가에 대한 경고였거든요. 우리는 보통 정보를 확장하고 많은 사람들이 알게 되고 진실에 접근을 하게 되면 사회도 지혜로워지고 잘못된 판단도 내리지 않을 거고 아주 행복하게 잘 살 거다라고 생각을 하지만 대단히 순진한 접근이다라고 말씀을 하셨어요.

그리고 그 예로 굉장히 흥미로운 예가 마녀 사냥이었습니다.

"우리가 보통 마녀 사냥이라고 하면은 중세에 있었던 굉장히 참혹한 사건을 생각을 하지만 실제로 가장 마녀 사냥이 성행했던 시기는 인쇄술 혁명을 일으키고 많은 사람들이 과학 기술과 정보를 얻기 시작을 하면서 동시에 음모론과 가짜 뉴스를 얻으면서였다"라고 말씀을 하셨단 말이에요.

그래서 그 부분을 읽으면서 "아 정보라는 것이 우리한테 굉장히 많은 문명의 이기를 갖다 주지만 또 굉장한 피해를 줄 수도 있고 우리가 정보를 바라보는 시각은 아주 나이브하구나, 매우 순진하구나, 동시에 SNS가 현재 비슷한 역할을 하고 있지 않을까"라는 생각을 했습니다.

아마도 교수님께서도 그런 부분을 생각을 하셨던 것 같아요. 왜냐하면 그때 "미얀마의 로힝야족 학살 사건을 두고 메타라는 기업의 책임을 완전히 묻지 않을 수 있겠느냐"라는 말씀을 하셨단 말이에요. 그 부분에 대해서 조금 더 교수님 의견을 듣고 싶습니다.

 

유발 하라리의 대답:

네, 저는 정보에 대한 매우 순진한 견해가 있다고 생각합니다. 불행히도 이러한 견해는 실리콘 밸리와 같은 곳에서 매우 흔하고 큰 실수로 이어집니다.

정보에 대한 순진한 견해는 정보가 진실이고 우리가 더 많은 정보를 가질수록 더 많은 지식을 갖게 된다고 말합니다. 만약 우리가 더 많은 정보를 더 빠르게 퍼뜨리는 기술을 발명한다면, 이것은 진실을 퍼뜨리고 지식을 확산시켜 세상이 점점 더 좋아질 것이라고 합니다. 과학 혁명으로 이어진 인쇄기와 같은 이전의 발명품을 보세요. 지금도 마찬가지로 우리가 소셜 미디어를 발명하고 AI를 발명하면 멋진 결과로 이어질 것이라고 생각합니다.

하지만 이것은 크나 큰 오해입니다. 정보는 진실이 아닙니다.

진실은 세상의 정보 중 매우 작은 부분집합일 뿐입니다. 대부분의 정보는 소설과 환상, 환상과 망상, 그리고 거짓말입니다.

진실은 왜 그렇게 희귀할까요? 왜냐하면 진실은 소설과 환상에 비해 세 가지 단점을 갖고 있기 때문입니다.

첫째, 진실은 비용이 많이 듭니다. 만약 여러분이 경제 위기, 역사적 사건, 물리적 현상 등 무엇이든 진실한 설명을 쓰고 싶다면, 증거를 수집하고, 분석하고, 사실을 확인하는 데 많은 시간과 노력과 돈을 투자해야 합니다. 그것은 비용이 많이 듭니다. 반면에 소설은 매우 저렴합니다. 여러분은 마음에 떠오르는 첫 번째 것을 그냥 쓰면 됩니다. 증거와 사실 확인에 신경 쓸 필요가 없으니 매우 저렴하고 매우 빠릅니다.

둘째, 진실은 종종 복잡합니다. 왜냐하면 현실이 복잡하기 때문입니다. 경제 위기, 전염병, 이런 것들은 복잡한 것들입니다. 그래서 만약 진실을 알고 싶다면, 그것을 설명할 간단한 이야기는 없습니다. 하지만 사람들은 더 단순한 이야기를 좋아하고 소설은 다시 원하는 만큼 단순하게 만들 수 있습니다.

셋째, 진실은 때때로 불쾌하고, 심지어 고통스럽습니다. 개인적으로 나에 대한 진실이나 내 국가에 대한 진실 또는 인류에 대한 진실. 그것은 몇 가지 고통스러운 에피소드를 포함합니다. 이것이 바로 사람들이 치료를 받으러 가는 이유라고 말하는 것입니다. 왜냐하면 그들은 단순히 자신의 삶의 고통스러운 부분이나 고통스러운 습관을 인정하는 데 도움이 필요하기 때문입니다. 반면에 소설은 원하는 만큼 즐겁고 아첨하게 만들 수 있습니다.

그래서 비용이 많이 들고, 복잡하고 고통스러운 진실과 저렴하고 단순하고 아첨하는 소설 사이의 경쟁에서, 소설이 이깁니다. 그래서 세상은 막대한 양의 소설과 환상으로 넘쳐납니다. 물론 약간의 진실도 있지만, 소설과 환상과 환상의 바다에서 상대적으로 희귀한 진실의 보석을 찾는 데는 특별한 노력이 필요합니다.

그리고 단순히 더 정교한 정보 기술을 만드는 것은 도움이 되지 않습니다. 그것은 단지 세상에 더 많은 환상과 환상을 쏟아붓습니다. 

하지만 만약 여러분이 정말로 진실을 원한다면, 희귀한 진실한 정보를 훨씬 더 흔한 소설과 환상으로부터 구별하는 비용이 많이 드는 메커니즘에 투자해야 합니다.

이것이 예를 들어, 대학교에서 여러분이 하는 일입니다. 역사학자로서, 나와 다른 역사학자들은 역사학과에서 무엇을 가르치나요? 우리는 학생들에게 1000년 전의 왕과 전투의 이름을 암기하도록 가르치지 않습니다. 이것은 역사학과에서 배우는 것이 아닙니다. 여러분이 정말로 배우는 것은 신뢰할 수 있는 정보 출처와 신뢰할 수 없는 정보 출처를 구별하는 방법입니다.

예를 들어, 500년 전의 사건을 묘사하는 문서를 발견했다고 가정해보세요. 그 문서를 믿을 수 있는지 어떻게 알 수 있을까요? 이 문서가 정말로 500년 전에서 온 진품인지 어떻게 알 수 있을까요? 아마도 누군가가 50년 전에 위조했을 수도 있으니, 어떻게 알 수 있을까요? 문서가 쓰여진 종이를 테스트할 수 있습니다. 지금은 탄소 14 테스트와 같은 매우 신뢰할 수 있는 테스트가 있어서 이 종이가 언제 생산되었는지 매우 정확하게 알려줄 수 있습니다. 따라서 테스트 결과 종이가 60년 전에 생산되었다면, 그것은 500년 전의 원본 문서일 수 없습니다.

마찬가지로, 언어는 시간이 지남에 따라 변화하고 새로운 단어가 언어에 들어옵니다. 그래서 만약 문서에 실제로 18세기에 들어온 단어가 포함되어 있다면, 그것은 16세기의 문서일 수 없습니다. 그래서 이것이 바로 여러분이 신뢰할 수 있는 정보와 신뢰할 수 없는 정보를 구별하는 방법을 배우는 것입니다.

이것은 또한 기자들의 일입니다. 기자들이 배우고 신문 편집자들이 갖춰야 할 전문성은 오늘 일어난 사건들에 대한 많은 보도가 있을 때, 어떤 것이 신뢰할 수 있고 어떤 것이 신뢰할 수 없는지 어떻게 아는가입니다. 이것이 바로 여러분이 언론학교에 가서 이 능력을 습득하기 위해 수년 동안 배우는 이유입니다.

불행하게도 다시, 우리는 이제 "오, 그 모든 것이 필요하지 않아. 정보의 흐름에 대한 모든 장벽을 없애기만 하면 진실이 표면으로 떠오를 거야"라는 생각을 갖고 있습니다. 그렇지 않을 것입니다. 만약 여러분이 완전히 자유로운 정보 시장을 만든다면, 진실은 저렴한 소설과 환상과 환상의 바다 아래 바닥으로 가라앉을 것입니다.

 

---

재밌게 읽으셨나요?
이 글이 도움이 되었다면,
제가 매일 만들고 있는 뉴스레터도 도움이 될 거예요!
AI 안테나 구독하기

 

이 글은 지난 3월 20일 "AI 시대, 인간의 길"을 주제로 유발 하라리와 김지윤 박사님의 특별 대담의 영상을 보고 정리한 글입니다. 아쉽게도 현재 유튜브 링크는 (제가 못찾는 건지 모르겠지만) 찾을 수 없었고, 저는 유튜브 중계 음성을 추출해 텍스트로 변환하여 이를 기반으로 글을 요약, 작성했습니다.

 

이전 글 보기

2025.03.21 - [AI랑 상관 있는 이야기들] - [유발 하라리 특별 대담] 인간은 못 믿지만 AI는 믿는다는 사람들에게

[유발 하라리 특별 대담] 인간은 못 믿지만 AI는 믿는다는 사람들에게

2025.03.21 - [AI랑 상관 있는 이야기들] - [유발 하라리 특별 대담] "내가 AI를 믿지 못하는 이유는..."

[유발 하라리 특별 대담] "내가 AI를 믿지 못하는 이유는..."

2025.03.24 - [AI랑 상관 있는 이야기들] - [유발 하라리 특별 대담] 청년들에게 하는 조언

[유발 하라리 특별 대담] 청년들에게 하는 조언