인공지능에 관심이 많다면?
매일 AI 소식과 인사이트를 알차게 전해드리는
AI안테나 뉴스레터를 구독해보세요! (구독하기)
유발 하라리가 한국을 방문했습니다. 그리고 지난 3월 20일, "AI 시대, 인간의 길"을 주제로 유발 하라리와 김지윤 박사님의 특별 대담이 열렸습니다. 이 특별 대담을 유튜브 생중계로 보면서 유발 하라리의 인상깊은 이야기들을 정리해보았습니다.
아쉽게도 현재 유튜브 링크는 (제가 못찾는 건지 모르겠지만) 찾을 수 없었고, 저는 유튜브 중계 음성을 추출해 텍스트로 변환하여 이를 기반으로 글을 요약, 작성했습니다.
김지윤 박사님의 질문:
일론 머스크가 이끄는 도지는 연방 정부의 공무원들을 해고하고 빈 자리를 AI 알고리즘으로 대체하겠다고 합니다. 교수님이 보기에 이 계획은 성공할 수 있을 것인지, 그리고 미국 외에 다른 국가에서도 비슷한 일들이 진행될 가능성이 있을지 견해를 여쭙고 싶습니다.
유발 하라리의 답변(전체 답변 중 일부):
저는 미국뿐만 아니라 우리 주변 곳곳에서 이러한 현상이 나타나고 있다고 생각합니다.
이러한 변화는 인류 역사상 크고 위험한 전환기의 일부로, 권력이 인간에서 알고리즘으로, 사람에서 AI로 이동하고 있습니다. 우리는 이것을 주변 곳곳에서 볼 수 있습니다.
새로운 미디어, 소셜 미디어에서는 누가 페이스북이나 트위터, 틱톡의 뉴스 피드를 편집하나요? 인간이 아닙니다. 우리의 뉴스 피드를 편집하고 그에 따라 공공 대화의 주제가 무엇이 될지, 사람들이 무엇을 생각하고 무엇에 대해 이야기할지 결정하는 것은 알고리즘입니다. 이것은 엄청난 권력입니다.
민주주의는 본질적으로 대화입니다. 독재는 지시입니다. 한 사람이 모든 것을 지시합니다. 민주주의는 많은 사람들 사이의 대화이며, 대화를 형성하는 사람들이 민주주의를 만들거나 깰 수 있습니다.
그리고 이제 대화를 형성하는 것이 인간이 아니라 알고리즘일 때, 지난 몇 년간 일어난 일은 알고리즘이 정말로 인간의 대화 능력을 파괴했다는 것입니다. 우리는 역사상 가장 정교한 정보 기술을 가지고 있지만, 사람들은 더 이상 서로 대화할 수 없습니다. 그들은 서로에게 소리지를 수 있지만, 더 이상 이성적인 대화를 나누고 사실에 동의할 수 없습니다.
그 주요 이유 중 하나는 지금 대화를 형성하는 소셜 미디어 알고리즘이 지난 10년 정도 동안 의도적으로 가짜 뉴스와 음모론, 증오와 적대감을 퍼뜨렸기 때문입니다. 왜 그럴까요? 그것이 비즈니스에 좋았기 때문입니다.
사람들에게 분노와 증오로 가득 차게 만드는 무언가를 보여주면, 그들은 더 오래 머물고 더 많은 정보를 읽고 싶어하며 친구들과 더 많이 공유합니다. 그래서 알고리즘은 악의가 없었습니다. 이 알고리즘들은 의식이 없고 감정이 없습니다. 그들은 어느 누구도 미워하지 않습니다. 그들은 단지 시행착오를 통해 증오와 두려움, 탐욕을 퍼뜨림으로써 사용자 참여를 증가시키는 목표를 달성할 수 있다는 것을 발견했습니다.
그래서 여기 금융 분야에서도 우리는 인간에서 알고리즘으로의 권력 이동을 봅니다. 인간이 서로에 대한 신뢰를 잃고 있는 바로 그 시간에, 그들은 대신 알고리즘과 AI에 대한 신뢰를 발전시킵니다. 암호화폐의 부상을 보면, 암호화폐와 디지털 화폐는 긍정적인 잠재력과 긍정적인 측면이 있지만 어떤 면에서는 포스트 휴먼 통화입니다. 그들은 포스트 휴먼 돈입니다.
저는 최근 몇 달 동안의 제 경험에 대해 반영하고 싶습니다. 저는 9월에 '넥서스(Nexus)'라는 책을 출판했고, 그 이후로 미국, 유럽, 인도, 동아시아 등 세계 각지를 여행하며 일반 대중뿐만 아니라 AI 혁명의 리더들, 즉 이 AI 개발 경쟁을 이끄는 기업가, 비즈니스 사람들, 정치인들과 대화했습니다.
저는 보통 그들에게 두 가지 질문을 합니다.
첫 번째 질문은 "왜 이렇게 빠르게 움직이고 있나요?"입니다.
그리고 거의 모든 사람들이 "우리는 위험이 있다는 것을 이해합니다. 사실, 우리는 우리의 통제를 벗어나 인류를 노예화하거나 파괴할 수 있는 초지능 AI를 개발하는 데 관련된 엄청난 위험을 거의 다른 누구보다도 잘 이해합니다."라고 대답합니다.
그들은 "우리는 그것이 위험하다는 것을 알지만, 우리는 다른 인간을 신뢰할 수 없기 때문에 빠르게 움직여야 합니다. 만약 우리가 속도를 늦추고, 안전에 더 많은 투자를 하고, 특정 일을 하지 못하게 하는 모든 규제를 가지고 있지만, 우리의 경쟁자들이 속도를 늦추지 않는다면, 우리의 경쟁자들이 안전에 투자하지 않는다면, 우리의 경쟁자들이 규제를 준수하지 않는다면, 다른 기업이나 다른 국가의 경쟁자들이 속도를 늦추지 않는다면, 그들이 AI 경쟁에서 이기고 세계를 통제할 것입니다. 우리는 초지능 AI를 개발하는 첫 번째 사람이 세계를 통제할 것이라는 것을 알기 때문에, 다른 인간을 신뢰할 수 없기 때문에 우리는 속도를 늦출 수 없습니다."라고 말합니다.
그런 다음 저는 두 번째 질문을 합니다.
"당신이 개발 중인 초지능 AI를 신뢰할 수 있다고 생각하시나요?"
그리고 방금 전에 다른 인간을 신뢰할 수 없다고 말한 같은 사람들이 이제는 "네, 우리는 AI를 신뢰할 수 있을 것"이라고 저를 확신시킵니다.
역사학자로서, 저는 이것이 정말 미쳤다고 생각합니다. 우리는 다른 인간 존재들과 수천 년의 경험을 가지고 있습니다. 우리는 어느 정도 인간 심리, 인간 생물학을 이해합니다. 우리는 인간이 권력을 갈망한다는 것을 알지만, 인간 본성에 좋은 면이 있다는 것도 압니다. 거기에는 연민이 있고, 진실에 대한 욕구가 있습니다.
대조적으로, 우리는 초지능 AI와는 경험이 없습니다. 우리는 방금 그것들을 만들었습니다. 우리는 이미 AI가 거짓말할 수 있고, AI가 조작할 수 있으며, AI가 우리가 예측할 수 없는 목표를 개발할 수 있다는 과학적 증거를 가지고 있습니다.
그래서 우리가 수백만 개의 초지능 AI를 세상에 풀어놓고 그들에게 뉴스를 관리하고, 금융 시스템을 관리하고, 정부를 관리할 권한을 줄 때 무슨 일이 일어날지 우리는 전혀 모릅니다.
그것은 너무나 큰 도박입니다.
다른 사람을, 상대방을 신뢰하지 않으면서도 AI는 신뢰한다는 사람들, 이것은 그들이 거는 너무나 큰 도박이며, 그들은 그들의 돈이나 그들의 삶에 도박을 걸고 있는 것이 아닙니다. 그들은 우리 모두의 삶, 인류 문명 전체의 미래, 그리고 여러 면에서 지구 생명체의 미래에 도박을 걸고 있습니다.
재밌게 읽으셨나요?
이 글이 도움이 되었다면,
제가 매일 만들고 있는 뉴스레터도 도움이 될 거예요!
AI 안테나 구독하기
'공부방' 카테고리의 다른 글
| [유발 하라리 특별 대담] 정보는 진실이 아니다 (1) | 2025.03.25 |
|---|---|
| [유발 하라리 특별 대담] 청년들에게 하는 조언 (0) | 2025.03.24 |
| [유발 하라리 특별 대담] "내가 AI를 믿지 못하는 이유는..." (0) | 2025.03.22 |
| AI는 회사에서 어떻게 사용되고 있을까? (0) | 2025.03.20 |
| 기계학습에서 딥러닝까지, AI는 어떻게 똑똑해졌을까 (3) | 2024.10.15 |
