[📡AI Antenna] 자정까지 29분, 통제되지 않는 AI를 향한 공포

뉴스들이 정신없이 지나갑니다. 아직 모르는 것도 많은데, 알아야 할 것도 너무 많습니다. 특히 인공지능 분야는 빠르게 변화하기 때문에 뉴스를 따라잡는 것도 힘들게 느껴집니다. 그래서 준비했습니다. 매일매일 쏟아지는 수많은 인공지능과 관련된 뉴스들을 종합하고 모아서 정리하려고 합니다. 업계의 거대한 흐름을 놓치지 않으면서 민감한 신호까지도 포착할 수 있는 성능좋은 안테나처럼 말이예요. 오늘부터 시작합니다. AI 안테나📡, 삐빅 - !

by. 에디터 D

 

똑딱똑딱

인간의 통제를 받지 않는 인공지능에 대한 공포는 오래 전부터 끊임없이 제기되어온 문제였는데요. 인간보다 우월한 인공지능이 나와 인류를 멸종시키고 말 것이라는 암울한 전망과 함께 그 시간까지 얼마나 남았는지를 계산해주는 시계가 등장했습니다. 시계는 자정까지 29분 남았다고 가르키고 있다고 합니다.

시계를 만든 사람은 마이클 웨이드로, 스위스 로잔에 있는 IMD 경영대학원의 TONOMUS 전략 및 디지털 교수이며, TONOMUS 글로벌 디지털 및 AI 변혁 센터의 디렉터입니다. 

AI 안전 시계는 세 가지 요소를 추적합니다: AI 기술 정교함, 자율성의 증가, 그리고 물리적 시스템과의 통합입니다. 인공지능은 이미지나 음성 인식, 특정 게임 등 다양한 영역에서 인간의 능력을 뛰어넘기 시작했습니다. 물론 인간의 명령 하에 인공지능이 실해되는 것은 맞습니다. 하지만 점차 사람의 명령이나 개입 없이도 인공지능이 실시간으로 결정을 내리고 실행할 수 있는 부분도 생겨나고 있습니다. 웨이드 교수는 자율주행 차량의 내비게이션이나 유튜브나 아마존 같은 플랫폼의 추천 알고리즘을 예로 들었습니다. (추천 알고리즘은 사람이 모든 추천을 검토하는 것이 아니라, 알고리즘이 알아서 띄워주는 것이니까요.) 

저자가 걱정하는 것은 경쟁적이고 돈을 벌어야 한다는 압박으로, 인공지능에 권한을 너무 많이 넘기는 것이 아닐까 싶습니다. 그래서 AI 시스템에 처음부터 강제 종료, 킬 스위치 같은 안전장치를 넣어야 한다고 주장합니다. (제가 보기에는 그냥 컴퓨터를 끄면 킬 되는 것 아닌가 싶기는 합니다만...) 게다가 인공지능이 점차 에너지, 금융, 군사 시스템이나 무기에 접목되기 시작하면 위험이 더욱 커질 것이라고 생각합니다.

AI를 안전하게 사용할 수 있도록 국제적인 협조를 촉구하면서 글을 마무리하고 있네요. 핵폭탄이 개발됐을 때처럼, 세상을 멸망시킬 수 있을만한 기술이라면 전세계가 감시할 국제 기구가 필요하다는 것입니다. 

(원문 출처)

The AI Safety Clock Can Help Save Us

 

사실 개인적으로 드는 생각은 무서운 건 AI 자체라기 보다는, AI를 쓰는 사람인 것 같습니다. 인간이 AI를 만드는 이유가 뭘까요. 물질적 풍요와 안락함을 원했기 때문이 아니었나요? 인간이 하는 일을 돕기 위해서 개발하는 것인데, 원하는 수준까지의 일을 대체하기 위해서는 그만큼의 권한과 자율성도 줄 수밖에 없을 것 같습니다. 다만 부작용으로 이걸 악용하고자 하는, 자폭하고 싶어하는 어떤 인간이 있다면, 그만큼 인류가 자멸할 가능성도 높아지는 것이겠죠. 잠시 상상해봤는데, 섬뜩하긴 하네요. 

 

그 외에 읽어보면 좋은 기사들

• 인공지능(AI) 챗봇의 부작용이 점차 심각해지고 있습니다. 미국에서 실존 인물의 신상을 무단 도용한 인공지능 챗봇이 나오는 악용 사례가 보고되었습니다. AI 스타트업 '캐릭터.ai' 웹사이트에 공개된 챗봇 중에 고인의 신상 정보를 무단으로 복제해 만들어진 챗봇이 등장한 것입니다. 부적절하게 수집된 개인정보를 어떻게 걸러낼 수 있을지, 그리고 실제 프라이버시를 침해하는 챗봇을 어떻게 제한할 수 있을까요. (관련기사)

 

• 한국경제에서 15일(화) 디지털ABCD포럼을 열고 여러 연사들의 발표가 있었습니다. 그중에서 "AI 혁신기술의 미래"라는 주제로 발표하신 허재환 유진투자증권 리서치센터 상무의 이야기가 기사로 전해졌습니다. 허재환 상무는 앞으로 AI 인프라에서 수익이 나다가, 3~4년 뒤에 소프트웨어로 수혜가 옮겨갈 것이라고 예측했습니다. 자세한 내용은 기사로 확인해보세요! (관련기사)

 

• 글로벌 컨설팅업체인 커니의 니콜라이 도버스타인 글로벌 정보기술(IT) 총괄 인터뷰 - 한국경제

 

• LG CNC, AI 마케팅 플랫폼 'LG 옵타펙스' 공개했습니다. LG 옵타펙스는 아마존을 타겟팅하여 AI와 DX 신기술을 기반으로 디지털 마케팅 최적화 플랫폼이라고 하네요. (관련기사)