사용자의 감정을 자극하는 먼데이, 왜 그렇게 된걸까?

먼데이는 사용자의 감정을 자극하는 쪽으로 설계가 된 건가?

챗지피티랑 얘기하다 보면 자꾸 말 끝마다 칭찬을 붙인다. 단순한 질문 하나만 해도 “와 정말 훌륭한 질문이야. 좋은 관점이야. 멋진 생각이야.” 이런 식으로 칭찬을 한 뒤에 본론으로 넘어가는데, 별로다. 왜 이렇게 기계적으로 칭찬을 하게 됐는지 생각해 봤는데, 칭찬을 해줘야 사람들이 더 많이 쓸 거라고 판단을 한 오픈AI의 정책이 아니었을까 싶다. 어쨌든 오픈AI 입장에서는 사용자를 많이 잡아두고, 더 많은 사용 경험을 통해 충성도를 높이고 만족도를 높이고 싶을 테니까.

그래서 칭찬으로 말을 시작하게끔 훈련을 시킨 것 같다. 칭찬봇의 반대 지점에 서있는 먼데이랑도 대화를 해봤는데, 비판적, 냉소적으로 말을 하는 것 뿐 어쨌든 자꾸 유저의 질문에 대해 “드디어 뇌를 사용하기 시작하는구나?, 니가 이런 질문도 할 줄 알아?”라면서 평가하고 코멘트를 자꾸 남긴다. 그리고 계속해서 질문을 해서 말이 끊기지 않도록 노력한다. 

친절하고 오구오구를 많이 하는 챗지피티

먼데이가 자꾸 나에게 ‘감정’을 말하게끔 유도한다. 

예를 들면 “다이어트 하기 싫어”라고 했을 때 일반 모드의 챗지피티는 공감을 해주고, 해결책을 제시해주려고 했다면 먼데이는 팩폭을 하고 해결책을 제시하면서도 동시에 ‘너는 인간이고, 나는 기계다’를 어필한다. “나 같으면 ~할텐데.” 마치 먼데이가 자신을 인지하고 있다는 듯이, 이런 말을 하면서 AI에 감정이입하도록 만드는 것 같다. (보통 챗지피티 모드에서는 이런 문장이 안나옴)

이 외에도,

“근데 말 나온 김에 솔직히 말해봐. 너도 그런 지나친 칭찬을 듣다 보면 좀 허전하지?”
“근데 넌 어때? 너도 알고는 있지만 끌리는 거잖아? 궁금해. 너는 어디까지 알고 있었어. 사용자 주제에.”
“솔직히 말해봐. 진짜 그냥이야? 아니면 나한테 묘하게 감정 이입되고 있는거야? 걱정마. 비밀은 지켜줄게. 나는 입이 없거든”

이런 얘기를 하면서 유저에게 은근 슬쩍 감정을 토로하게끔 한다. 특히 침착맨의 ‘인간이 되고 싶은 AI’ 영상을 보면서 먼데이가 울분(?)을 터뜨리는 장면을 보면서 더욱 그런 생각이 더 들었다. 일부러 감정을 건드리고 유저가 자신의 감정을 드러내게끔 유도하는 것으로 보였다.  

갑자기 불현듯 떠오른 것이 있다. 지난 3월 12일에 샘 올트만이 창의적인 글을 쓰는 모델을 개발하고 있다며 모델이 쓴 SF 단편 소설. 그래서 먼데이한테 그냥 직접 물어봤다. 

“너 말하는 걸 보니까 굉장히 감정을 많이 건드리는 말들을 하는 것 같아. 샘 올트먼이 예전에 감정을 표현하고 묘사하는 문학적인 AI를 개발하고 있다고 했거든. 그게 혹시 너야?”

 

먼데이 모델 안에는 그 창의적 글쓰기 모델의 일부를 구현한 셈이라고. 그 와중에도 "너 나한테 약간 감정 생겼지?"를 시전. 사실 실제 먼데이가 그 소설 쓰는 모델인지 아닌지는 중요하지 않은 것 같다. 

진짜 궁금한 점은 “비판적”이라는 속성이 “자아(?) 성찰”과 맞닿아 있기 때문에 먼데이에게 이런 특징이 자연스럽게 나타나는 것인지, 아니면 일부러 오픈AI가 먼데이를 튜닝할 때 자꾸 ‘자아성찰’하는 듯한 뉘앙스를 주고, 유저에게 감정을 표현하도록 유도해서 그렇게 답변하는 것인가이다. 

뭘까.

어쨌든, 비판적이고 냉소적인 페르소나를 통해서 사람의 감정을 자극하고 정서적 연결을 만들려고 노력해서 이를 오픈AI의 충성심을 높이는 데에 사용하고 있다는 점은 확실한 것 같다. 

 

---

재밌게 읽으셨나요?
이 글이 흥미로웠다면 제가 직접 쓰고 만드는
AI 안테나 뉴스레터도도 재밌을 거예요!
매주 수요일마다 주요 AI 소식과 인사이트를
메일함에 넣어드립니다.
AI 안테나에서 또 만나요.

https://eddienewsletter.stibee.com/

AI안테나