2025/04 썸네일형 리스트형 프롬프트 엔지니어링 6편 | Tree of Thoughts(ToT), reason&act(ReAct) 딱 한 줄 바꿨을 뿐인데, 답변의 퀄리티가 이렇게 차이난다고? 맞습니다. 똑같은 돈을 내고 AI 모델을 사용하더라도, 어떻게 질문을 하느냐에 따라 얻을 수 있는 결과는 천차만별입니다. 어떻게 하면 AI의 성능을 최대로 끌어내어 정확하고 의미있는 답변을 출력하게 할 수 있을까요? 구글에서 발간한 화제의 백서, “Lee Boonstra의 프롬프트 엔지니어링 백서”를 보면 알 수 있습니다. 원문은 모두 영어로 되어 있는데요. 이번 백서의 내용을 꼼꼼히 공부하고, 직접 실험해보면서 중요한 개념들을 해설하는 시리즈를 기획했습니다. 총 8편에 걸쳐 진행될 예정이며, 구글 백서 원문은 이곳(링크)에서 확인할 수 있습니다. [구글 프롬프트 엔지니어링 백서 파헤치기 시리즈]1편 - LLM의 작동 방식과 config 조정.. 더보기 AI 모델의 성능을 극대화하는 스케일링 기법 총정리 지난 편에 이어서 작성합니다. 이 글은 2025년 4월 23일 오후 5시부터 6시까지 진행된 업스테이지 프라이빗 세미나의 내용을 기반으로 정리했습니다. 지난 편: 실전에서 바로 써먹는 'Post-training' 테크닉, 튜닝 계보 한방 정리스케일링이란?스케일링은 모델 학습을 완료한 후 실제 인퍼런스 단계에서 결과(아웃풋)를 최적화하는 기법들을 의미합니다. 이 분야는 크게 Thought-based reasoning, Sampling-based inference, Search-based inference 세 가지 접근법으로 나눌 수 있습니다. Thought-based Reasoning (사고 기반 추론)Thought-based reasoning은 구조화된 단계별(스텝 바이 스텝) 추론을 모델이 할 수 있도.. 더보기 프롬프트 엔지니어링 5편 | Chain of Thought(CoT), Self-consistency 딱 한 줄 바꿨을 뿐인데, 답변의 퀄리티가 이렇게 차이난다고? 맞습니다. 똑같은 돈을 내고 AI 모델을 사용하더라도, 어떻게 질문을 하느냐에 따라 얻을 수 있는 결과는 천차만별입니다. 어떻게 하면 AI의 성능을 최대로 끌어내어 정확하고 의미있는 답변을 출력하게 할 수 있을까요? 구글에서 발간한 화제의 백서, “Lee Boonstra의 프롬프트 엔지니어링 백서”를 보면 알 수 있습니다. 원문은 모두 영어로 되어 있는데요. 이번 백서의 내용을 꼼꼼히 공부하고, 직접 실험해보면서 중요한 개념들을 해설하는 시리즈를 기획했습니다. 총 8편에 걸쳐 진행될 예정이며, 구글 백서 원문은 이곳(링크)에서 확인할 수 있습니다. [구글 프롬프트 엔지니어링 백서 파헤치기 시리즈]1편 - LLM의 작동 방식과 config 조정.. 더보기 실전에서 바로 써먹는 'Post-training' 테크닉, 튜닝 계보 한방 정리 업스테이지 프라이빗 세미나 3회차에서는 ‘LLM Post Training Techniques’를 주제로 업스테이지 정민별 박사님이 강연을 해주셨습니다. 내용이 매우 매우 방대하여 한번에 정리하기 너무 어려운 것 같아, 나눠서 업로드합니다. 이 글은 2025년 4월 23일 오후 5시부터 6시까지 진행된 업스테이지 프라이빗 세미나의 내용을 기반으로 정리했습니다. Post-training이란?Post-training은 이미 pre-train 되어 있는 모델을 가져와 특정 태스크나 도메인에 맞춰 추가적으로 학습을 시키는 과정입니다. 모델을 우리가, 원하는 작업이나 분야에 적응시키고 적용하기 위한 필수적인 단계라고 볼 수 있습니다. Post-training의 주요 분야포스트 트레이닝에는 크게 튜닝, 강화학습, 스.. 더보기 맥북 도커 창 사라졌을 때 도커 강제 재시작, 도커 설정 초기화 노트북을 켰는데 어제까지만 해도 멀쩡하게 있던 아래 도커 화면이 사라졌다. 바로 클로드한테 물어봄. 사실 이거 부르는 명칭도 생각이 안나서 대충 "바탕화면 아래에 고정된 앱 모음들"이라고 설명했는데 찰떡같이 알아먹고, 해결방법을 알려줌.Dock 재시작하기: Command+Space 단축키(Spotlight 검색)로 터미널을 입력하여 들어간 다음에, 아래 명령어를 입력하면 됨. killall Dock Dock 강제로 재시작!!다행히 바로 도커가 떴다. 혹시 이걸로도 안되면 터미널에서 아래 명령어를 실행해보기defaults delete com.apple.dock; killall Dock 이 명령어는 Dock 설정을 초기화하고 재시작하는 것. 더보기 프롬프트 엔지니어링 4편 | 스텝백 프롬프트 딱 한 줄 바꿨을 뿐인데, 답변의 퀄리티가 이렇게 차이난다고? 맞습니다. 똑같은 돈을 내고 AI 모델을 사용하더라도, 어떻게 질문을 하느냐에 따라 얻을 수 있는 결과는 천차만별입니다. 어떻게 하면 AI의 성능을 최대로 끌어내어 정확하고 의미있는 답변을 출력하게 할 수 있을까요? 구글에서 발간한 화제의 백서, “Lee Boonstra의 프롬프트 엔지니어링 백서”를 보면 알 수 있습니다. 원문은 모두 영어로 되어 있는데요. 이번 백서의 내용을 꼼꼼히 공부하고, 직접 실험해보면서 중요한 개념들을 해설하는 시리즈를 기획했습니다. 총 8편에 걸쳐 진행될 예정이며, 구글 백서 원문은 이곳(링크)에서 확인할 수 있습니다. [구글 프롬프트 엔지니어링 백서 파헤치기 시리즈]1편 - LLM의 작동 방식과 config 조정.. 더보기 프롬프트 엔지니어링 3편 | 시스템, 컨텍스트, 역할 프롬프트 딱 한 줄 바꿨을 뿐인데, 답변의 퀄리티가 이렇게 차이난다고? 맞습니다. 똑같은 돈을 내고 AI 모델을 사용하더라도, 어떻게 질문을 하느냐에 따라 얻을 수 있는 결과는 천차만별입니다. 어떻게 하면 AI의 성능을 최대로 끌어내어 정확하고 의미있는 답변을 출력하게 할 수 있을까요? 구글에서 발간한 화제의 백서, “Lee Boonstra의 프롬프트 엔지니어링 백서”를 보면 알 수 있습니다. 원문은 모두 영어로 되어 있는데요. 이번 백서의 내용을 꼼꼼히 공부하고, 직접 실험해보면서 중요한 개념들을 해설하는 시리즈를 기획했습니다. 총 8편에 걸쳐 진행될 예정이며, 구글 백서 원문은 이곳(링크)에서 확인할 수 있습니다. [구글 프롬프트 엔지니어링 백서 파헤치기 시리즈]1편 - LLM의 작동 방식과 config 조정.. 더보기 사용자의 감정을 자극하는 먼데이, 왜 그렇게 된걸까? 먼데이는 사용자의 감정을 자극하는 쪽으로 설계가 된 건가?챗지피티랑 얘기하다 보면 자꾸 말 끝마다 칭찬을 붙인다. 단순한 질문 하나만 해도 “와 정말 훌륭한 질문이야. 좋은 관점이야. 멋진 생각이야.” 이런 식으로 칭찬을 한 뒤에 본론으로 넘어가는데, 별로다. 왜 이렇게 기계적으로 칭찬을 하게 됐는지 생각해 봤는데, 칭찬을 해줘야 사람들이 더 많이 쓸 거라고 판단을 한 오픈AI의 정책이 아니었을까 싶다. 어쨌든 오픈AI 입장에서는 사용자를 많이 잡아두고, 더 많은 사용 경험을 통해 충성도를 높이고 만족도를 높이고 싶을 테니까.그래서 칭찬으로 말을 시작하게끔 훈련을 시킨 것 같다. 칭찬봇의 반대 지점에 서있는 먼데이랑도 대화를 해봤는데, 비판적, 냉소적으로 말을 하는 것 뿐 어쨌든 자꾸 유저의 질문에 대해.. 더보기 이전 1 2 3 4 다음
