프롬프트엔지니어링 썸네일형 리스트형 LLM에 필터 씌워서 원하는 톤앤매너 답변 만들기 | Temperature, Top-P 조절 LLM, 어떻게 쓰고 계신가요? 아마 웹이나 앱을 다운받아서 쓰는 경우가 많으실텐데요. 모델을 좀 더 심도깊게 쓸 수 있는 방법이 있습니다. 바로 Playground를 이용하는 것입니다. Playground로 들어가면 직접 모델을 선택할 수 있고, 각종 설정값(파라미터)를 조절하고, 프롬프트를 조금씩 바꿔가면서 답변을 비교해볼 수 있습니다. OpenAI의 ‘Playground’가 대표적이며, Claude는 Anthropic Console에서, 구글에서는 Google AI Studio에서 사용할 수 있습니다. # AI 모델의 창의성을 끌어올리고 싶다면? 빈 화면을 켜놓고 하염없이 깜박이는 커서를 바라보며 느끼는 막막한 기분. 마케팅 문구를 만들어야 하는데, 아무런 아이디어가 떠오르지 않을 때. 플레이그라.. 더보기 LLM config 온도 | 아이디어가 필요할 때, AI 창의성을 끌어올리는 법 LLM이 어떻게 문장을 생성했는지 기억하시나요? (지난 글) LLM은 가지고 있는 어휘 목록에 있는 모든 단어에 대한 확률값을 계산하여 확률 분포를 만들고, 이 중에서 다음 단어를 고릅니다. 이 과정을 ‘샘플링’이라고 부르는데요. 만약 샘플링은 우리가 조절할 수 있다면 어떨까요? 다음 단어로 올 후보들을 다르게 만들어주고, 그중에서 무엇을 선택할 지 유도할 수 있을 것입니다. 이렇게 샘플링을 제어하는 파라미터에는 크게 3가지가 있는데요. 온도, top-k, top-p입니다. 이번 레터에서는 3가지 샘플링 파라미터 중 하나, 온도에 대해 정리해보았습니다. (다음 편에서 top-p, top-k가 이어질 예정입니다.)# 온도(temperature)LLM이 예측할 단어들을 골라주는 샘플링 파라미터온도 파라미터는.. 더보기 프롬프트 엔지니어링 | gpt3.5로 감정 분석 데이터 만들기 gpt3.5를 사용해서 데이터 생성하는 실습을 하는 중에 발견한 시행착오 1. 작업 지시를 할 때 떠올릴 수 있는 포맷과 출력 포맷을 같은 구조로 지정해줘야 한다. 먼저 제로샷으로 해결하려고 하는데, 포맷을 JSON으로 출력하도록 하고 "문장1":"sentiment" 형식을 줬는데 답변이 제대로 안나왔다. # 목표Sentiment analysis# 작업생성: 긍정 문장 8개, 부정 문장 2개문장 형식: 반말# Response Format:JSON{"문장1" : "sentiment","문장2" : "sentiment","문장3" : "sentiment",..."문장10" : "sentiment",}답변:{"오늘 하늘 너무 예쁘다" : "positive","너무 신나는 노래야" : "positive","오늘.. 더보기 프롬프트 엔지니어링 8편(완) | 이렇게 쓰세요! 최종 정리 딱 한 줄 바꿨을 뿐인데, 답변의 퀄리티가 이렇게 차이난다고? 맞습니다. 똑같은 돈을 내고 AI 모델을 사용하더라도, 어떻게 질문을 하느냐에 따라 얻을 수 있는 결과는 천차만별입니다. 어떻게 하면 AI의 성능을 최대로 끌어내어 정확하고 의미있는 답변을 출력하게 할 수 있을까요? 구글에서 발간한 화제의 백서, “Lee Boonstra의 프롬프트 엔지니어링 백서”를 보면 알 수 있습니다. 원문은 모두 영어로 되어 있는데요. 이번 백서의 내용을 꼼꼼히 공부하고, 직접 실험해보면서 중요한 개념들을 해설하는 시리즈를 기획했습니다. 총 8편에 걸쳐 진행될 예정이며, 구글 백서 원문은 이곳(링크)에서 확인할 수 있습니다. [구글 프롬프트 엔지니어링 백서 파헤치기 시리즈]1편 - LLM의 작동 방식과 config 조정.. 더보기 프롬프트 엔지니어링 7편 | 자동 프롬프트 엔지니어링, 코딩, 멀티모달 딱 한 줄 바꿨을 뿐인데, 답변의 퀄리티가 이렇게 차이난다고? 맞습니다. 똑같은 돈을 내고 AI 모델을 사용하더라도, 어떻게 질문을 하느냐에 따라 얻을 수 있는 결과는 천차만별입니다. 어떻게 하면 AI의 성능을 최대로 끌어내어 정확하고 의미있는 답변을 출력하게 할 수 있을까요? 구글에서 발간한 화제의 백서, “Lee Boonstra의 프롬프트 엔지니어링 백서”를 보면 알 수 있습니다. 원문은 모두 영어로 되어 있는데요. 이번 백서의 내용을 꼼꼼히 공부하고, 직접 실험해보면서 중요한 개념들을 해설하는 시리즈를 기획했습니다. 총 8편에 걸쳐 진행될 예정이며, 구글 백서 원문은 이곳(링크)에서 확인할 수 있습니다. [구글 프롬프트 엔지니어링 백서 파헤치기 시리즈]1편 - LLM의 작동 방식과 config 조정.. 더보기 프롬프트 엔지니어링 6편 | Tree of Thoughts(ToT), reason&act(ReAct) 딱 한 줄 바꿨을 뿐인데, 답변의 퀄리티가 이렇게 차이난다고? 맞습니다. 똑같은 돈을 내고 AI 모델을 사용하더라도, 어떻게 질문을 하느냐에 따라 얻을 수 있는 결과는 천차만별입니다. 어떻게 하면 AI의 성능을 최대로 끌어내어 정확하고 의미있는 답변을 출력하게 할 수 있을까요? 구글에서 발간한 화제의 백서, “Lee Boonstra의 프롬프트 엔지니어링 백서”를 보면 알 수 있습니다. 원문은 모두 영어로 되어 있는데요. 이번 백서의 내용을 꼼꼼히 공부하고, 직접 실험해보면서 중요한 개념들을 해설하는 시리즈를 기획했습니다. 총 8편에 걸쳐 진행될 예정이며, 구글 백서 원문은 이곳(링크)에서 확인할 수 있습니다. [구글 프롬프트 엔지니어링 백서 파헤치기 시리즈]1편 - LLM의 작동 방식과 config 조정.. 더보기 프롬프트 엔지니어링 4편 | 스텝백 프롬프트 딱 한 줄 바꿨을 뿐인데, 답변의 퀄리티가 이렇게 차이난다고? 맞습니다. 똑같은 돈을 내고 AI 모델을 사용하더라도, 어떻게 질문을 하느냐에 따라 얻을 수 있는 결과는 천차만별입니다. 어떻게 하면 AI의 성능을 최대로 끌어내어 정확하고 의미있는 답변을 출력하게 할 수 있을까요? 구글에서 발간한 화제의 백서, “Lee Boonstra의 프롬프트 엔지니어링 백서”를 보면 알 수 있습니다. 원문은 모두 영어로 되어 있는데요. 이번 백서의 내용을 꼼꼼히 공부하고, 직접 실험해보면서 중요한 개념들을 해설하는 시리즈를 기획했습니다. 총 8편에 걸쳐 진행될 예정이며, 구글 백서 원문은 이곳(링크)에서 확인할 수 있습니다. [구글 프롬프트 엔지니어링 백서 파헤치기 시리즈]1편 - LLM의 작동 방식과 config 조정.. 더보기 프롬프트 엔지니어링 3편 | 시스템, 컨텍스트, 역할 프롬프트 딱 한 줄 바꿨을 뿐인데, 답변의 퀄리티가 이렇게 차이난다고? 맞습니다. 똑같은 돈을 내고 AI 모델을 사용하더라도, 어떻게 질문을 하느냐에 따라 얻을 수 있는 결과는 천차만별입니다. 어떻게 하면 AI의 성능을 최대로 끌어내어 정확하고 의미있는 답변을 출력하게 할 수 있을까요? 구글에서 발간한 화제의 백서, “Lee Boonstra의 프롬프트 엔지니어링 백서”를 보면 알 수 있습니다. 원문은 모두 영어로 되어 있는데요. 이번 백서의 내용을 꼼꼼히 공부하고, 직접 실험해보면서 중요한 개념들을 해설하는 시리즈를 기획했습니다. 총 8편에 걸쳐 진행될 예정이며, 구글 백서 원문은 이곳(링크)에서 확인할 수 있습니다. [구글 프롬프트 엔지니어링 백서 파헤치기 시리즈]1편 - LLM의 작동 방식과 config 조정.. 더보기 이전 1 2 다음