본문 바로가기

분류 전체보기

교토 호텔 최저가 찾기 | 챗GPT한테 호텔 가장 싼 가격 찾아달라고 했더니 교토 여행을 준비하면서 비행기 먼저 예약하고, 그 다음 숙소를 찾았다. 처음에 에어비앤비로 찾아봤는데 마음에 드는 곳이 있어서 예약을 걸었더니 이미 다른 예약자가 있다고 해서 취소되고, 다음 선택지인 호텔로 넘어갔다. 그러다가 우연히 호텔 예약 싸게 하는 방법이라는 유튜브 영상이 알고리즘에 걸려서 보게 됐다.이 영상인데, 아고다에 로그인을 하거나 신용카드 연계된 아고다 홈페이지에 들어가기, 할인 쿠폰 적용받기 등의 얘기들이 있었다. 전혀 몰랐던 사실이라 이번엔 이 방법을 무조건 활용해봐야지!! 해서 고른 곳이 니조성 근처에 Urban Hotel Kyoto Nijo Premium 이였다. 1박과 3박을 나누고, 하나는 가지고 있던 아고다 캐시 먹이고 해서 이래저래 4박에 46만원에 예약을 완료했고 완전 뿌.. 더보기
LLM에 필터 씌워서 원하는 톤앤매너 답변 만들기 | Temperature, Top-P 조절 LLM, 어떻게 쓰고 계신가요? 아마 웹이나 앱을 다운받아서 쓰는 경우가 많으실텐데요. 모델을 좀 더 심도깊게 쓸 수 있는 방법이 있습니다. 바로 Playground를 이용하는 것입니다. Playground로 들어가면 직접 모델을 선택할 수 있고, 각종 설정값(파라미터)를 조절하고, 프롬프트를 조금씩 바꿔가면서 답변을 비교해볼 수 있습니다. OpenAI의 ‘Playground’가 대표적이며, Claude는 Anthropic Console에서, 구글에서는 Google AI Studio에서 사용할 수 있습니다. # AI 모델의 창의성을 끌어올리고 싶다면? 빈 화면을 켜놓고 하염없이 깜박이는 커서를 바라보며 느끼는 막막한 기분. 마케팅 문구를 만들어야 하는데, 아무런 아이디어가 떠오르지 않을 때. 플레이그라.. 더보기
LLM config 온도 | 아이디어가 필요할 때, AI 창의성을 끌어올리는 법 LLM이 어떻게 문장을 생성했는지 기억하시나요? (지난 글) LLM은 가지고 있는 어휘 목록에 있는 모든 단어에 대한 확률값을 계산하여 확률 분포를 만들고, 이 중에서 다음 단어를 고릅니다. 이 과정을 ‘샘플링’이라고 부르는데요. 만약 샘플링은 우리가 조절할 수 있다면 어떨까요? 다음 단어로 올 후보들을 다르게 만들어주고, 그중에서 무엇을 선택할 지 유도할 수 있을 것입니다. 이렇게 샘플링을 제어하는 파라미터에는 크게 3가지가 있는데요. 온도, top-k, top-p입니다. 이번 레터에서는 3가지 샘플링 파라미터 중 하나, 온도에 대해 정리해보았습니다. (다음 편에서 top-p, top-k가 이어질 예정입니다.)# 온도(temperature)LLM이 예측할 단어들을 골라주는 샘플링 파라미터온도 파라미터는.. 더보기
프롬프트 엔지니어링 | gpt3.5로 감정 분석 데이터 만들기 gpt3.5를 사용해서 데이터 생성하는 실습을 하는 중에 발견한 시행착오 1. 작업 지시를 할 때 떠올릴 수 있는 포맷과 출력 포맷을 같은 구조로 지정해줘야 한다. 먼저 제로샷으로 해결하려고 하는데, 포맷을 JSON으로 출력하도록 하고 "문장1":"sentiment" 형식을 줬는데 답변이 제대로 안나왔다. # 목표Sentiment analysis# 작업생성: 긍정 문장 8개, 부정 문장 2개문장 형식: 반말# Response Format:JSON{"문장1" : "sentiment","문장2" : "sentiment","문장3" : "sentiment",..."문장10" : "sentiment",}답변:{"오늘 하늘 너무 예쁘다" : "positive","너무 신나는 노래야" : "positive","오늘.. 더보기
제조업에 쓸 AI가 없다! 소확행 전략으로 승부 AI를 공장에 붙인다고 문제가 해결되나?스탠포드 4학년 학생의 지능을 가진 인공지능이 있다고 해서, 울산 공장에 투입하면 문제를 해결할 수 있을까요? (당연하게도) 그렇지 않습니다. 실제 학생을 데려다 놓는다고 해도 30년 경력의 기술자가 직면한 현장의 문제 앞에서는 좌절할 확률이 높습니다. 그렇다면 제조업 분야에서는 AI를 어떻게 써야할까요. 학계와 산업계, 그리고 정부의 전문가들은 이 문제를 어떻게 바라보고 있을지 ‘대한민국 AI 정책 포럼’에서 논의한 이야기를 정리했습니다. AI를 가로막는 현실적인 문제들이종석 카이스트 산업및시스템공학과 교수는 현재 제조 AI 상황에 대해 먼저 정리했습니다. 이 교수는 "데이터가 부족하고 특정 산업에 맞춰 개발되는 각개 전투 양상을 보이고 있다”면서 제조 AI를 .. 더보기
한국에 부족한 GPU, 어떻게 확보하고 무엇이 더 필요하나 산업과 생태계가 형성되기 위해서 가장 중요한 것은 무엇일까요? 바로 인프라가 구축되어야 한다는 것입니다. AI 역시 생태계를 조성하기 위해서는 AI를 돌리는 데 사용되는 GPU와 데이터센터와 같은 인프라가 필수적입니다. 중국은 "동수서산(동쪽에는 데이터 기업을 육성하고, 서쪽에서는 계산하는 기업을 육성)" 프로젝트를 통해 지난 5년간 연간 70조를 투자하며 AI 경쟁력을 강화했습니다. 이처럼 AI 인프라는 국가의 기관망으로 관리해야 할 정도로 중요하며, 정부의 적극적인 투자와 지원이 필수적입니다. 하지만 한국의 AI 인프라 사정은 아직 열악하기만 합니다. 염재호 국가 AI 위원회 부위원장은 “지난 해 한국의 GPU는 3천장 밖에 없어 해외와 비교하면 엄청나게 뒤떨어져 있다”며 앞으로 정부는 어떻게 GPU.. 더보기
한국에 필요한 AI 인재? "제조업에 AI를 접목할 수 있는 사람" 한국은 AI 인재들이 해외로 많이 나가는 나라 중 손에 꼽히는 나라입니다. 특히 AI 연구를 하는 박사생들의 유출이 굉장히 심한데요. 한국의 AI 인재 순유입지수는 2023년 -0.30, 2024년에는 -0.36으로 더 악화되고 있습니다. 인재 유출은 한국의 AI 경쟁력과 산업 생태계 유지에 심각한 위협이 되고 있습니다. 대한상공회의소에서 5월 9일 주최한 '대한민국 AI 정책 포럼'에서는 인재 유출 문제를 둘러싸고 어떤 이야기들이 오갔을까요? 카이스트 경영전문대학원장을 맡고 있는 김민기 교수는 AI 인재의 의미에 대해 다른 각도를 제시했습니다. AI 인재는 꼭 박사급의 천재 공학자만이 아니라는 것입니다. 김민기 교수는 "실제 서비스를 할 때 특정 수요에서 창출되는 요구사항을 만족시킬 수 있게끔 AI 기.. 더보기
대한민국 AI 정책 포럼 현장 후기 2025. 05. 09롯데호텔에서 열린 AI 정책 포럼에 다녀왔다. 생각보다 사람이 굉장히 많았다. 시간 딱 맞게 도착했는데, 겨우 자리를 찾아서 구석에 앉을 수 있었다. (빨리 갈껄ㅠ) 기자들도 많이 왔던데 기사 많이 나오겠다. 정책 포럼이라 그래서 각 토론 세션마다, 학계, 산업계, 정부 관계자를 골고루 모시고 이야기를 들었다. 중간 중간 쉬는 시간 없이 타이트하게 진행됐다. 대충 머릿 속에 남아있는 걸 정리해보자면, 1. 한국은 이미 미국이나 중국 추월하기는 글렀다. (이미 넘사벽.. 할꺼면 3등은 하자. 대신 3등을 압도적으로 하자..???)2. 우리가 잘하는거 하자. -> 제조업 강국이니 제조업에 AI 붙여서 생산성 높이자. 미국이나 중국에서 AI 고속도로 깔면 우리는 그 위에서 달리면 된다. .. 더보기

티스토리툴바