프롬프트 — AI에게 말 거는 법
요리사에게 주문하는 것과 같아요. "밥 줘"라고 하면 아무거나 나오지만, "매운 거 빼고, 2인분, 15분 안에 되는 파스타"라고 하면 원하는 게 나오죠. 프롬프트가 구체적일수록 결과가 좋아집니다.
프롬프트는 AI에게 주는 지시문(질문·요청)이에요. 같은 AI라도 프롬프트를 어떻게 쓰느냐에 따라 결과가 완전히 달라집니다.
📖 더 자세히 알아보기▸
정확히 무엇인가요?
프롬프트는 여러분이 AI에게 넣는 모든 입력이에요. 질문 한 줄뿐 아니라, 배경 설명·예시·앞선 대화까지 전부 프롬프트의 일부가 됩니다. AI는 이 프롬프트를 '출발점'으로 삼아 답을 만들기 때문에, 출발점이 좋아야 결과가 좋아져요.좋은 프롬프트의 4요소
- 역할/맥락 — "너는 마케터야", "우리는 신생 카페야"처럼 상황을 준다
- 구체적 과제 — 무엇을 원하는지 명확히
- 형식·길이 — 표로, 3문장으로, 불릿으로 등
- 예시(선택) — 원하는 스타일의 견본 1~2개를 주면 정확도가 크게 오른다(퓨샷)
흔한 오해
길게 쓴다고 좋은 게 아니에요. 핵심은 명확·구체. 원하지 않는 것("전문용어는 빼줘")도 적어주면 좋고, 복잡한 문제는 "단계적으로 생각해줘"라고 하면 품질이 올라갑니다.🎯 같은 요청, 다른 프롬프트 — 결과를 비교해보세요
아래 요청 중 하나를 눌러 AI에게 보내보세요.
💡 팁: 무엇을 / 누구에게 / 어떤 톤으로 / 얼마나 길게 — 이 4가지를 넣으면 프롬프트가 좋아져요.
✍️ 실제 AI에게 직접 프롬프트를 보내보세요
🧱 프롬프트 조립소 — 좋은 프롬프트를 직접 만들어보세요
기본 요청은 "블로그 글 써줘". 아래에서 정말 도움되는 요소만 골라 붙여 게이지를 채워보세요. (함정도 하나 섞여 있어요!)
완성도: 0% — 요소를 추가해 보세요
토큰 — AI가 글을 읽는 단위
AI는 글자를 통째로 보지 않고 레고 블록처럼 잘게 쪼개서 읽어요. 이 조각 하나하나가 '토큰'입니다. 요금(비용)과 길이 제한도 글자 수가 아니라 토큰 수로 계산돼요.
토큰은 AI가 텍스트를 처리하는 최소 단위예요. 보통 영어는 단어보다 조금 잘게, 한국어는 더 잘게 쪼개져서 같은 뜻이라도 한국어가 토큰을 더 많이 씁니다.
📖 더 자세히 알아보기▸
정확히 무엇인가요?
AI는 글자를 통째로 보지 않고 토큰이라는 조각으로 쪼개서 읽어요. 토큰은 단어일 수도, 단어의 일부일 수도, 한 글자일 수도 있습니다. 영어는 대략 1토큰 ≈ 4글자 정도, 한국어는 글자마다 더 잘게 나뉘는 편이에요.왜 중요한가요?
- 비용 — API 요금은 대부분 토큰 수로 계산돼요(입력+출력).
- 속도 — 토큰이 많을수록 처리가 느려집니다.
- 길이 한도 — 한 번에 넣을 수 있는 최대 분량(컨텍스트 윈도우)도 토큰으로 셉니다.
실무 팁
긴 문서를 통째로 넣으면 토큰을 많이 잡아먹어 한도를 넘기거나 비싸져요. 그래서 요약하거나 잘라서(청킹) 넣습니다. 같은 내용도 한국어가 토큰을 더 쓰므로, 다국어 서비스에선 비용 차이를 고려해야 해요.✂️ 직접 입력해서 토큰이 어떻게 쪼개지는지 보세요 근사치
💡 색이 다른 이유: 한글 조각 / 영어·기타 조각. 실제 토큰화는 모델마다 다르니 여기선 감을 잡는 용도예요.
⚔️ 토큰 대결 — 어느 쪽이 토큰을 더 많이 쓸까요?
토큰을 더 많이 쓰는 쪽을 골라보세요.
다음 단어 예측 — LLM의 진짜 원리
휴대폰 자동완성의 초강력 버전이에요. "생일 축하…" 다음에 "합니다"가 올 확률이 높다는 걸 아는 것처럼, AI는 어마어마한 글을 학습해 다음에 올 말을 확률로 알아요. LLM(거대 언어 모델)이 하는 일이 딱 이겁니다.
LLM은 "다음 단어를 예측"하는 걸 수없이 반복해 문장을 만듭니다. 진짜 뜻을 이해하는 게 아니라 통계적으로 가장 그럴듯한 말을 잇는 거예요. (그래서 가끔 틀립니다 — 6번 참고!)
📖 더 자세히 알아보기▸
정확히 무엇인가요?
LLM(거대 언어 모델, Large Language Model)은 방대한 텍스트로 학습해 "다음에 올 토큰의 확률"을 계산하는 모델이에요. GPT, Claude 같은 게 여기에 속합니다.어떻게 작동하나요?
① 지금까지의 문장을 보고 다음 토큰의 확률 분포를 계산 → ② 그중 하나를 뽑음 → ③ 이어붙이고 다시 ①로. 이걸 문장이 끝날 때까지 반복해요(자기회귀 생성). 즉, 한 번에 한 조각씩 만들어 나갑니다.왜 강력하면서도 한계가 있나요?
엄청난 양의 패턴을 학습해 번역·요약·코딩까지 해내지만, 근본은 "이해"가 아니라 "그럴듯함 잇기"예요. 그래서 유창하게 말해도 사실이 틀릴 수 있습니다(→ 환각). 유창함과 정확함은 별개라는 걸 기억하세요.🕹️ 당신이 AI가 되어 문장을 완성해보세요
확률이 높은 단어를 고를수록 자연스럽고, 낮은 단어를 고를수록 엉뚱해져요. 눌러서 문장을 이어보세요.
🎯 확률 감각 퀴즈 — AI라면 어느 단어를 고를까요?
문맥상 가장 확률이 높은(자연스러운) 단어를 고르세요.
Temperature — 창의성 다이얼
AI의 '모험심' 조절 손잡이예요. 낮추면 늘 안전하고 뻔한 답만, 높이면 참신하지만 가끔 엉뚱한 답이 나와요. 번역·요약엔 낮게, 브레인스토밍·소설엔 높게 씁니다.
Temperature(온도)는 AI가 다음 단어를 고를 때 얼마나 과감하게 확률 낮은 단어까지 고르느냐를 정하는 값이에요. 0에 가까우면 예측 가능, 높으면 자유분방.
📖 더 자세히 알아보기▸
정확히 무엇인가요?
LLM은 다음 토큰 후보마다 확률을 매겨요. Temperature는 그 확률 분포를 얼마나 뾰족하게/평평하게 만들지 정하는 값(대개 0~2)입니다. 낮으면 최고 확률 단어에 집중(결정적), 높으면 낮은 확률 단어도 잘 뽑혀요(다양).언제 어떻게 쓰나요?
- 낮게(0~0.3) — 번역, 요약, 코드, 사실 답변처럼 정확·일관이 중요할 때
- 중간(0.5~0.7) — 자연스러운 글쓰기, 다듬기
- 높게(0.9~1.2) — 브레인스토밍, 작명, 창작처럼 다양성이 중요할 때
알아두면 좋은 점
비슷한 역할을 하는 top-p(누적 확률로 후보를 자르는 방식)라는 형제 개념도 있어요. 같은 답을 재현하고 싶다면 온도를 낮추세요. 온도를 높이면 창의적이지만 엉뚱하거나 사실이 틀릴 위험도 함께 올라갑니다.🌡️ 다이얼을 돌리며 같은 질문의 답이 어떻게 변하는지 보세요
질문: "우리 카페 이름 지어줘"
같은 프롬프트를 낮은 온도·높은 온도로 각각 두 번씩 실행
핵심은 일관성이에요. 낮은 온도는 두 번 실행해도 거의 똑같고, 높은 온도는 실행마다 달라집니다.
- 0.0 ~ 0.3 — 번역·요약·코드·사실 질문. 정확하고 재현 가능한 답이 필요할 때.
- 0.5 ~ 0.7 — 일반 대화, 자연스러운 글쓰기·다듬기. 기본값으로 무난.
- 0.8 ~ 1.2 — 브레인스토밍·작명·창작. 다양한 아이디어가 필요할 때.
API에서는 요청에 temperature 값을 넣어 지정해요(예: "temperature": 0.2). 같은 답을 반복 재현하려면 낮게 두세요. 비슷한 역할의 top_p도 있는데, 보통 둘 중 하나만 조절합니다.
ChatGPT·Gemini의 일반 웹 화면에는 온도 슬라이더가 없어요. 모델의 내부 온도를 직접 바꿀 순 없지만, 프롬프트(명령어)로 비슷한 효과를 낼 수 있습니다.
🩺 온도 처방전 — 각 작업에 알맞은 온도를 골라보세요
정확함이 중요하면 낮게, 다양한 아이디어가 필요하면 높게.
컨텍스트 윈도우 — AI의 단기 기억
AI의 기억은 책상 위 공간 같아요. 넓지만 무한하지 않죠. 새 서류(대화)를 계속 올리면, 오래된 서류는 책상 밖으로 밀려나 AI가 앞부분 대화를 '잊어버려요'.
컨텍스트 윈도우는 AI가 한 번에 기억할 수 있는 대화·문서의 최대 분량(토큰 단위)이에요. 길게 대화하면 앞 내용을 잊는 이유가 바로 이겁니다.
📖 더 자세히 알아보기▸
정확히 무엇인가요?
AI가 한 번에 '볼 수 있는' 텍스트의 총량이에요. 시스템 지시 + 지금까지의 대화 + 첨부 문서 + AI의 답변이 모두 이 창(윈도우) 안에 들어갑니다. 단위는 토큰이고, 모델마다 크기가 수천~수십만 토큰으로 달라요.어떻게 작동하나요?
창을 넘치면 가장 오래된 내용부터 밀려나 AI가 그 부분을 '잊어버려요'. 그래서 긴 대화 후반엔 초반에 알려준 내용을 기억하지 못하는 일이 생깁니다.실무에서 다루는 법
- 중요한 정보는 필요할 때 다시 알려주기
- 긴 문서는 요약하거나 잘라서 넣기(청킹)
- 방대한 자료는 RAG로 그때그때 필요한 부분만 검색해 넣기
🧠 메시지를 계속 추가하며 오래된 기억이 밀려나는 걸 보세요
이 AI의 기억 용량은 6개라고 가정할게요. 넘치면 가장 오래된 게 사라져요.
기억 사용량: 0 / 6
💡 그래서 긴 대화에선 중요한 정보를 다시 알려주거나, 컨텍스트가 큰 모델을 쓰거나, 문서를 요약해 넣어줍니다.
🧩 기억 상황 퀴즈
컨텍스트 윈도우를 제대로 이해했는지 확인해봐요.
환각 — AI의 그럴듯한 거짓말
모르는 문제에 자신 있게 오답을 쓰는 학생 같아요. AI는 "다음에 올 그럴듯한 말"을 잇는 기계라(3번 참고), 사실이 아니어도 그럴듯하면 자신 있게 말해버려요. 이걸 환각(할루시네이션)이라고 해요.
환각은 AI가 사실이 아닌 내용을 사실처럼 지어내는 현상이에요. AI는 진실 데이터베이스가 아니라 확률 기계라서 생기는 근본적 한계입니다.
📖 더 자세히 알아보기▸
왜 생기나요?
LLM은 "그럴듯한 다음 말"을 잇는 확률 기계예요(→ 3번). 그래서 학습에 없거나 애매한 내용이어도, 빈칸을 그럴듯하게 채워 자신 있게 말해버립니다. 특히 최신 정보, 특정 회사·개인의 내부 정보, 구체적 숫자·출처에서 잘 나타나요.어떤 모습으로 나타나나요?
- 존재하지 않는 논문·책·법 조항을 인용
- 그럴듯하지만 틀린 통계·날짜·인명
- 실제로 없는 함수·API를 코드에 사용
줄이는 방법
- 근거 제공(RAG) — 실제 문서를 참조하게 하기(→ 7번)
- 출처 요구 — "출처를 함께 알려줘"
- 낮은 temperature + "모르면 모른다고 말해줘" 지시
- 무엇보다 사람이 검증하기
🔍 AI의 답이 진짜인지 가려보세요
아래는 AI가 자신 있게 내놓은 답변들이에요. 진짜일까요, 지어낸 걸까요? 눌러서 정답을 확인하세요.
💡 줄이는 법: 출처를 물어보기 · 최신·전문 정보는 검색/문서에 근거하게 하기(→ 다음 RAG) · 중요한 건 꼭 사람이 검증하기.
💊 환각 방지 처방 — 상황에 맞는 대응을 고르세요
환각을 줄이는 가장 현명한 선택은?
RAG — 자료 찾아보고 답하기
오픈북 시험이에요. 외운 것만으로 답하면 틀릴 수 있지만, 관련 자료를 펼쳐놓고 그걸 근거로 답하면 정확해지죠. AI에게 우리 회사 문서·최신 자료를 쥐여주고 답하게 하는 방식이 RAG입니다.
RAG(검색 증강 생성)는 AI가 답하기 전에 관련 문서를 먼저 찾아(검색) 그 내용을 근거로 답을 생성하는 기술이에요. 환각을 줄이고 최신·내부 정보를 반영하는 핵심 방법입니다.
📖 더 자세히 알아보기▸
정확히 무엇인가요?
RAG는 Retrieval(검색) Augmented(증강) Generation(생성)의 약자예요. AI가 자기 기억(학습 데이터)에만 의존하지 않고, 외부 자료를 찾아 근거로 삼아 답하게 만드는 방식입니다.어떻게 작동하나요?
① 질문이 들어옴 → ② 관련 문서를 검색(보통 의미 기반 벡터 검색) → ③ 찾은 문서 + 질문을 함께 AI에 넣음 → ④ AI가 그 문서에 근거해 답변(+출처). 즉 오픈북 시험처럼 자료를 펼쳐놓고 답하는 거예요.왜 쓰나요?
- 학습에 없던 최신·내부·전문 정보를 반영
- 환각을 크게 줄이고 출처를 제시할 수 있음
- 모델을 다시 학습(파인튜닝)하지 않고도 지식을 쉽게 갱신
📎 자료(지식베이스)를 연결했을 때와 아닐 때를 비교하세요
질문: "우리 회사 환불 규정이 며칠이야?"
📎 문서를 연결했을 때 vs 아닐 때, 실제로 비교
🗂️ RAG가 필요한 질문 골라내기
최신·내부 자료가 필요하면 RAG 필요, 일반 상식이면 RAG 불필요.
에이전트 — 스스로 일하는 AI
일반 챗봇이 질문에 한 번 답하는 안내데스크 직원이라면, 에이전트는 목표를 주면 알아서 계획하고, 도구를 쓰고, 결과를 보고 다음 행동을 정하는 인턴이에요. "생각 → 행동 → 관찰"을 목표 달성까지 반복합니다.
에이전트는 하나의 답변으로 끝내지 않고, 목표를 향해 여러 단계를 스스로 계획·실행하는 AI예요. 도구(툴)를 사용할 수 있다는 게 핵심입니다.
📖 더 자세히 알아보기▸
정확히 무엇인가요?
일반 챗봇은 질문에 한 번 답하면 끝이에요. 에이전트는 목표를 받으면 스스로 할 일을 쪼개고, 도구를 써서 실행하고, 결과를 보고 다음 행동을 정하는 걸 목표 달성까지 반복합니다. '답하는 AI'에서 '일하는 AI'로 넘어간 거예요.작동 루프
- 생각(계획) — 목표를 단계로 나눈다
- 행동(도구 사용) — 검색·계산·API 호출 등을 실행
- 관찰 — 결과를 확인
- → 목표를 이룰 때까지 이 과정을 반복
필요조건과 주의점
에이전트가 되려면 도구(툴), 기억, 계획 능력이 필요해요(→ 9번). 자율성이 높아지는 만큼 실수·비용·엉뚱한 행동의 위험도 커지므로, 중요한 작업은 사람의 감독·승인을 끼워 넣는 설계가 중요합니다.🤖 목표를 주고, 에이전트가 있을 때 vs 없을 때를 비교해보세요
목표: "다음 주 화요일 서울 날씨 확인하고, 비 오면 우산 챙기라고 메모 남겨줘"
💡 챗봇은 "날씨 앱을 확인하세요"라고 한 번 조언하고 끝나요. 에이전트는 직접 날씨를 확인하고 메모까지 처리합니다 — 도구가 있기 때문이죠(→ 다음 9번).
🤖 목표를 주면 AI가 실제로 검색을 반복하며 일합니다
🧭 이 일, 에이전트가 필요할까 챗봇으로 될까?
여러 단계 + 도구가 필요하면 에이전트, 한 번 답하면 끝이면 챗봇.
툴 · 커넥터 — AI의 손과 발
AI는 원래 말만 할 수 있는 뇌예요. 여기에 캘린더·이메일·검색 같은 도구를 '연결(커넥터)'해주면 손발이 생겨 실제로 일정 잡고 메일 보내고 검색을 할 수 있게 됩니다. MCP는 이 도구들을 표준 방식으로 꽂는 '만능 USB 규격'이라고 보면 돼요.
툴(도구)은 AI가 호출해 쓸 수 있는 기능이고, 커넥터는 외부 앱을 AI에 연결하는 통로예요. MCP는 다양한 도구를 일관된 방식으로 연결하기 위한 개방형 표준입니다.
📖 더 자세히 알아보기▸
툴(도구)
AI가 필요할 때 호출하는 기능이에요. 웹 검색, 계산, 코드 실행, 외부 API 호출 등. AI가 "이 도구를 이런 입력으로 써야겠다"고 판단하면 실행되고, 그 결과를 받아 답에 반영합니다(이 방식을 함수 호출/function calling이라고 해요).커넥터
Gmail·구글 캘린더·노션 같은 외부 서비스를 AI에 연결하는 통로예요. 커넥터를 붙이면 AI가 그 서비스의 데이터를 읽거나 작업을 수행할 수 있게 됩니다(예: 내 캘린더 확인, 메일 초안 작성).MCP
Model Context Protocol. 제각각인 도구·데이터 연결 방식을 하나의 표준으로 통일하려는 개방형 규격이에요. '만능 USB 포트'처럼, 여러 도구를 같은 방식으로 꽂을 수 있게 해줍니다.🧰 도구를 연결/해제하며 AI가 할 수 있는 일이 어떻게 바뀌는지 보세요
요청: "내일 오후 2시 김대리랑 회의 잡고, 초대 메일 보내줘"
연결할 도구를 눌러 켜보세요.
🔎 웹 검색 도구를 껐을 때 vs 켰을 때, 실제로 비교
🎒 임무에 필요한 도구만 정확히 챙기기
임무: "내일 날씨를 검색해서, 비가 오면 팀원들에게 우산 챙기라고 이메일 보내기"
필요한 도구만 골라 담으세요. (안 쓰는 걸 담으면 감점!)
스킬 — AI의 전문 매뉴얼
도구가 '손발'이라면, 스킬은 특정 작업을 잘하는 '전문 매뉴얼'이에요. 평소엔 두루뭉술하게 답하다가, 관련 스킬을 켜면 그 분야의 정해진 규칙·양식·노하우를 그대로 따라 훨씬 전문적으로 처리합니다.
스킬은 특정 작업(예: 보고서 작성, 엑셀 편집)을 위한 전문 지침 묶음이에요. 필요할 때 AI가 이 매뉴얼을 '읽고' 그대로 수행해서, 매번 자세히 설명하지 않아도 일관된 고품질 결과를 냅니다.
📖 더 자세히 알아보기▸
정확히 무엇인가요?
스킬은 어떤 작업을 잘 해내기 위한 규칙·양식·노하우를 정리한 매뉴얼이에요. AI가 그 작업을 만나면 스킬을 '펼쳐 읽고' 거기 적힌 대로 수행합니다. 덕분에 매번 형식을 설명하지 않아도 일관된 결과가 나와요.툴·프롬프트와 뭐가 다른가요?
- 프롬프트 = 이번 한 번의 지시(1회성)
- 툴 = 외부 기능을 실행하는 손발
- 스킬 = 특정 작업을 위한 재사용 가능한 매뉴얼
왜 유용한가요?
조직의 표준 양식·브랜드 톤·작성 규칙을 스킬로 담아두면, 누가 시켜도 같은 품질로 나와요. 보고서 구조, 문서 서식, 코드 스타일처럼 "정해진 방식"이 있는 반복 작업에 특히 강합니다.📝 같은 요청, 스킬을 켜고 끄며 결과 차이를 보세요
요청: "이번 분기 매출 보고서 정리해줘"
📄 같은 요청, 스킬을 껐을 때 vs 켰을 때 실제로 비교
🏷️ 이건 프롬프트? 툴? 스킬? — 헷갈리는 3형제 구분하기
프롬프트=지시 문장 · 툴=외부 기능(손발) · 스킬=작업 매뉴얼.
종합 챌린지 — 상황 보고 개념 맞히기
배운 10개 용어를 실제 상황에 적용해볼 차례예요. 각 상황에 딱 맞는 개념을 골라보세요.
한 줄 요약 — 언제든 다시 보세요
프롬프트Prompt
AI에게 주는 지시문. 구체적일수록 결과가 좋아진다.
토큰Token
AI가 글을 처리하는 최소 단위. 비용·길이 제한의 기준.
LLMLanguage Model
다음 단어를 확률로 예측하는 걸 반복해 글을 만드는 모델.
Temperature온도
답변의 창의성/무작위성 조절 값. 낮으면 안전, 높으면 자유.
컨텍스트 윈도우Context Window
한 번에 기억 가능한 최대 분량. 넘으면 앞 내용을 잊는다.
환각Hallucination
사실이 아닌 걸 그럴듯하게 지어내는 현상. 검증이 필요.
RAG검색 증강 생성
자료를 먼저 찾아 근거로 답하는 방식. 환각을 줄인다.
에이전트Agent
목표를 스스로 계획·실행하는 AI. 도구를 쓸 수 있다.
툴·커넥터·MCPTools
AI에 붙이는 손발(외부 앱 연결). MCP는 표준 연결 규격.
스킬Skill
특정 작업용 전문 매뉴얼. 켜면 그 분야를 전문적으로 처리.
이제 용어가 무섭지 않죠?
정의를 외운 게 아니라 직접 조작하며 감을 잡았으니 훨씬 오래 기억에 남을 거예요. 실제 도구를 쓰다 이 용어가 나오면, 오늘 만졌던 장치를 떠올려 보세요.