2026-05-22 DAY5 TIL

프롬프트 기초 - AI 에게 잘 묻는법 

 

프롬프트란 ? 

→LLM 한테 던지는 지시문 

LLM한테 입력하는 모든 문장/명령이 사실 프롬프트 이다 

LLM의 정체성, 주요임무, 사용자를 설정하기 위해서 !

(사용자 설정 LLM 너가 주로 상대하는 유저 이런사람이야 라는걸 인식시켜주는 것) 

 

프롬프트의 요소

 

지시(Instruction) - LLM이 수행해야 하는 명령

 

입력값(Input Data) - LLM이 받아 들일 값, 그림 , 글, 수치, 파일 등

 

문맥(Context) - 추가적인 정보, 어조 , 말

 

출력지시자(Output Indicator) - 출력 틀, 양식

 

예시(Example) - 사용자가 원하는 추가적인 예시

 

(이 구성요소가 항상적용되진 않는다)

 

프롬프트 요소와 매개변수 요소는 다르다!! 

매개변수의 요소

자유도(Temperature) → LLM의 답변 자유도를 설정하는 값

                                 ex) 온도가 높으면 자유도가 높고 낮으면 자유도가 낮다는 

 

최대 토큰(token) 수 → LLM이 소화할 수 있는 최대 토큰 수 

 

(위 매개 변수들 말고도 더 있다)

 

자유도가 너무 높으면 확각()이 발생하거나

너무 낮으면 추론 능력이 낮아질 수 있다 

 

자유도가 낮다는 건 LLM이 말할수 있는 답변할수 있는 범위가 정해져 있다는 말

금융권 법률, 의료계통 일부러 자유도를 조금 낮춘다 답변하는 내용이 틀리면 안되니까 

마케팅, 홍보, 그래픽 비교적 자유도를 조금 높게 한다 살짝 값은 틀려도 되니까 좀 더 창의성이 필요한 분

 

토큰 : 문장을 자르는/나누 기준 

LLM의 용량이 클 수록 토큰 수를 늘릴 수 있다.  

리소스적인부분에서 할수만 있으면 토큰 수는 클수록 좋다

프롬프트를 더 잘하는 방법은 ?

→ 프롬프트를 조정하는 활동을 Prompt Engineering 이라고 한다

 

Prompt Engineering 이란?

LLM한테 프롬프트 엔지니어링이랑 추론 능력을 향상시키고

LLM 모델에 정체성을 부여하고 사용자의 적합성을 성숙시키는 사용자 적합성을 좀 더 이끌어내는 기법

'Zero-Shot Prompting'

모델에 예시 없이 원하는 작업을 지시하여,

사전 학습된 일반적인 지식한으로 문제를 해곃하는 방법

장점 - 별도의 하습을 수행하지 않고 지시문만 명료하게 작성하면 됨으로 사용자입장에서 직관적이고 편리

 

단점 - LLM의 기존 학습된 내용에 오로지 의존

          그래서 LLM 성능이 제일 크게 좌지우지 한다

 

'Few-Shot-Prompting'

프롬프트 내에 소수의 관련 예시를 포함시켜서

AI 모델의 성능을 향상시키는 프롬프트 엔지니어링 기법

장점 - 예시를 포함하여 다음 출렬 결과를 예상할수 있음

 

단점 - 예시가 명확해야 하며 정확한 답변을 원할 수록 더 많은 예시와 예외 처리가 필요함

 

'Chain-of-Thought-Prompting(생각의 사슬)'

복잡한 문제를 헤결할 때, 정답을 바로 제시하는 대신 

사고 과정을 단계별로 거쳐 추론하도록 유도하는 방식

장점 - LLM이 추론해 나가는 과정을 볼 수 있어서 만약 잘못 추론한 부분이 있으면 피드백 하기 쉬움

 

단점 - 필요없는 내용까지 방대해질 수 있으며 답변을 후처리 가공이 필요할수있다

 

'Tree-of-Thought(생각의 나무)'

복잡한 문제 해결 과정을 나무처럼 여러 가지 가능성을 탐색하고 최적의 경로를 찾는 방

장점 - 여러 해결책을 구할 수 있음

 

단점 - 어느 답이 제일 적절한지 환각은 없는지 검증을 해야하거나 검증이 어려움

 

'Structured promting(구조화 지시)'

구조를 갖춰서 절차지향적으로 프롬프트를 작성하는 방법

- 기계가 가장 이해하기 쉬운방법

 

JSON 형태란 ? Key 랑 Value로 되어 있는 형태를 얘기

장점 - LLM이 절차를 수행하는데 가장 직관적인 방법

 

단점 - 사람이 이해하는 초점을 두기 보다는 기계 입장에서 프롬프트를 이해하도록 작성하는데 초점두기

 

'Generated Knowledge Prompting(지식 생성)'

응답정확도와 추론 능력을 향상 시키기 위한 프롬프트 엔지니어링 기법

LLM이 추론하는 과정을 한번더 점검할수 있도록 도와주는 기법

 

장점 - 모델이 지식을 정리하고 사고 기반을 만들기 때문에 정확도와 추론력 향상에 도움

          지식 생성 프롬프트 기법을 많이 할수록 LLM성능이 조금씩 더 좋아진다  

           이유는 그걸 기반으로 학습을 하니까 

 

단점 - 생성된 지식이 부정확할 경우 

           잘못된 정보를 기반으로 답이 더 크게 틀릴 위험

 

 

오늘 배운 프롬프트 기법들의 예시들을 내 직무 관련 업무와 연관지어서 작성

 

고양이에게 츄르(짜먹는 간식)를 하루에 몇 개나 줘야 할지, 요청하신 6가지 프롬프팅 기법을 적용하여 단계별로 나누어 답변해 드릴게요! 각 기법이 문제를 어떻게 바라보고 해결하는지 비교해 보시는 재미가 있을 겁니다.

1. Zero-Shot Prompting (영샷 프롬프팅)
특징: 사전 정보나 예시 없이, 질문만 던져서 모델이 가진 기본 지식으로 즉시 답을 도출합니다.
[답변]
고양이에게 츄르는 하루에 1개 이하로 급여하는 것이 가장 좋습니다. 몸집이 아주 작은 아기 고양이거나 체중 관리가 필요한 고양이라면 반 개(0.5개) 정도가 적당합니다. 츄르는 간식일 뿐이므로 고양이의 하루 필수 영양소를 모두 채워줄 수 없습니다.

2. Few-Shot Prompting (퓨샷 프롬프팅)
특징: 몇 가지 유사한 예시(간식 급여 기준)를 먼저 보여준 뒤, 이를 바탕으로 패턴을 파악해 답을 도출합니다.
[예시 학습]
예시 1 (캔 간식): 하루 총열량의 10%를 넘지 않아야 하므로, 4kg 고양이 기준 하루 1/3캔이 적당함.
예시 2 (트릿 간식): 하루 총열량의 10%를 넘지 않아야 하므로, 4kg 고양이 기준 하루 4~5알이 적당함.
[답변]
츄르 간식: 앞선 예시들과 마찬가지로 하루 총열량의 10% 이내 법칙을 따릅니다. 일반적인 츄르 한 스틱은 약 7~9kcal입니다. 4kg 성묘의 하루 권장 열량(약 200kcal)의 10%는 20kcal이므로, 계산상으로는 2개까지 가능하지만, 영양 불균형과 편식을 막기 위해 안전하게 하루 1개만 급여하는 것이 패턴상 올바른 기준입니다.

3. Chain-of-Thought Prompting (생각의 사슬)
특징: 답을 바로 내지 않고, '왜 그런 결론이 나왔는지' 논리적인 추론 과정을 단계별로 밟아갑니다.
[추론 과정]
고양이의 하루 권장 칼로리 파악: 보통 4kg 성묘 기준 하루에 약 200~240kcal가 필요함.
간식의 적정 비율 계산: 수의학계에서는 간식 양을 하루 전체 칼로리의 10% 이내로 제한하길 권장함. 즉, 간식으로 얻는 열량은 20~24kcal 이하여야 함.
츄르의 칼로리 확인: 시중의 일반적인 츄르 1개(14g)는 약 7~9kcal임.
수학적 대입: 2개를 먹으면 약 14~18kcal로 10% 기준(20kcal)에 아슬아슬하게 턱걸이함. 3개를 먹으면 기준을 초과함.
변수 고려: 하지만 고양이가 사료를 안 먹고 츄르만 고집할 위험(편식)과 높은 나트륨/수분 비율을 고려해야 함.
[결론]
따라서 논리적으로 계산했을 때 최대 2개까지는 수치상 가능하나, 고양이의 건강한 식습관을 위해 하루 1개를 주는 것이 가장 과학적이고 안전한 선택입니다.

4. Tree-of-Thought (생각의 나무)
특징: 여러 개의 생각 가지(가능성)를 뻗어 나가며, 각 상황(경우의 수)에 맞는 최적의 답을 탐색합니다.

 

SLACK 과제