반응형
250x250
Notice
Recent Posts
Recent Comments
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | 7 |
8 | 9 | 10 | 11 | 12 | 13 | 14 |
15 | 16 | 17 | 18 | 19 | 20 | 21 |
22 | 23 | 24 | 25 | 26 | 27 | 28 |
29 | 30 | 31 |
Tags
- 최댓값
- 평균
- Depthwise Separagle Convolution
- sum
- Pointwise Convolution
- 미니배치
- 학습 구현
- 렐루함수
- 신경망
- 밑바닥부터 시작하는 딥러닝
- sqlite3
- join
- max
- 수치미분
- MIN
- PyQt5
- 시험데이터
- 데이터베이스
- next.js 튜토리얼
- Next.js
- AVG
- 제약조건
- Depthwise Convolution
- total
- 오차제곱합
- PYTHON
- 합계
- 교차엔트로피오차
- sigmoid
- COUNT
Archives
- Today
- Total
우잉's Development
[LLM 기초] 프롬프트 엔지니어링 개요 본문
728x90
반응형
- 프롬프트 엔지니어링 ? => 컴퓨터와 대화하는 방법이자 컴퓨터에게 업무를 시키는 방법
- LLM에서의 prompt engineering은?
=> zero-shot, one-shot learning, Few-shot learning, Chain of Thought, Zero Shot Chain of Thought- Zero-shot : 바로 물어보는 것을 zero-shot이라 함. 예) "영어를 한국어로 번역해줘"
- One-shot learning : 하나의 예를 들어주면 서 물어봄
예) 영어를 한국어로번역해줘. (task description)
This is an apple => 이건 사과야. (example)
It's a beautiful day => ? (prompt) - Few-shot learning : 두가지 이사의 예를 들어주면서 물어봄.
예) 영어를 한국어로번역해줘. (task description)
This is an apple => 이건 사과야. (example)
I am a boy => 나는 소년입니다. (example)
You are a girl => 나는 소녀입니다. (example)
It's a beautiful day => ? (prompt) - Chain of Thought : 가이드를 주고 그 가이드를 통해서 문제를 풀게함.
예) 이런 문제는 어떤 방법으로 풀면 돼. => 이전에 알려준 가이드를 통해서 새로운 문제를 풀어냄. - Zero Shot Chain of Thought 가이드를 주지않고 스스로 생각하게함. (좀더 공부가 필요)
- prompt engineering은 크게 보면 3가지 방법으로 작성합니다.
- 답변을 위해 필요한 적절한 컨텍스트 제공 (In-Context Learning)
- 원하는 결과를 추출을 위한 프롬프트 작성
- 원하는 포맷의 출력을 위한 프롬프트 작성
==> 프롬프트 엔지니어링은 실험적 방법론에 기반하여, 한 번 그럴듯한 결과를 내는 것이 아닌, 원하는 결과를 정확히 의도한대로 항상 일관성있게 내도록 만드는 것이 중요하다.
- 검색 엔진의 진화 Vector Search
- 임베딩(Embedding) : 어떤 텍스트가 들어오면 여러개의 숫자인 벡터로 변환 (BERT, GPT 등)
- Embedding Space : 어떤 텍스트가 어디에 위치하는지에 대한 정보
- Vector Search : 사과, 바나나, 집, 차 이렇게 네개가 위치해있을 것이고 사과를 주제로하면 사과와 비슷한 아이 즉 거리가 좁은 (유사도가 높은) 주제를 찾음. (단어 뿐만 아니라 문장도 가능하다.)
사과 | |||||
바나나 | |||||
집 | |||||
차 |
728x90
반응형
'Deep learning > LLM' 카테고리의 다른 글
[LLM 기본] 생성 조건 (0) | 2023.09.05 |
---|---|
[LLM 기초] 프롬프트 보안 (0) | 2023.08.31 |
[LLM 기초] 프롬프트 엔지니어링 기초2 (0) | 2023.08.31 |
[LLM 기초] 프롬프트 엔지니어링 기초 1 (0) | 2023.08.31 |
[LLM 기초] Prompt 엔지니어링 개념이해 (0) | 2023.08.29 |
Comments