Prompt Engineering2 Prompt Engineering 기초 prompt란?ChatGPT의 출력을 원한는 방향으로 유도하기 위한 입력 텍스트. prompt는 보통 질문 또는 지시 형태를 나타낸다. ▼ Role (역할)크게는 사용자를 뜻하는 User, ChatGPT를 뜻하는 Assistant 그리고 System이 존재한다. system은 사용자 prompt 이전에 입력하는 성능 개선 용도의 prompt이다. Response (or Output) : 사용자의 prompt에 대한 LLM의 출력값이다. ▼ 원리 (ChatGPT가 말을 하는 방식)Next Token PredictionChatGPT같은 LLM또는 대규모 언어 모델들은 기본적으로 정해진 수의 단어들을 알고 있다. (예를 들어 메타의 라마2 7B는 32000개, 구글의 젬마 7B는 256000개를 알고 있다... 2024. 11. 14. prompt engineering vs RAG vs Fine-tuning prompt engineering 모든 대규모 언어 모델과 상호 작용하는 가장 기본적인 방법. 마치 지시를 내리는 것과 같다. 모델에 어떤 종류의 정보를 제공하고 싶은지 알려주는 것이다. 가장 좋은 답변을 얻기 위해 올바른 질문을 하는 방법을 배우는 것과 비슷하다. 하지만 모델이 이미 학습을 통해 알고 있는 것만 제공할 수 있다는 한계가 있다. 장점은 매우 간단하다는 것. 하지만 모델의 원래 학습에 크게 의존하기 때문에 항상 필요한 최신 또는 가장 구체적인 정보를 제공하지 못할 수도 있다. 일반적인 주제를 다루거나 너무 많은 세부 사항을 다루지 않고도 빠른 답변이 필요할 때 가장 좋다. ▼ 장점 사용 편의성 : 사용자 친화적이며 고급 기술 능력이 필요하지 않아 광범위한 대상에게 접근 가능하다비용 효율성.. 2024. 11. 13. 이전 1 다음