llm3 Prompt Development Cycle Prompt Development Cycle이란?Prompt Engineering 프로세스를 테스트 기반 방법론으로 체계화하여 최상의 성능을 달성하는 방법론 ▼ Prompt Development Cycle 6단계 명확한 평가 기준 설정평가를 진행 할 테스트 케이스 선정 (엣지 케이스 포함 ex: 입력 텍스트가 너무 길거나, 특정 정보가 빠져있거나 등등)Baseline Prompt 선정 (Simple) -> 고도화 과정 후에 비교를 위한 대조군 설정(반복) 테스트 케이스에 대해 평가 진행(반복) Prompt 수정Prompt 완성 -> Baseline 대비 어떤 지표에서 얼마나 개선되었는지 ▼ 명확한 평가 기준 설정태스크 정의 요약, Q&A, 코드 생성, 글쓰기 등등. 각 태스크 별로 사용되는 평가 기준.. 2024. 11. 16. RAG, Vector DB, LangChain RAG (Retrieval-Augmented Generation) 란?검색기반 생성 기법이다. LLM은 많은 데이터를 학습했음에도, 최신 정보나 특정 도메인 지식에 대한 한계를 가질 수 있다. 이를 보완하기 위해 RAG는 LLM이 직접 답을 생성하는 대신, 외부 데이터베이스나 문서에서 관련 정보를 검색한 후, 그 정보를 바탕으로 답변을 생성하는 방식이다. ▼ 동작 원리질문 입력 사용자가 질문을 하면, RAG 시스템은 질문에 맞는 답변을 생성하기 전에 검색 단계를 거친다.문서 검색 (Retrieval)벡터DB나 기타 정보 저장소에서 질문과 관련된 문서를 검색한다. 이때 사용되는 검색 방법은 텍스트를 벡터화하여 의미적으로 유사한 문서를 찾는 것이다. 답변 생성 (Generation)검색된 문서를 바탕으로.. 2024. 11. 13. LLM (Large Language Model) LLM 이란?대규모 텍스트 데이터를 학습하여 자연어를 이해하고 생성할 수 있는 AI모델이다. 기본적으로 자연어 처리(NLP)의 다양한 작업, 예를 들면 번역, 질문 응답, 텍스트 생성(소스코드 등) 등을 할 수 있다. ▼ 주요 기능자연어 이해(NLU) : 질문이나 명령을 이해하고 적절히 응답하는 능력텍스트 생성 : 기존 데이터를 바탕으로 자연스러운 텍스트를 생성번역 및 요약 : 다른 언어로 번역하거나 긴 텍스트를 요약 질문 응답 시스템(Q&A) : 사용자의 질문에 정확하게 답변하는 기능 ▼ 동작 원리학습 (Training)LLM은 대규모 텍스트 데이터셋을 이용해 학습한다. 여기서 중요한 것은 '패턴 인식'이다. 수많은 텍스트에서 단어와 문장의 패턴을 찾아내어, 새로운 문장이나 답변을 생성할 때 그.. 2024. 11. 13. 이전 1 다음