본문 바로가기

분류 전체보기212

Prompt Development Cycle Prompt Development Cycle이란?Prompt Engineering 프로세스를 테스트 기반 방법론으로 체계화하여 최상의 성능을 달성하는 방법론  ▼ Prompt Development Cycle 6단계 명확한 평가 기준 설정평가를 진행 할 테스트 케이스 선정 (엣지 케이스 포함 ex: 입력 텍스트가 너무 길거나, 특정 정보가 빠져있거나 등등)Baseline Prompt 선정 (Simple) -> 고도화 과정 후에 비교를 위한 대조군 설정(반복) 테스트 케이스에 대해 평가 진행(반복) Prompt 수정Prompt 완성 -> Baseline 대비 어떤 지표에서 얼마나 개선되었는지 ▼  명확한 평가 기준 설정태스크 정의 요약, Q&A, 코드 생성, 글쓰기 등등. 각 태스크 별로 사용되는 평가 기준.. 2024. 11. 16.
Prompt 실습 다양한 파라미터 적용해보기!response_format모델이 출력해야 하는 형식을 지정하는 객체이다. GPT-4o, GPT-4o-mini, GPT-3.5-turbo-1106 모델에서 호환된다. { "type": "json_object" }를 사용하여 모델이 생성하는 메시지가 유효한 JSON인지 확인할 수 있다. from openai import OpenAIclient = OpenAI()completion = client.chat.completions.create( model="gpt-3.5-turbo-1106", response_format={ "type": "json_object"}, messages=[ {"role": "system", "content": "You are .. 2024. 11. 15.
Prompt Engineering 기초 prompt란?ChatGPT의 출력을 원한는 방향으로 유도하기 위한 입력 텍스트. prompt는 보통 질문 또는 지시 형태를 나타낸다. ▼ Role (역할)크게는 사용자를 뜻하는 User, ChatGPT를 뜻하는 Assistant 그리고 System이 존재한다. system은 사용자 prompt 이전에 입력하는 성능 개선 용도의 prompt이다. Response (or Output) : 사용자의 prompt에 대한 LLM의 출력값이다.  ▼ 원리 (ChatGPT가 말을 하는 방식)Next Token PredictionChatGPT같은 LLM또는 대규모 언어 모델들은 기본적으로 정해진 수의 단어들을 알고 있다. (예를 들어 메타의 라마2 7B는 32000개, 구글의 젬마 7B는 256000개를 알고 있다... 2024. 11. 14.
prompt engineering vs RAG vs Fine-tuning prompt engineering 모든 대규모 언어 모델과 상호 작용하는 가장 기본적인 방법. 마치 지시를 내리는 것과 같다. 모델에 어떤 종류의 정보를 제공하고 싶은지 알려주는 것이다. 가장 좋은 답변을 얻기 위해 올바른 질문을 하는 방법을 배우는 것과 비슷하다. 하지만 모델이 이미 학습을 통해 알고 있는 것만 제공할 수 있다는 한계가 있다. 장점은 매우 간단하다는 것. 하지만 모델의 원래 학습에 크게 의존하기 때문에 항상 필요한 최신 또는 가장 구체적인 정보를 제공하지 못할 수도 있다. 일반적인 주제를 다루거나 너무 많은 세부 사항을 다루지 않고도 빠른 답변이 필요할 때 가장 좋다.  ▼ 장점 사용 편의성 : 사용자 친화적이며 고급 기술 능력이 필요하지 않아 광범위한 대상에게 접근 가능하다비용 효율성.. 2024. 11. 13.
파이썬 코딩 컨벤션 파이썬 프로그래밍의 대표적인 코딩 컨벤션은 PEP8 (Python Enhancement Proposal 8)이다. PEP 8은 파이썬 코드의 스타일 가이드로, 코드의 일관성, 가독성, 유지보수성 등을 높이기 위해 권장되는 규칙들을 제시한다.PEP 8은 파이썬 커뮤니티에서 사실상 표준으로 자리 잡고 있으며, 대부분의 파이썬 프로젝트에서 이 규칙을 따른다.  ▼ 인덴트 (들여쓰기)스페이스 4칸 or 탭을 사용하여 들여쓰기를 한다. 일관성을 유지하는 것이 중요하다. 한 파일 내에서는 스페이스 또는 탭 둘 중 하나만을 사용해야 한다.   ▼ 줄 바꿈과 공백최대 79자로 한 줄을 제한하는 것이 좋다. 긴 문장을 여러 줄로 나누어야 할 때는, 각 줄을 4칸 들여쓰고 가독성이 좋도록 적절히 나눈다. some_func.. 2024. 11. 13.
OpenAI Playground OpenAI Playground 란?Playground는 OpenAI에서 제공하는 웹 기반의 실험 환경으로, GPT모델을 자유롭게 활용해보고 프롬프트 실험을 할 수 있는 플랫폼이다. 프롬프트를 입력해 보고, 응답을 실시간으로 확인할 수 있고, 다양한 파라미터 설정을 통해 모델의 동작을 제어할 수도 있다. 주로 프롬프트 엔지니어링 실습, AI 모델의 응답 패턴을 이해하는 데 유용하다.  ▼ 주요 목적프롬프트 테스트 : 입력 프롬프트에 따른 결과 확인모델 성능 평가 : 다양한 설정을 변경해가며 모델의 성능을 평가텍스트 생성 실험 : 실시간으로 텍스트를 생성하고 이를 통해 언어 모델의 동작 방식을 이해 ▼ 주요 활동텍스트 생성Playground에서는 사용자가 입력한 프롬프트를 바탕으로 GPT 모델이 답변을 생.. 2024. 11. 13.

티스토리툴바