본문 바로가기

분류 전체보기212

팀 프로젝트ing 7주일간 자리를 비우고 다시 돌아왔다. 그동안 놓친것들이 너무 많아서 해야될게 산더미 였는데.. 금요일날 돌아오고 주말에 무조건 공부를 해야했는데 팀프로젝트도 봐야하는데.... 갑자기 몸상태가 나빠져서 제대로 하지 못했다!!!!!!!!!!!!!!!정말이지... 타이밍이 어떻게 이렇게 완벽할 수가 있을까.. 그래도 어찌저찌 산더미같은 공부거리에서 일부분은 해결했다ㅠㅠ그리고 오늘 드디어 팀 프로젝트에 본격적으로 참여를 하였다. 팀원들이 코드는 거의 완성시켜 놓았기 때문에 나는 ppt담당을 맡게 되었다. 일단은 주어진 역할에 전념하기 위해 하루동안 ppt를 열심히 만들었고, 그 결과 거의 완성되어간다. ppt의 큰틀은 캠프에서 주어진 예시가 있었기 때문에 어렵지않고 금방 만들수있었다. 하지만 코드를 짜는 다른.. 2024. 12. 2.
24-11-21 TIL 어제 대화형챗봇을 만드는 팀 프로젝트 발제가 있었다. 팀과제 진행을 위해 오늘 오전부터 회의를 시작했고, 오전회의에서는 대략적인 방향성 그리고 챗봇의 주제를 생각해보는 것으로 끝마쳤다. 오후의 회의를 위해 주제에 대해 생각을 곰곰히 해보다가 해외여행지를 추천해주는 챗봇을 만들면좋지 않을까해서 정보를 찾아보았지만.. 정보가 많이 없었다.. 정말없었는지 못찾은건지는 모르겠다.그 다음으로는 도저히 어떤 새로운 주제로 해야할지 머리가 잘 돌아가지 않아서 gpt에게 도움을 요청했고, 좋은 답변들을 내주었다. 나는 그 중에서 아래의 두 가지가 가장 마음에 들었다. 1. AI 기반 감정적 연극/스토리 코치 설명: 사용자에게 연극 대사, 발표, 혹은 이야기를 연습하는 환경을 제공. 챗봇이 대사를 연습하거나 스토리 플롯.. 2024. 11. 21.
개인 과제 해설 chunkingchunking은 긴 문서를 더 작고 관리하기 쉬운 부분들로 나누는 과정vectorDB에 chunk단위로 적재하게 된다장점 검색 정확도 향상 : 관련된 정보만 정확하게 검색 가능컨텍스트 제한 : LLM이 처리할 수 있는 컨텍스트 길이 내에서 효율적으로 정보 처리유연한 검색 : 필요한 부분만 선택적으로 검색 가능고려사항청크 크기 : 너무 작으면 문맥이 끊기고, 너무 크면 관련 정보 찾기 어려움중복 : 일부 중복을 허용하여 문맥 유지 필요의미 단위 : 가능한 의미가 완견된 단위로 분할CharacterTextSplitter구분자(seperator)를 기준으로 split하여 chcunk를 나누는 방법separator : 텍스트를 분할할때 사용할 구분자. 기본값은 "\n\n"chunk_size : .. 2024. 11. 20.
베이직반 수업 11-18 코드카타 문제 풀이  1. 홀짝에 따라 다른 값 반환하기 ▼ 문제 : 양의 정수 n이 매개변수로 주어질 때, n이 홀수라면 n 이하의 홀수인 모든 양의 정수의 합을 return하고 n이 짝수라면 n 이하의 짝수인 모든 양의 정수의 제곱의 합을 return 하는 solution 함수를 작성해 주세요.  ▼ 풀이# 풀이 1def solution(n): answer = 0 if (n%2==1) : # n이 홀수라면 for i in range(n, 0, -2) : # ex) 7 -> 5 -> 3 -> 1 answer += i else: # n이 짝수라면 for i in range(n, 0, -2) : # ex ) 10 -> 8 -> ... -> 4.. 2024. 11. 19.
Prompt Engineering 잘 알려진 기법들 ▼ 기법들대표적으로는 Few Shot 그리고 Chain of Thought 이렇게 2가지 기법들이 존재함그 외에도 많이 있는데, 대부분이 Chain of Thought를 기반으로 발전한 기법들LLM처럼 특정 Prompt 방법론이 다른 방법론보다 무조건 더 우위에 있고 그런 경향은 없다.(GPT-4가 GPT3.5 대비 모든 지표에서 더 좋음(물론 비용, 속도 제외), 특정 Prompt 기법 A가 보편적으로 기법 B보다 좋은 케이스는 거의 존재하지 않음.따라서 각 Prompt Engineeringg 기법의 원리를 잘 이해하고 유즈케이스를 잘 판단하는게 매우 중요함. ▼ 주요 기법들 1. Few-Shot참고 할 수 있는 정답 사례들을 Prompt에 추가하여 성능을 높이는 방법이다. ▶ 의미 : 5-shot의 .. 2024. 11. 18.
Prompt Engineering 평가 기준 설정 평가 기준이란? LLM이 어떠한 태스크를 어느 정도의 품질인지 정량적으로 또는 정성적으로 확인 할 수 있는 객관적인 지표  ▼필요한 이유사람마다 기준이 다를 수 있고 기준이 명확하지 않을 수 있다. 또한 실제로 많은 데이터 테스팅 시 아닐 수도 있다.   ▼평가 지표MMLU (Massive Multitask Language Understanding) 여러 분야를 테스트하는 객관식 시험MMLU (5 shot)의 경우 5개의 질문/정답 쌍이 Prompt로 주어졌다는 뜻이다.ARC (Abstraction and Reasoning Corpus) 2차원 pixels grid를 주고 특정 문제 해결  ex: 패턴 주고 일부 비워두고 어떤 색깔로 칠할지 맞추는 문제HellaSwag문장들 주고 이어지는 마지막 문장들로.. 2024. 11. 17.

티스토리툴바