묻고 답해요
141만명의 커뮤니티!! 함께 토론해봐요.
인프런 TOP Writers
-
해결됨실리콘밸리 엔지니어와 함께하는 OpenAI API (ChatGPT)
assistant에서 file 업로드 하고 쓰레드 사용시 token 사용 및 사용 방법 문의
Assistant 기능으로 데이터를 tagging 하는 봇을 만들려고 합니다.tagging에 관한 정보를 file에 업로드 하고 필요한 내용을 bot을 통해 묻고 답으로 tag list를 받아 보려고 하는데요, 이 때 file로 질문 마다 새로운 thtread를 만들어서 질문을 하게 되면 file을 확인할때는 매번 token을 사용한걸로 처리가 되고 비용이 청구 될까요?이런 목적으로 하는 경우에는 file 보다는 fine-turing이 더 좋을까요?
-
해결됨실리콘밸리 엔지니어와 함께하는 OpenAI API (ChatGPT)
강의 자료 받을수 있을까요?
강사님 강의 잘 듣고 있습니다. 혹시 강의 과정에서 사용하신 강의 자료 통합본 형태로 받아 볼수 있을 까요? 현재 일부 강의만 해당 자료만 받을수 있어서 문의 드립니다.
-
미해결실리콘밸리 엔지니어와 함께하는 OpenAI API (ChatGPT)
openai api key 환경변수
안녕하세요 선생님. openai 에서 apikey 발급후 공식사이트에서 알려준대로 환경변수로 세팅후 파일실행을하는데 오류가뜹니다...환경변수로지정해서 어떻게해야하나요..(참고로 2~4번 모두했는데 안되서여)
-
미해결실리콘밸리 엔지니어와 함께하는 OpenAI API (ChatGPT)
[2강 - 8:50]의 템퍼러쳐에 대해서 조금 더 부연하면...
머신러닝 중 Optimization의 한 기법중에서, Simulated annealing algorithm이 있는데 그걸 말하는 것 같습니다. 담금질을 모방해서 temperature가 높으면 파라미티를 좀 더 랜덤하게 변화시키는 방식인데요(랜덤하지 않은 경우에는, 제가 알기로는 경사하강법을 쓰는걸로 알아요). 이 때문에 Error가 감소 하지 않고 증가하는 경우가 더 많이 발생한다고 해요. Low temperature의 경우 랜덤확률이 낮아지니 좀 더 인접위치의 local minimumd으로 수렴하게 되구요.여기서부턴 제 추론인데요. 파라미터가 손실함수에서 위치가 높은 곳에 있을 때보다 낮은 곳에 있을 때 같은 온도에서도 Error가 증가할 수밖에 없는데(올라갈 곳이 더 많으니까), 보통 최적화 과정에서 고도가 낮아지기 때문에 시간에 따라 온도도 낮춰서 Error가 증가하는 일을 방지하는 것 같아요.
-
미해결실리콘밸리 엔지니어와 함께하는 OpenAI API (ChatGPT)
채팅 결과가 chatGPT 웹화면처럼 조금씩 생성되게 하는 방법이 있을까요?
chatGPT API를 테스트하고 있는데요chatGPT 사이트와 달리 문장을 모두 완성한 뒤에야결과를 보내주더라구요.그래서 결과가 나올 때까지 10초 이상 걸리기도 합니다.중간에 글자가 나오면 아무래도 덜 지루하게 기다릴 수 있어서글자가 중간에 나오게 하는 방법이 궁금합니다.
-
미해결실리콘밸리 엔지니어와 함께하는 OpenAI API (ChatGPT)
api 불러오기에서 completion에서 에러가 뜹니다
api키 입력 부분은 보안상 ㅁㅁㅁㅁㅁ으로 적어놨습니다주신 코드로 돌려보면 response = openai.Completion.create( 부분에서 에러가 납니다.주피터노트북, 구글코랩, vs코드 모두 에러가 나네요.. openai도 pip으로 설치했는데 수업중에는 completion부분이 파랗게 표시가되는데 제 컴퓨터에서는 파랗게 표시도안되고 에러도 뜨는데 뭐가 문제일까요?
-
미해결실리콘밸리 엔지니어와 함께하는 OpenAI API (ChatGPT)
chat gpt api 관련 질문 드립니다!
chat gpt api를 통해 챗봇을 테스트로 개발하려고 합니다. openai.ChatCompletion.create 사용하여 질문을 던지고 응답을 받은 후에 똑같은 함수로 다음 질문을 던졌을 때 맥락 공유가 안되어 질문드려요!어떻게 작성해야 맥락 공유가 가능할까요..ㅜ?-------------------------*코드 openai.api_key = "my_key"default_system_set = "You are the manager of a shared office"default_user_set = "현재 지점은 서울대 지점 빈방 2개 남아있어. 이 정보를 기반으로 상담해주면돼. 앞으로 하는 질문은 전부 입주자라 생각하고 대답해줘."# 매니저 설정answer=openai.ChatCompletion.create( model="gpt-3.5-turbo", messages=[ {"role": "system", "content": default_system_set}, {"role": "user", "content": default_user_set} ], max_tokens=50, )def get_response(prompt: str): return openai.ChatCompletion.create( model="gpt-3.5-turbo", messages=[ {"role": "user", "content": prompt} ], max_tokens=200, )
-
미해결실리콘밸리 엔지니어와 함께하는 OpenAI API (ChatGPT)
fine tuning 실습관련 질문드립니다.
안녕하세요. 실습을 진행하면서 막혀서 여쭙습니다.막힌 부분은 fine tuning 입니다.구글 코랩에서 contents하단에 예제 파일을 업로드 하고 /content/fine_tuning_data.json 1.실행전 필요하다고 생각한 인스톨을 진행하고 pip install openai pip install openai_secret_managerexport OPENAI_API_KEY="sk-@@@J" 2.실행openai tools fine_tunes.prepare_data -f /content/fine_tuning_data.json*에러 메세지 File "<ipython-input-2-e56f31c80683>", line 1 openai tools fine_tunes.prepare_data -f /content/fine_tuning_data.json ^SyntaxError: invalid syntax3.실행openai api fine_tunes.create -t /content/fine_tuning_data.json -m babbage위와 같은 메세지 입니다. 가르침 요청 드려 봅니다.#블로그를 찾아보고 알려 주는 방법으로 실행해 보아도 역시 안되네요.Error: No API key provided. You can set your API key in code using 'openai.api_key = <API-KEY>' 즉, openai.api_key에 API key를 셋팅하라는 메세지입니다. 먼저, 기본적으로 Fine-tuning을 위해 다음과 같이 명령어를 입력해야 하는데요.openai api fine_tunes.create -t <TRAIN_FILE_ID_OR_PATH> -m <BASE_MODEL>이 상태 그대로 입력하게 되면 위 에러 메세지를 받게 될 것입니다. 따라서, OpenAI의 GPT Fine-tuning을 위해서는 아래와 같이 명령어를 구성해서 보내야 합니다. openai --api-key YOUR_KEY api fine_tunes.create -t example_prepared.jsonl -m davinci