카카오가 ChatGPT에 사용된 언어 모델을 기반으로 KoGPT라는 서비스를 내놓고 API를 공개했습니다. 지난해 10월이니 따끈따끈한 API입니다. 월 1000건(결과 개수 기준)까지는 무료고요.
이 영상은 제가 KoGPT를 학습하고 간단하게 API 통신을 하는 과정을 담은 영상입니다. GPT에 대해 전혀 모르는 상태에서 공부하는 과정까지 담았습니다. 같이 공부한다는 느낌으로 보실 수 있을 겁니다.
공부를 해 보니 GPT API에서 사용하는 변수는 아래 4가지입니다.
prompt– GPT가 이어서 쓸 수 있게 제시해 주는 문장입니다. 응용이 가능한데, “한 줄 요약:”으로 문장을 끝내면 GPT는 한 줄 요약으로 문장을 어어서 씁니다.token– 의미 단위, 질문/답변 합해서 2048 토큰을 넘길 수 없습니다. 답변 길이를max_tokens파라미터로 지정합니다.temperature– 0초과 1이하 실수. 높을수록 후보 토큰을 고르는 자유도가 높아집니다. 높을수록 창의적(주제와 상관없는 이야기를 많이 합니다).- 상위 확률(
top_p) – 0이상 1이하 실수. 높을수록 후보 토큰의 개수가 많아집니다. 높을수록 창의적(주제와 상관없는 이야기를 많이 합니다).
댓글 남기기