본문 바로가기

Prompt/프롬프트 공부

Chat-GPT API 역할

API에서 역할

 

인터넷에서 쓸 수 있는 챗 GPT와 달리 API를 사용할 때는 몇 가지 지정이 필요하다.

첫 번째는 입력하는 message의 역할이다.

 

위의 관계도를 이해하기 전까지 꽤 헷갈렸었다.

API를 통해 GPT에게 응답을 받기 위한 기본 코드는 다음과 같다.

chat = openai.ChatCompletion.create(
	model = 'gpt-3.5-turbo',
	messages = messages, 
	temperature = 0
    )

reply = chat.choices[0].message.content

 

messages를 입력할 때 역할을 부여해서 입력하면

GPT응답의 형태 등을 원하는 대로 조정할 수 있다.

기본적으로는 'user'를 통해 질문을 하면 응답을 받을 수 있다.

만약 GPT에게 역할이나 전반적인 성격을 지정하려면 'system'을 활용한다.

One-shot, Few-shot 으로 응답의 형태를 지정하고 싶을 땐 'assistant'를 활용해서 출력 예시를 주면 된다.

 

message = [
{'role':'system','content':'you are an intellignet assistant.Do not explain.'},
{'role':'user','content':'"""Kind, Nife""" using those two words last alphabet. Put together'},
{'role':'assistant','content':'Answer: de'},
{'role':'user','content':'"""Self, Nife"""'}
]

System으로 GPT의 행동을 통제하고,

User를 통해 질문하고

Assistant로 응답의 형태를 지정한다.

User로 질문을 하면 Assistant로 응답해주는 것을 볼 수 있다.

API 응답

 

reply = chat.choices[0].message.content 를 통해 'content'안에 있는 응답만 출력하면서 마무리하면 된다.