Function Calling https://openai.com/blog/function-calling-and-other-api-updates Function calling and other API updates We’re announcing updates including more steerable API models, function calling capabilities, longer context, and lower prices. openai.com OpenAI는 올해 7월부터 API에서 function calling 기능을 추가한다고 발표했다. 이것은 이름 그대로 사용자가 정의한 함수를 호출할 수 있는 기능인데, 독특한 것은 함수의 호출을 사용자가 판단하는 것이 아니라 언어 모델이 판단한다는 것이..
OpenAI
Rate Limits Rate Limit이란 말 그대로 API 요청의 속도를 제한한다는 뜻이다. 무료로 사용하는 것도 아니고, 돈을 지불하고 쓰겠다는데 속도 제한을 걸 이유가 있을까?라고 생각할 수도 있겠지만, 서비스를 운영하면 생각보다 이상한 사람들이 많다. 특히나 OpenAI같이 글로벌한 서비스를 운영하려면 온갖 공격으로부터 방어를 해야한다. 예를 들어, API요청을 엄청나게 많이 보내서 서버를 다운시킨 다음, 자신들의 서비스를 2배의 가격으로 제공할 수도 있을 것이다. 어쨌든, 이러한 공격들로부터 방어하여 서비스를 안정적으로 운영하기 위해서 Rate Limit을 만든 것이다. Rate Limit은 3가지가 존재한다. 가장 먼저 RPM은 Requests Per Minute의 약자로, 1분동안 보낸 요..
ChatCompletion 이전 글에서 OpenAI API를 소개하면서 ChatCompletion을 사용해보았다. ChatCompletion은 말 그대로 대화를 완성해주는 것이다. GPT 같은 생성형 언어모델은 이전 대화의 내용들을 입력하면 다음에 어떤 말을 할 것인지 예측한다. 따라서 API에 이전 대화 내용을 입력하면 다음 내용을 출력해주는데, 이러한 API를 쉽게 사용할 수 있도록 만든 것이 ChatCompletion이다. response = openai.ChatCompletion.create( model="gpt-3.5-turbo", messages=[ {"role": "user", "content": "GPT-3.5 모델에 대해 설명해줘"} ] ) GPT-3.5는 OpenAI가 개발한 자연어 처..
OpenAI API ChatGPT로 유명한 OpenAI에서는 다양한 모델을 사용할 수 있는 API를 제공하고있다. OpenAI에서 제공하는 ChatGPT와 DallE 서비스가 존재하지만, OpenAI의 다양한 모델들을 사용해 자신만의 서비스를 만들어보고 싶은 개발자들을 위해 API를 공개해 주었다. 기본적으로 유료이지만, 처음 가입하면 3개월동안 사용할 수 있는 5달러의 크레딧을 받을 수 있다. GPT-3.5 Turbo 모델 기준 1000개의 토큰당 0.0015달러, 한화로 2원정도이기 때문에 간단한 테스트를 해보기에는 충분할 것이다. 아래 링크를 클릭하면 OpenAI API 페이지로 갈 수 있다. https://platform.openai.com/ OpenAI Platform Explore develo..
