はじめに
Azure OpenAI のChatGPT が利用できるようになったので遊んで見たその後です。
何がその後かというとpythonでopenaiを利用する場合、今後はChatMLではなくChat Completionsに代わっていくことでしょう。ChatMLはGPT-4で利用できません。そこで変更を行っていきます。
変更
Chat Completionsで利用するにはAPIバージョンを2023-03-15-previewに変更します。
またChatCompletionに変更し、promptではなくmessagesになります。
あとレスポンスの形式が変わります。
print(response)で全部出力して確認してもよいと思います。
import os
import openai
openai.api_type = "azure"
openai.api_base = os.getenv("OPENAI_API_BASE")
openai.api_version = "2023-03-15-preview"
openai.api_key = os.getenv("OPENAI_API_KEY")
response = openai.ChatCompletion.create(
engine="gpt-4",
messages = [{"role":"user","content":"こんにちは"}],
temperature=0.7,
max_tokens=800,
top_p=0.95,
frequency_penalty=0,
presence_penalty=0,
stop=None)
print(response['choices'][0]['message']['content'])
まとめ
今後はChat Completions一択になっていくことでしょう。
