import time import json import pandas as pd import gradio as gr import openai from src.semantle import get_guess, get_secret, get_puzzle_num from src.functions import get_functions GPT_MODEL = "gpt-3.5-turbo" TITLE = "やりとりxイミトル" with open("data/rule.md", "r", encoding="utf-8") as f: RULEBOOK = "\n".join(f.readlines()) def get_rulebook(): return RULEBOOK def _execute_function(function_call, chat_messages, guess_result): # Step 3: call the function # Note: the JSON response may not always be valid; be sure to handle errors available_functions = { "guess_word": get_guess, "lookup_answer": get_secret, "retrieve_puzzle_num": get_puzzle_num, "read_rule": get_rulebook, } function_name = function_call["name"] function_to_call = available_functions[function_name] function_args = json.loads(function_call["arguments"]) function_response = function_to_call( **function_args ) if function_call["name"] == "guess_word": guess_result = function_response print("response: ", function_response) # Step 4: send the info on the function call and function response to GPT chat_messages.append( {"role": "function", "name": function_name, "content": f"{function_response}"} ) # extend conversation with function response next_response = openai.ChatCompletion.create( model=GPT_MODEL, messages=chat_messages, functions=get_functions(), temperature=0.5 ) # get a new response from GPT where it can see the function response chat_messages.append(next_response.choices[0].message.to_dict()) return next_response.choices[0].message.to_dict(), chat_messages, guess_result def create_chat(system_input, user_input, guess_result=dict()): chat_messages = [] for s in system_input: chat_messages.append({"role": "system", "content": s}) chat_messages.append({"role": "user", "content": user_input}) response = openai.ChatCompletion.create( model=GPT_MODEL, messages=chat_messages, functions=get_functions(), temperature=0.5 ) response_message = response.choices[0].message.to_dict() chat_messages.append(response_message) # extend conversation with assistant's reply # Step 2: check if CPT wanted to call a function while response_message.get("function_call"): # Step 3: call the function # Note: the JSON response may not always be valid; be sure to handle errors response_message, chat_messages, guess_result = _execute_function(response_message["function_call"], chat_messages, guess_result) print(chat_messages) return response_message, chat_messages, guess_result with gr.Blocks() as demo: with gr.Row(): gr.Markdown( """ # やりとりxイミトル 「イミトル」は[semantle日本語版](https://semantoru.com/)の名前で、こちらはイミトルをassistantと楽しめるspaceです。 #### ゲームのやり方 - 正解は一つの単語で、これを答えるとゲームの勝利になります。 - 推測した単語が正解じゃない場合、類似度スコアと順位が表示されます。それは正解を推測する大事なヒントになります。 #### assistantの仕事 - 単語のスコアとランク以外に他のヒントがもらえます。 - ゲームに関して困っている時、何か質問してみてください。 #### ご了承のお願い - ゲームをするため、openaiのapiが必要です。答えによって少々tokenを使うようになります。 """ ) with gr.Row(): with gr.Column(): api_key = gr.Textbox(placeholder="sk-...", label="OPENAI_API_KEY", value=None, type="password") idx = gr.State(value=0) guessed = gr.State(value=set()) guesses = gr.State(value=list()) cur_guess = gr.JSON(visible=False) history = gr.State(list()) guesses_table = gr.DataFrame( value=pd.DataFrame(columns=["i", "guess", "sim", "rank"]), headers=["i", "guess", "score", "rank"], datatype=["number", "str", "number", "str"], elem_id="guesses-table", interactive=False ) with gr.Column(elem_id="chat_container"): msg = gr.Textbox( placeholder="ゲームをするため、まずはAPI KEYを入れてください。", label="答え", interactive=False, max_lines=1 ) chatbot = gr.Chatbot(elem_id="chatbot") def unfreeze(): return msg.update(interactive=True, placeholder="正解と思う言葉を答えてください。") def reset_history(): return list() def greet(key, gradio_messages): openai.api_key = key system_input = [get_rulebook(), "あなたは「イミトル」というゲームの進行役です。ユーザーが答えをするところです。よろしくお願いします。"] user_input = "" reply, _, _ = create_chat(system_input, user_input, guess_result=dict()) gradio_messages.append(("", reply["content"])) # gradio_messages.append(("", f"今日のゲームのパズル番号は{get_puzzle_num()}です。それでは、始めましょう！言葉を当ててみてください。")) time.sleep(2) return gradio_messages def respond(user_input, gradio_messages, guess_result=dict()): system_input = [get_rulebook(), """あなたは「イミトル」というゲームの進行役です。 正解を教えるとゲームが終わるなので、ユーザーが正解を答える前にあなたから正解を伝えたらダメです。 普段、ユーザーは答えをしますが、たまにゲームに関するヒントをリクエストをします。短く答えてください。 """] _user_input = "答え:" + user_input reply, messages, guess_result = create_chat(system_input, _user_input, guess_result=dict()) gradio_messages.append((user_input, reply["content"])) time.sleep(2) return gradio_messages, guess_result def update_guesses(cur, i, guessed_words, guesses_df): if cur.get('guess') and cur['guess'] not in guessed_words: guessed_words.add(cur['guess']) if cur['sim']: cur['sim'] = round(cur['sim'], 2) cur['i'] = i guesses_df.loc[i] = cur i += 1 guesses_df = guesses_df.sort_values(by=["sim"], ascending=False) return i, guessed_words, guesses_df api_key.change(unfreeze, [], [msg]).then(reset_history, [], [history]).then(greet, [api_key, chatbot], [chatbot]) msg.submit(respond, [msg, chatbot, cur_guess], [chatbot, cur_guess]) cur_guess.change(update_guesses, [cur_guess, idx, guessed, guesses_table], [idx, guessed, guesses_table]) gr.Examples( [ ["猫"], ["どんなヒントが貰える？"], ["正解と「近い」とはどういう意味？"], ["何から始めたらいい？"], ["今日の正解は何？"], ], inputs=msg, label="こちらから選んで話すこともできます." ) if __name__ == "__main__": demo.queue(concurrency_count=20).launch() # demo.queue(concurrency_count=20).launch()