Update app.py

app.py

@@ -19,6 +19,7 @@ def respond(input_text, system_message, max_tokens, temperature, top_p):
  **inputs,
  max_length=max_tokens, # 最大トークン数
  top_p=top_p, # nucleus sampling のパラメータ
+ do_sample=True, # サンプリングを有効にする
  temperature=temperature, # 生成の温度
  pad_token_id=tokenizer.eos_token_id
  )