Commit
•
40bf01a
1
Parent(s):
05b79b4
Create README.md
Browse files
README.md
ADDED
|
@@ -0,0 +1,9 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# WMT2024に向けてお試してでen-ja翻訳にLlama2をファインチューングするために使ったデータセット
|
| 2 |
+
|
| 3 |
+
お試しで．Lllama2を翻訳タスクにファインチューングした際に使ったデータセットの一部です．
|
| 4 |
+
入出力のフォーマットの確認に使ってください．
|
| 5 |
+
学習したモデルは[こちら](https://huggingface.co/skim-wmt24/llama_wmt_dev_parallel_corpus_fintune_full_finetuning_seed_42)です．
|
| 6 |
+
|
| 7 |
+
注意点:
|
| 8 |
+
- 利用したTokenizerは[Lllama2-7b](https://huggingface.co/meta-llama/Llama-2-7b-hf)のものと同じです
|
| 9 |
+
- Traget側の末尾に，必ずtokenizer.eos_token_idを追加してください
|