shirayukikun
commited on
Commit
•
40bf01a
1
Parent(s):
05b79b4
Create README.md
Browse files
README.md
ADDED
@@ -0,0 +1,9 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
# WMT2024に向けてお試してでen-ja翻訳にLlama2をファインチューングするために使ったデータセット
|
2 |
+
|
3 |
+
お試しで.Lllama2を翻訳タスクにファインチューングした際に使ったデータセットの一部です.
|
4 |
+
入出力のフォーマットの確認に使ってください.
|
5 |
+
学習したモデルは[こちら](https://huggingface.co/skim-wmt24/llama_wmt_dev_parallel_corpus_fintune_full_finetuning_seed_42)です.
|
6 |
+
|
7 |
+
注意点:
|
8 |
+
- 利用したTokenizerは[Lllama2-7b](https://huggingface.co/meta-llama/Llama-2-7b-hf)のものと同じです
|
9 |
+
- Traget側の末尾に,必ずtokenizer.eos_token_idを追加してください
|