kayla0913 commited on
Commit
3801460
โ€ข
1 Parent(s): c403cb9

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +2 -0
README.md CHANGED
@@ -31,3 +31,5 @@ base model์— Lora ์–ด๋Œ‘ํ„ฐ๋ฅผ ๋ถ™์—ฌ์„œ SFTtrainer๋ฅผ ํ†ตํ•˜์—ฌ
31
  ์ƒ์œ„ 1000๊ฐœ์˜ test_dataset์— ๋Œ€ํ•ด์„œ ์ถ”๋ก ์€ ํ•œ ๊ฒฐ๊ณผ๋Š” ์œ„์˜ ํ‘œ์™€ ๊ฐ™์Šต๋‹ˆ๋‹ค.
32
 
33
  -์ •ํ™•๋„ ํ–ฅ์ƒ์„ ์œ„ํ•˜์—ฌ test ๋ฐ์ดํ„ฐ์…‹์˜ ํฌ๊ธฐ๋ฅผ ๋Š˜๋ฆฌ๋ ค ํ•˜์˜€์œผ๋‚˜, GPU ์šฉ๋Ÿ‰ ์ œํ•œ์œผ๋กœ ์ธํ•˜์—ฌ ์ง€์†์ ์œผ๋กœ ์˜ค๋ฅ˜๊ฐ€ ๋ฐœ์ƒํ•˜์˜€์Šต๋‹ˆ๋‹ค.
 
 
 
31
  ์ƒ์œ„ 1000๊ฐœ์˜ test_dataset์— ๋Œ€ํ•ด์„œ ์ถ”๋ก ์€ ํ•œ ๊ฒฐ๊ณผ๋Š” ์œ„์˜ ํ‘œ์™€ ๊ฐ™์Šต๋‹ˆ๋‹ค.
32
 
33
  -์ •ํ™•๋„ ํ–ฅ์ƒ์„ ์œ„ํ•˜์—ฌ test ๋ฐ์ดํ„ฐ์…‹์˜ ํฌ๊ธฐ๋ฅผ ๋Š˜๋ฆฌ๋ ค ํ•˜์˜€์œผ๋‚˜, GPU ์šฉ๋Ÿ‰ ์ œํ•œ์œผ๋กœ ์ธํ•˜์—ฌ ์ง€์†์ ์œผ๋กœ ์˜ค๋ฅ˜๊ฐ€ ๋ฐœ์ƒํ•˜์˜€์Šต๋‹ˆ๋‹ค.
34
+
35
+ -์ •ํ™•๋„๋ฅผ ์˜ฌ๋ฆฌ๋Š” ๋ฐฉ๋ฒ•: seq_length๋ฅผ ํ‚ค์šด๋‹ค. 512 ์ •๋„๋กœ