๋„๋ฉ”์ธ์— ๋”ฐ๋ฅธ ์Šคํƒœํ‚น(Stacking) ๊ฐœ๋… ์ •๋ฆฌ, (ML/DL, Network, Battery)
๋ณธ๋ฌธ ๋ฐ”๋กœ๊ฐ€๊ธฐ
์•Œ์“ธ์‹ ์žก

๋„๋ฉ”์ธ์— ๋”ฐ๋ฅธ ์Šคํƒœํ‚น(Stacking) ๊ฐœ๋… ์ •๋ฆฌ, (ML/DL, Network, Battery)

by ์ผ์ƒ์„ ๊ณต์œ ํ•จ๋‹ˆ๋‹ค 2022. 12. 13.

Stack ์€ ์ผ๋ฐ˜์ ์œผ๋กœ ์Œ“์•„๋‘” ๋ชจ์–‘, ๋˜๋Š” "์Œ“๋‹ค", "์Œ“์ด๋‹ค"๋ผ๋Š” ๋™์‚ฌ๋กœ ์ปดํ“จํ„ฐ ์ž๋ฃŒ๊ตฌ์กฐ์˜ ํ•˜๋‚˜๋กœ ์•Œ๋ ค์ ธ ์žˆ๋‹ค. ํ•˜์ง€๋งŒ Stacking ์€ Stack์„ ๊ธฐ๋ฐ˜์œผ๋กœ ๋‹ค์–‘ํ•œ ๋„๋ฉ”์ธ์—์„œ ์‘์šฉ๋˜์–ด ์‚ฌ์šฉ๋˜๊ณ  ์žˆ๋‹ค.

 

๋จธ์‹ ๋Ÿฌ๋‹, ๋”ฅ๋Ÿฌ๋‹์—์„œ์˜ ์Šคํƒœํ‚น ์•Œ๊ณ ๋ฆฌ์ฆ˜

์Šคํƒœํ‚น(Stacking)์€ ์—ฌ๋Ÿฌ ๊ฐ€์ง€ ๋ชจ๋ธ๋“ค์˜ ์˜ˆ์ธก ๋ฐ์ดํ„ฐ๋ฅผ ์ตœ์ข… ๋ชจ๋ธ์˜ ํ•™์Šต ๋ฐ์ดํ„ฐ๋กœ ์‚ฌ์šฉํ•˜๋Š” ์˜ˆ์ธก ๋ฐฉ๋ฒ•์œผ๋กœ ๊ฐœ๋ณ„ ๋ชจ๋ธ์ด ์˜ˆ์ธกํ•œ ๊ฒฐ๊ณผ ๋ฐ์ดํ„ฐ๋ฅผ ๋‹ค์‹œ meta dataset์œผ๋กœ ์‚ฌ์šฉํ•ด์„œ ํ•™์Šต์„ ํ•˜์—ฌ ์ตœ์ข… ๊ฒฐ๊ณผ๋ฅผ ์˜ˆ์ธกํ•˜๋Š” ๋ฐฉ๋ฒ•์ด๋‹ค.

๋‹จ์ผ ๋ชจ๋ธ์„ ํ†ตํ•ด ์˜ˆ์ธกํ•œ ๊ฒฐ๊ณผ๋ณด๋‹ค ์šฐ์ˆ˜ํ•œ ์„ฑ๋Šฅ์„ ๋ณด์ด๋Š” ์žฅ์ ์ด ์žˆ๋Š” ๋ฐ˜๋ฉด Overfitting(๊ณผ์ ํ•ฉ, ๊ณผ๋Œ€์ ํ•ฉ)์ด ๋ฐœ์ƒํ•œ๋‹ค.

 

๋„คํŠธ์›Œํฌ ์žฅ๋น„๋ฅผ ์—ฐ๊ฒฐํ•˜๋Š” ์Šคํƒœํ‚น ๊ธฐ์ˆ 

์Šคํƒœํ‚น์„ ์‚ฌ์šฉํ•˜๋ฉด ์—ฌ๋Ÿฌ ๋””๋ฐ”์ด์Šค๋ฅผ ๊ด€๋ฆฌํ•  ํ•„์š” ์—†์ด ๋„คํŠธ์›Œํฌ ์šฉ๋Ÿ‰์„ ํ™•์žฅํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
(๋„คํŠธ์›Œํฌ ์žฅ๋น„์ธ ์Šค์œ„์น˜๋ฅผ Stack์œผ๋กœ ์Œ“์•„์„œ ํ•˜๋‚˜์˜ ์žฅ๋น„์ฒ˜๋Ÿผ ๋™์ž‘ํ•˜๊ฒŒ ํ•˜๋Š” ๊ธฐ์ˆ ์ž…๋‹ˆ๋‹ค.)

์Šคํƒ์˜ ์ „์ฒด ์„ฑ๋Šฅ์— ์˜ํ–ฅ์„ ์ฃผ์ง€ ์•Š๊ณ  ์Šคํƒ์—์„œ ํ•„์š”์— ๋”ฐ๋ผ ์Šคํƒ์„ ์ถ”๊ฐ€ํ•˜๊ฑฐ๋‚˜ ์ œ๊ฑฐํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ํ† ํด๋กœ์ง€์— ๋”ฐ๋ผ ์Šคํƒ ๋‚ด์˜ ๋งํฌ ๋˜๋Š” ์œ ๋‹›์— ์˜ค๋ฅ˜๊ฐ€ ๋ฐœ์ƒํ•˜๋”๋ผ๋„ ์Šคํƒ์—์„œ ๊ณ„์† ๋ฐ์ดํ„ฐ๋ฅผ ์ „์†กํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋”ฐ๋ผ์„œ ์Šคํƒœํ‚น์ด ํšจ๊ณผ์ ์ด๊ณ  ์œ ์—ฐํ•˜๋ฉฐ ํ™•์žฅ ๊ฐ€๋Šฅํ•œ ์†”๋ฃจ์…˜์œผ๋กœ ๋„คํŠธ์›Œํฌ ์šฉ๋Ÿ‰์„ ํ™•์žฅํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

 

๋ฐฐํ„ฐ๋ฆฌ ์ œ์กฐ ๊ณต์ •์˜ ์Šคํƒœํ‚น

์Šคํƒœํ‚น(stacking)์€ ๋ฐฐํ„ฐ๋ฆฌ ์†Œ์žฌ๋ฅผ ์ผ์ • ๊ธธ์ด๋กœ ์ž๋ฅธ ํ›„(notch) ์ด๋ฅผ ์Œ“๋Š” ๋ฐฉ๋ฒ•์œผ๋กœ ๋ฐฐํ„ฐ๋ฆฌ๋ฅผ ๋งŒ๋“œ๋Š” ๊ธฐ์ˆ ์ด๋‹ค. ๋ง ๊ทธ๋Œ€๋กœ ๋ฐฐํ„ฐ๋ฆฌ์˜ ์–‘๊ทน์žฌ, ์Œ๊ทน์žฌ, ๋ถ„๋ฆฌ๋ง‰์ด ํ•ฉ์ณ์ง„ ๊ฐœ๋ณ„ ์…€์„ ์ธต์ธต์ด ์Œ“๋Š” ๋ฐฉ์‹์ด๋‹ค. ์…€ ์ˆ˜์‹ญ ๊ฐœ๋ฅผ ์Œ“์•„ ์˜ค๋ ค ํ•˜๋‚˜์˜ ๋ฐฐํ„ฐ๋ฆฌ๋ฅผ ์™„์„ฑํ•˜๋Š”๋ฐ ์ด๋Š” ์™€์ธ๋”ฉ ๋ฐฉ์‹ ๋Œ€๋น„ ์—๋„ˆ์ง€ ๋ฐ€๋„์™€ ๋‚ด๊ตฌ์„ฑ์— ์žฅ์ ์ด ์žˆ๋‹ค๋Š” ํ‰๊ฐ€์ด๋‹ค. 

์Šคํƒœํ‚น ๊ณต์ •์€ ์—๋„ˆ์ง€ ๋ฐ€๋„๊ฐ€ ๋‚ฎ๋‹ค๋Š” ๊ฐํ˜• ๋ฐฐํ„ฐ๋ฆฌ์˜ ๋‹จ์ ์„ ์—†์•ค๋‹ค. ๋˜ ์žฅ์‹œ๊ฐ„ ์ถฉ·๋ฐฉ์ „์„ ๊ฑฐ๋“ญํ•˜๋ฉด ๋’คํ‹€๋ฆผ์ด ๋ฐœ์ƒํ•ด ๋ฐฐํ„ฐ๋ฆฌ๊ฐ€ ๋ถ€ํ’€์–ด ์˜ค๋ฅด๋Š” ์™€์ธ๋”ฉ ๋ฐฉ์‹์˜ ๋ฐฐํ„ฐ๋ฆฌ์™€ ๋น„๊ตํ•ด ๋‚ด๊ตฌ์„ฑ์ด ๋›ฐ์–ด๋‚˜๋‹ค. ๋˜ ์ ์ธต ๊ตฌ์กฐ๋กœ ์‚ฌ๊ฐํ˜•์˜ ๋ฐฐํ„ฐ๋ฆฌ ์ผ€์ด์Šค ๊ณต๊ฐ„์„ ์ตœ๋Œ€๋กœ ํ™œ์šฉํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ์žฅ์ ์ด ์žˆ๋‹ค.

๋Œ“๊ธ€