์ด๊น์์ด ์ฐพ์์ค๋ ~ ๊ทธ๋ฐ๋ฐ ๋ฒ์จ ๊ธ์์ผ์ด์ผ ๊ฑฐ์ง๋ง ๊ฐ์ ์๊ฐ์ด ์์ฃผ ๋งค์ญ๊ฒ ํ ํ ์ง๋๊ฐ๋ค ๋ ์จ๋ ์ด์ง์ฟต ํ๋ฆฐ ๊ฒ ๊ฐ์ง? ์ด์ฝ์ก์ด ๋จน๊ตฌ์ญ๋ค ์ค๋์ ์ ๊ฒฝ๋ง์ ์ค์ ๋ก ํ๋ จํ๋ ๋ฐฉ๋ฒ! ์ ๋ํด ์์๋ณผํ ๋ค. ์น์ ์ ๋๋ก ๋๋์ด ์งํํ ํ ๋ฐ, ์ด๋ฒ ํฌ์คํ ์์๋ ์ฒซ๋ฒ์งธ์ ํด๋นํ๋ One time setup์ ๊ดํด ๋ค๋ฃฐ ๊ฒ์ด๋ค. ๋ค์ ํฌ์คํ ์์๋ 11๊ฐ์ธ 2, 3์ ๋ํด์ ์จ๋ณผ๊ฒ์. [Activation Functions] ํ์ฑํ ํจ์๋ ์ธ๊ณต์ ๊ฒฝ๋ง์์ ์ค์ํ ๊ตฌ์ฑ ์์๋ก, ๋ชจ๋ธ์ nonlinearity๋ฅผ ๋ถ์ฌํ๋ ์ญํ ์ ํ๋ค. ๊ธฐ๋ณธ์ ์ผ๋ก ํ์ฑํํจ์๊ฐ ์ด์ layer์ ์ ๋ ฅ๋ค์ ๊ฐ์ค ํฉ์ ์์ฉํ ํ ๊ฒฐ๊ณผ๋ฅผ ๋ค์ layer๋ก ์ ๋ฌํด์ฃผ๋๋ฐ, ์ด๋ฐ ํ์ฑํ ํจ์๊ฐ ์กด์ฌํ์ง ์์ผ๋ฉด ๋คํธ์ํฌ๊ฐ ๋จ์ผ ์ ํ ๋ ์ด์ด๊ฐ ๋์ด ์ฒ๋ฆฌ ๋ฅ๋ ฅ์ด..
