๐ฌ ML & Data/โ Q & etc.
[Model Compression] ๋ชจ๋ธ ์์ํ(Model Optimization) with Tensorflow
๋ฅ๋ฌ๋ ๋ชจ๋ธ์ ๊ฒฝ๋ํํ๋ ๊ฒ์ ๋ชจ๋ธ ํ์ต ์ดํ ์ค์ ๋ฌธ์ ์ ๋ฅ๋ฌ๋ ํด๋ฒ์ ์ ์ฉํ๋ ๊ณผ์ ์ ์์ด์ ์คํ ์๊ฐ, ์์ธก์ ํ์ํ ๋ฆฌ์์ค ์๋ชจ๋์ ์ค์ด๊ธฐ ์ํด์ ํ์ํ ๊ณผ์ ์ด๋ค.๋ชจ๋ธ ๊ฒฝ๋ํ์๋ (๋ด๊ฐ ์๊ณ ์๊ธฐ๋ก๋) ์ธ ๊ฐ์ง ๋ฐฉ๋ฒ์ด ์๋๋ฐ,๋ชจ๋ธ ์์ํ(๋นํธ ์๋ฅผ ์ค์ด๋ ๋ฐฉ์)๋ชจ๋ธ pruning(์ค์ํ์ง ์์ ๋ถ๋ถ์ ๋ฒ๋ฆฌ๋ ๋ฐฉ์)๊ทธ๋ฅ ๋ชจ๋ธ ์ค๊ณ๋ฅผ ์ํ๊ธฐ์ค์ ์ด๋ฏธ ํ์ตํ ๋ชจ๋ธ์ ์์ด์ ๊ฐ์ฅ ์ฌ์ด ์์ํ๋ฅผ ์ฐ์ ํ๊ธฐ๋ก ๊ฒฐ์ ํ์๋ค. Tensorflow ๊ธฐ๋ฐ์ ๋ชจ๋ธ์ ์์ํํ๋ ์์ ๋ฅผ ๊ธฐ๋กํด๋๋ค.Tensorflow๋ก ๊ตฌ์ฑ๋์ด ํ์ตํ๊ณ ๊ฐ์ค์น๋ฅผ .h5 ํ์ฅ์๋ก ์ ์ฅํ ๋ชจ๋ธ1. ๋ชจ๋ธ ์์ํa. ๋ชจ๋ธ ๋ถ๋ฌ์ค๊ธฐimport tensorflow as tfmodel = your_model(parameter)model.load_wei..
[Math] Mathematics for Machine Learning 2. Linear Algebra
๊ทผ๋์ ์ ๋ง์ด์ง ์ํ ๊ณต๋ถ์ ํ์์ฑ์ ๋๊ปด์ MML ์ด๋ผ๋ ๋จธ์ ๋ฌ๋ ์ํ์ ๋ฐ์ด๋ธ ๊ฐ์ ์ฑ ์ผ๋ก ๊ณต๋ถ๋ฅผ ์์ํ๋๋ฐ... ์ผ๋จ ์์ด๊ณ (!), ์ฉ์ด๊ฐ ๋๋ฌด ๋ง๊ณ (!), ๋ด์ฉ๋ ์ด๋ ค์์ ์์ฃผ ์ ๋ฅผ ๋จน๊ณ ์๋ค. ์ด์ฐ์ ์ฐ ์ดํดํ๋ค๊ณ ์๊ฐํ๋๋ฐ ์ฐ์ต๋ฌธ์ ๋ฅผ ๋ณด๋๊น ๋ ์ด์ผ~ ๋ชจ๋ฅด๊ฒ ๊ณ ๋๋ฆฌ๋ค... ๋ต์์ง๋ฅผ ๋ด๋ ์ดํด๊ฐ ์ด๋ ค์ด ๋ถ๋ถ์ด ๋ง์์ ๊ผผ๊ผผํ๊ฒ ๊ฐ์ด๋ ๋ฐ๋ผ ๋์ธ๋ฒ ํ์ด๋ด์ผ ์ดํด๊ฐ ๋์ง ์ถ๋ค. ๊ทผ๋ฐ ๋๋ฌด ์ด๋ ต๋ค ใ ใ ... ์ ํ๋์ ๊ฐ์๋ฅผ ์๊ฐํ์๋๋ฐ๋ ๋ด๊ฐ ๋ค์๋ ์ ํ๋์ ๊ฐ์์ ๋ฒ์๋ณด๋ค ๋ ๋์ ๋ฏ ํ๋ค. ์๋ฌดํผ ์๋ ๋งํฌ๋ ์ฐธ๊ณ ํ ์ฌ์ดํธ ๋ฑ. ํ๊ตญ์ด ๋ฒ์ญ ํด์ฃผ์ ์ค๋ณ๋ ์ ๋ง ๊ฐ์ฌํฉ๋๋ค... ๋น๊ตํ๋ฉฐ ๋ณด๊ณ ์์ต๋๋ค... ๊ต์ฌ - pdf ๋ฌด๋ฃ ๊ณต๊ฐ(https://mml-book.github.io/book/mml-boo..
[Data] ์ ๋ ๋ชจํฐ ์ด์ํ์ง ๋ฐ ๋ถ๋ฅ๋ฅผ ์ํ ์ฃผํ์ ๋ถ์
1. ๋ฐ์ดํฐ ์ทจ๋ Sampling rate 25.6kHz DC Motor, ์์ฒด ์ ์ ์คํํ๊ฒฝ ๋ฐ์ดํฐ ํ์ผ ๋น 102,400๊ฐ ํฌ์ธํธ 2. FFT ๋ชจํฐ ์ฃผํ์ ๋ถ์ 1. Normal ์ ์์ํ ๋ชจํฐ์ ์ฃผํ์๋ ์ง๋ ์ฐจ์(Harmonic)๊ฐ ๋ฐ๋น๋กํ๋ค. ํ์ฌ ์คํ ์ธํธ์ ๋ชจํฐ๋ ์ฝ 3600rpm์ ๊ฐ์ง๊ณ ์์ผ๋ฏ๋ก ์ง๋์ฐจ์๋ 1์ฐจ 60Hz, 2์ฐจ 120Hz, 3์ฐจ 180Hz๋ก ์ด๋ฃจ์ด์ ธ ์๋ค. ์ FFT ์ฃผํ์ ๋ถ์ ๊ฒฐ๊ณผ 1์ฐจ, 2์ฐจ, 3์ฐจ ์ง๋ ์ฐจ์ ์์ผ๋ก amplitude๊ฐ ๊ฐ์ํ๋ ๊ฒ์ ํ์ธํ ์ ์๋ค. 2. Misalignment ์ค์ ๋ ฌ(Misalignment) ์ํ๋ Parallel Misalignment(์ง๋ฉด๊ณผ ๋ชจํฐ์ ์ถ์ ํํํ๋ ๋ฒ ์ด๋ง์ ๊ธฐ์ค์ผ๋ก ๋จ์ฐจ๊ฐ ์กด์ฌํ ๋)์ Angular Misalign..
[PyTorch] pretrained model load/save, pretrained model ํธ์ง
Load Pretrained model in pytorch Pretrained model pth๋ก ์ ์ฅ๋ torch pretrained model(weight)๋ฅผ ๋ถ๋ฌ์์ ์ฌ์ฉ weight์ ์ผ๋ถ๋ง ๋ถ๋ฌ์์ ์ฌ์ฉํ ์ ์๋ค. pth = dictionary ๋ก ๊ตฌ์ฑ๋๋ค. Get format pth ํ์ผ์ Dictionary ํํ๋ก ์ ์ฅ๋์ด ์๋ค. pytorch์ load๋ฅผ ํตํด์ ๋ถ๋ฌ์ฌ ์ ์๋ค. import torch model = torch.load('model.pth') print(model.keys()) model.keys() ๋ฅผ ์ฌ์ฉํด์ key ๊ฐ๋ค์ ๋ถ๋ฌ์ฌ ์ ์๋๋ฐ, ์ด๊ฒ์ผ๋ก ๋ชจ๋ธ ๊ตฌ์กฐ๋ฅผ ํ์ ํ ์ ์๋ค. ํ์ฌ ์์ ๋ก ์ฌ์ฉํ๊ณ ์๋ pth ํ์ผ์ mobilenet-ssd-v1 ๋ชจ๋ธ์ mAP 0..