Deep learning pc building ( 딥러닝 컴퓨터 사양 )

Research/DeepLearning 2015. 6. 6. 00:57

요즘 떠오르는 대세인 딥 러닝!

딥러닝의 이론도 중요하지만, 우리에게는 이러한 이론을 학습시킬 머신 또한 중요하다! 

(무조건 좋은 사양보다는, 불필요한 비용(cost)은 최적화 된 사양을 맞추는 것이 좋겠다!)

그래서 열심히 웹 자료들을 뒤져서 좋은 사양을 찾아 소개할까 한다.


일단 GPU는 꼭 사용하도록 하자! 

(왜 GPU를 사용하는가?는 NVIDIA의 홈페이지에서 확인 가능하다. http://www.nvidia.com/object/what-is-gpu-computing.html )

(어떤 GPU를 사용해야하는가? 는 http://www.nvidia.com/object/what-is-gpu-computing.html  에 몹시 정리가 잘 되어 있다!)


결론부터 이야기 하자면, 


GPU : GTX titanX (향후 3~6년은 거뜬할 12GB의 메모리!!)

(Nvidia CEO에 의하면 TitanX가 메모리를 많이 필요로 하는 deep learning에 특화되었다고 한다! [4])

(심지어 GTC 2015에서 TitanX를 강력 추천 때리기도..!! [5])

(GPU benchmark에 의하면 980Ti 가 성능이 더 좋은 것으로 나오긴 하지만.. 코어도 메모리도 titanX가 앞선다. (2816 -> 3,072, 6GB->12GB)


CPU : 

최근 새로 나온 하스웰 CPU들은 PCIe를 충분히 지원하지 않는 경우가 있으니 주의해야 한다.
(참고로 요새 많이 쓰이는 5820K 는 40이 아닌 28 , 4790K는 16 lane만 제공한다. 충분하지 않은 이유는 [6] 에서 참조하자!)

(그리고 마더보드의 PCIe 버전과 호환되는 지 확인!)

CPU 캐쉬 사이즈는 크게 중요하지는 않다.


RAM : 

asynchronous mini-batch allocation <- 요게 필수!

GPU 램보다 많게 유지하는 것도 중요함.

clock이나 크게 중요치 않다.


Hard/SSD : 

충분한 여유 공간을 남기도록 한다.



POWER : 

파워는 충분히

GPU(들)에 필요한 Watt + CPU에 필요한 Watt + 100~300 Watt

기왕이면 efficiency rate이 좋은 것이 아무래도 좋겠지!


Cooling : 

생각보다 cooling이 중요하다. Deep learning 연산 중 GPU의 온도는 금새 뜨거워지는데, GPU는 온도를 유지하기 위해 자체적으로 속도를 느리게 만들기 때문이다. BIOS 셋업을 통해 fan speed를 최고로 올리거나 (소음을 견딜 수 있다면..) 수냉 방식의 쿨러를 추가하는 방법(조금 어렵지만)이 있다. 


Motherboard : 

기본적으로 우리가 선택한 요소들이 호환되는 보드
GPU를 여러 개 사용하고 싶다면 충분한 PCIe 포트(3.0 으로!!)가 있는 것을 사용 (아직은 보통 4개의 GPU가 한계)
일반적으로 GPU의 크기가 상당한(2 포트를 차지할 정도로..) 경우가 많으므로 우리는 7개 이상의 포트가 준비된 마더보드가 좋겠다.


CASE : 

GPU 가 충분히 들어갈 공간
왠만하면 GPU가 위 쪽에 위치하면 좋겠다
나중에 수냉식 쿨러를 장착하게 될 지 모른다면 충분히 큰 케이스


*** 나 같은 경우에는 IEEE 1394 를 사용하기 위해 PCIe 1.0 을 사용할 필요가 있었다.
     그런데 PCIe 3.0 슬롯 에서도 호환이 잘 된다는(심지어 풀 퍼포먼스로) 기쁜 소식!! [7]





* Ref

[1] https://timdettmers.wordpress.com/2015/03/09/deep-learning-hardware-guide/

[2] https://timdettmers.wordpress.com/2014/08/14/which-gpu-for-deep-learning/

[3] http://www.nvidia.com/object/what-is-gpu-computing.html 

[4] http://www.zdnet.com/article/computex-2015-nvidia-talks-geforce-gtx-980-ti-android-gaming-and-self-driving-cars/

[5] http://hothardware.com/news/nvidia-ceo-jen-hsun-huang-keynote-titan-x-next-gen-pascal-arch-deep-learning-and-elon-musk

[6] http://superuser.com/questions/843344/what-is-a-pci-express-lane

[7] https://www.pcisig.com/news_room/faqs/pcie3.0_faq/#EQ6



설정

트랙백

댓글