CUDA & Nvidia Driver & cudnn 의 정의

AI서비스를 만드는 개발자라면 반드시 사용하고 있을 저 용어들,, 항상 모호하게 알고 있었던것 같아서 이번 기회에 한번 정리해보았다!

Nvidia Driver 

미국의 "엔비디아" 라는 회사는 AI에 대해서 잘 모르는 일반인도 주식.. 때문에 많이 들어보았을 것이다. 이 엔비디아에서 만든 그래픽 카드(GPU)를 사용하여 Deep Learning 모델의 복잡한 연산을 빠르게 연산할 수 있다는 것이 밝혀지면서, 엔비디아의 가파른 성장세가 두드러졌었다. 

여튼, 엔비디아에서 만든 그래픽 카드를 제어할 수있는 소프트웨어가 바로 nividia driver이다. 

• GPU를 컴퓨터에서 올바르게 인식하고 제어할 수 있도록 한다. 
• GPU의 하드웨어 리소스를 최적화하고, 그래픽 작업을 처리하기 위해 GPU에 명령을 전달하는 역할을 한다. 
• CUDA를 지원한다. (CUDA에 대한 설명은 후술함)

CUDA 

Computed Unified Device Architecture 의 약자로, C/C++ 프로그래밍 언어를 기반으로 한다. 

GPU에서 병렬 코드를 작성하고 실행할 수 있는 도구를 제공한다. 

• CUDA 는 GPU 컴퓨팅에서 일종의 컴파일러(인간의 언어에 가까운 고급언어로 작성된 프로그램을 기계어로 된 목적 프로그램으로 변환하는 역할) 역할을 한다.
• CUDA를 사용하기 위해서는 Nvidia에서 제공하는 CUDA Toolkit을 설치해야한다. 

cuDNN

cuda deep neural network library 의 약자로,  딥러닝 및 인공신경망 프레임 워크를 가속화 하기 위한 라이브러리이다. 

pytorch, tensorflow 등, 기타 프레임워크와 통합되어 사용자가 프레임워크에서 cuDNN을 사용하여 모델을 개발하고 실행할 수 있도록 한다.