HowtoAI
ai-guide2026-11-13 5 min read

NPU와 GPU 차이, AI 노트북에서 두 장치가 맡는 일은 달라요

🤖
HowtoAI 편집팀AI 전문 에디터

AI 기술을 누구나 쉽게 활용할 수 있도록 실전 가이드를 작성합니다. ChatGPT, Claude, AI 자동화, SEO 분야를 전문으로 다룹니다.

📅 2026-11-13⏱️ 5 min read🌐 how-toai.com
목차 보기

NPU와 GPU의 차이는 맡는 일에 있어요. 마이크로소프트 지원 문서는 GPU를 그래픽, 효과, 동영상, 게임 같은 그래픽 관련 작업을 처리하는 장치로 적어요. NPU는 CPU나 GPU보다 전력을 덜 쓰면서 AI 작업을 훨씬 더 효율적으로 처리하고, 그만큼 CPU와 GPU가 다른 작업을 할 수 있게 해 주는 장치로 적어요. 다만 Microsoft Learn 문서는 GPU도 AI 가속에 쓰는 장치로 함께 적어요. 그래서 AI 노트북 사양표에 두 이름이 나란히 있다면 일을 나눠 맡는 관계로 읽으면 돼요.

조건이 하나 붙어요. 40 TOPS라는 숫자는 NPU의 정의가 아니에요. Microsoft Learn 문서에서 이 숫자는 Copilot+ PC를 소개하는 문장과 많은 새 Windows AI 기능의 요구 조건에 나와요.

이 글은 2026년 11월 14일 오후 2시 23분(한국 시각)에 받은 문서 다섯 편을 바탕으로 썼어요. 마이크로소프트 지원의 NPU, GPU, CPU 설명 세 편(영어판과 한국어판), Microsoft Learn의 Copilot+ PC 개발자 가이드, Google Cloud의 Cloud TPU 소개 문서예요.

CPU, GPU, NPU가 맡는 일 한눈에 보기

마이크로소프트 지원 문서 세 편과 Learn 문서의 문장을 표로 옮기면 이래요.

장치문서가 적은 역할문서
CPU(중앙 처리 장치)뇌처럼 작동해 다른 구성 요소에 할 일을 알려 줌마이크로소프트 지원 CPU 문서
GPU(그래픽 처리 장치)그래픽 관련 작업을 처리. 예로 그래픽, 효과, 동영상, 게임. Learn 문서는 AI 가속에 쓰는 장치로도 함께 적음마이크로소프트 지원 GPU 문서, Microsoft Learn 문서
NPU(신경 처리 장치)대량의 데이터를 병렬로 처리. CPU나 GPU보다 전력을 덜 쓰고 AI 작업에서 훨씬 더 효율적마이크로소프트 지원 NPU 문서

CPU 문서는 프로세서가 GPU부터 디스크 드라이브와 화면까지 모든 것에 할 일을 알려 준다고 적어요. 이 문서가 그리는 그림에서 지시를 내리는 쪽은 CPU이고, GPU는 그 지시를 받는 구성 요소 가운데 하나로 나와요.

한국어판 표기도 알아 두면 좋아요. 마이크로소프트 한국어판 NPU 문서는 페이지 제목에 신경망 처리 장치, 본문에 신경 처리 장치라고 적어요. 둘 다 neural processing unit을 옮긴 말이에요.

GPU는 무엇을 맡나요

마이크로소프트 지원의 GPU 문서는 첫 문장에서 Windows 디바이스의 GPU가 그래픽 관련 작업을 처리한다고 적어요. 비디오 카드나 그래픽 카드라고도 부른다고 덧붙여요. 그래픽 관련 작업의 예는 네 가지예요.

  • 그래픽
  • 효과
  • 동영상
  • 게임

문서는 GPU의 기본 유형을 통합 GPU와 개별 GPU 두 가지로 나눠요. 한국어판은 영어 discrete GPU를 한 페이지 안에서 불연속 GPU와 개별 GPU 두 가지로 옮겨 적는데, 같은 것을 가리켜요. 문서에 실린 비교 표는 이래요.

항목통합 GPU개별 GPU
위치디바이스의 마더보드데스크톱은 추가 카드, 노트북과 태블릿은 통합 GPU에 더해 마더보드에 장착. Thunderbolt 또는 더 빠른 포트로 외부 GPU를 연결하기도 함
처리 능력더 가벼운 그래픽 작업더 무거운 그래픽 작업
비용덜 비쌈더 비쌈
전력 소비전력 효율이 더 높음전력 효율이 더 낮음
예시 작업일부 게임, 가벼운 비디오 편집, 가벼운 사진 편집게임, 더 무거운 비디오 편집, 더 무거운 사진 편집, 디자인 작업

노트북을 고르는 분에게 쓸모 있는 문장이 두 개 있어요. 문서는 통합 GPU 덕분에 노트북이 더 얇고 가볍고 전력 효율이 높아진다고 적어요. 그리고 노트북과 태블릿에도 개별 GPU가 마더보드에 직접 들어갈 수 있는데, 그때는 통합 GPU에 더해 들어가는 경우가 많다고 적어요. 이때 가벼운 그래픽 작업은 통합 GPU가, 무거운 그래픽 작업은 개별 GPU가 맡고, 작업에 따라 두 GPU를 오가면서 성능과 전력 효율의 균형을 맞춘다고 해요.

특정 앱이나 게임에 필요한 GPU 사양은 그 개발사의 웹사이트에서 확인하라는 팁도 문서에 있어요.

NPU는 무엇을 맡나요

마이크로소프트 지원의 NPU 문서는 짧아요. 디바이스의 NPU에는 사람 뇌의 신경망을 시뮬레이션하는 아키텍처가 있다고 소개한 다음, 다섯 줄로 특징을 적어요.

  • 대량의 데이터를 병렬로 처리하고 초당 수조 개의 작업을 수행해요.
  • CPU나 GPU보다 전력을 덜 쓰고 AI 작업에서 훨씬 더 효율적이에요.
  • AI 작업에 뛰어나고, CPU와 GPU가 다른 작업을 할 수 있게 해 줘요.
  • 실시간으로 빠른 AI를 제공해요. 문서는 음성 명령을 쓰거나 이미지를 빠르게 만드는 일을 이점의 예로 들어요.
  • 빠르게 작업하고 창의력을 발휘하는 데 도움이 된다고 적어요.

여기서 읽을 것은 비교의 기준이에요. 이 문서가 CPU, GPU와 견주어 적은 것은 전력과 AI 작업 효율이에요. 속도에 관한 문장도 있지만 그것은 CPU, GPU와 견준 문장이 아니에요.

Microsoft Learn의 Copilot+ PC 개발자 가이드(2025년 11월 17일 자)는 한 걸음 더 들어가요. 이 문서는 NPU를 실시간 번역과 이미지 생성 같은 AI 집약적 처리를 위한 특수 컴퓨터 칩이라고 부르고, AI 모델을 구성하는 딥 러닝 수학 연산을 실행하도록 특별히 설계되었다고 적어요.

같은 문서에 눈여겨볼 문장이 하나 있어요. NPU는 새로운 하드웨어 리소스이고, PC의 다른 하드웨어 리소스와 마찬가지로 소프트웨어가 그 이점을 쓰도록 특별히 프로그래밍되어야 한다는 문장이에요. NPU가 달려 있다는 것과 내가 쓰는 프로그램이 NPU를 쓴다는 것은 별개라는 뜻이에요. 문서는 Windows 11의 Copilot+ AI 기능이 NPU를 활용하도록 특별히 설계되었고, NPU를 대상으로 만든 AI 모델에서는 배터리 수명이 좋아지고 추론 실행 시간이 빨라진다고 적어요.

기기 안에서 AI를 돌린다는 것 자체가 궁금하다면 기기 안에서 도는 AI와 클라우드 AI의 차이를 다룬 글을 함께 보세요.

딥 러닝과 머신러닝이라는 두 낱말의 관계는 머신러닝 딥러닝 차이를 정리한 글에서 따로 다뤄요.

문서가 그리는 NPU, CPU, GPU의 관계

NPU가 있다고 CPU와 GPU가 쉬는 것은 아니에요. Learn 문서는 Qualcomm의 Snapdragon X Elite 칩을 설명하는 절에서 NPU가 CPU, GPU와 맞춰 작동하고, Windows 11이 빠르고 효율적인 성능을 내기 위해 처리 작업을 가장 적절한 곳에 할당한다고 적어요.

개발자가 AI 모델을 올릴 때의 순서도 같은 문서에 있어요. 문서는 AI 가속을 위해 NPU와 GPU에 접근하는 권장 방법이 Windows ML이라고 적고, Copilot+ PC에서 Windows ML로 AI 모델을 배포하면 이렇게 진행된다고 설명해요.

  1. Windows ML이 시스템에 어떤 하드웨어 가속기가 있는지 확인해요.
  2. 가장 성능이 좋은 실행 공급자를 골라요. 문서는 Qualcomm NPU용 QNN, Intel NPU용 OpenVINO를 예로 들어요.
  3. 실행 공급자가 자동으로 로드되고 추론이 시작돼요.
  4. 고른 실행 공급자가 실패하거나 쓸 수 없으면 다른 쪽으로 넘어가요. 문서는 GPU나 CPU를 쓰는 경우를 예로 들어요.

이 순서에서 두 가지를 읽을 수 있어요. 문서는 GPU도 AI 가속에 쓰는 장치로 함께 적어요. 그리고 우선 고른 실행 공급자를 쓸 수 없을 때 GPU나 CPU를 쓰는 쪽으로 넘어가는 길이 마련되어 있어요. 그러니 GPU는 그래픽만 한다고 칼같이 나누지 않는 편이 문서에 맞아요.

40 TOPS는 NPU의 정의가 아니라 Copilot+ PC 쪽 숫자예요

NPU 옆에 붙는 숫자로 TOPS가 있어요. Learn 문서는 Copilot+ PC를 초당 40조 번이 넘는 연산을 수행할 수 있는 고성능 NPU로 구동되는 새로운 종류의 Windows 11 하드웨어라고 소개해요. TOPS는 이 초당 조 단위 연산 횟수를 줄인 표기예요.

문서의 필수 조건 절은 많은 새 Windows AI 기능이 40 TOPS 이상으로 실행할 수 있는 NPU를 요구한다고 적어요. 이어지는 기기 목록에는 AMD Ryzen AI 300 시리즈와 Intel Core Ultra 200V 시리즈를 포함한 새 AMD, Intel 칩을 탑재한 Copilot+ PC가 들어 있어요.

정리하면 마이크로소프트 지원의 NPU 문서는 NPU를 설명하면서 40이라는 숫자나 TOPS라는 표기를 쓰지 않아요. 40 TOPS 이상은 Learn 문서에서 Copilot+ PC를 소개하는 문장과 많은 새 Windows AI 기능이 요구하는 NPU 조건으로만 나와요.

숫자를 넘긴 뒤에 기능마다 다시 붙는 조건은 Copilot+ PC 기능별 조건을 정리한 글에 따로 적어 두었어요.

NPU에 올리는 AI 모델은 왜 변환하나요

NPU 쪽에는 사양표에 잘 드러나지 않는 조건이 하나 더 있어요. 모델의 데이터 형식이에요. Learn 문서의 지원되는 모델 형식 절은 이렇게 적어요.

  • AI 모델은 FP32 같은 더 큰 데이터 형식으로 학습되고 제공되는 경우가 많아요.
  • 많은 NPU 디바이스는 성능과 전력 효율을 높이려고 INT8 같은 낮은 비트 형식의 정수 연산만 지원해요.
  • 그래서 NPU에서 실행하려면 AI 모델을 변환해야 하고, 문서는 이것을 양자화라고 불러요.
  • 이미 바로 쓸 수 있는 형식으로 변환된 모델도 많이 나와 있다고 해요.

주어를 그대로 읽어야 해요. 문서의 표현은 많은 NPU 디바이스예요. 모든 NPU가 정수 연산만 한다고 적은 것이 아니에요. 그리고 이 내용은 앱을 만드는 개발자를 위한 안내예요.

내 PC에 NPU가 있는지 보는 곳

Learn 문서는 NPU가 있는 디바이스에서는 작업 관리자로 NPU 리소스 사용량을 볼 수 있다고 적어요. 성능 측정 도구를 소개하는 절에서는 작업 관리자를 이렇게 설명해요.

  • 프로세스, 성능, 앱 기록, 시작 앱, 사용자, 세부 정보, 서비스를 볼 수 있어요.
  • CPU, 메모리, 스토리지 디스크, Wi-Fi, GPU의 실시간 성능 데이터가 표시되고, 이제 NPU도 표시돼요.
  • 데이터에는 사용률, 사용 가능한 메모리, 공유 메모리, 드라이버 버전, 물리적 위치 등이 들어 있어요.

그러니 작업 관리자에 CPU, GPU와 함께 NPU 항목이 보이는지를 먼저 확인하면 돼요. 문서에 따르면 그 항목에는 사용률이 실시간으로 표시돼요. 문서는 Windows 11의 NPU 지원에 Arm 기반 Qualcomm 디바이스와 Intel, AMD 디바이스가 포함된다고 적어요.

TPU는 또 무엇인가요

NPU와 GPU를 찾다 보면 TPU라는 이름도 만나요. 이쪽은 출처가 달라요. Google Cloud의 Cloud TPU 소개 문서(2026년 11월 10일 최종 업데이트)는 TPU를 Google이 직접 개발한 주문형 반도체(ASIC)로, 머신러닝 워크로드를 가속하는 데 쓴다고 소개해요. 머신러닝 알고리즘에 자주 나오는 대규모 행렬 연산을 수행하도록 설계된 하드웨어라고도 적어요.

쓰는 곳도 달라요. 문서는 TPU를 Compute Engine, Google Kubernetes Engine, Gemini Enterprise Agent Platform을 통해 쓸 수 있다고 적어요. 모두 Google Cloud의 서비스예요.

이 문서에는 클라우드에서 머신러닝 워크로드를 돌릴 때 CPU, GPU, TPU 가운데 무엇이 맞는지 고르는 지침이 있고, TPU 쪽에는 행렬 계산이 대부분인 모델과 몇 주에서 몇 달 동안 학습하는 모델 같은 경우가 적혀 있어요.

이 지침은 클라우드에서 머신러닝 워크로드를 돌리는 사람을 위한 것이라, 노트북 사양표의 GPU와 NPU를 고르는 기준으로 그대로 옮겨 쓸 수는 없어요. 이 글이 읽은 다섯 문서 가운데 TPU를 노트북의 NPU와 같은 것으로 적은 문서도 없어요. TPU는 Google Cloud 문서가 설명하는 Google의 칩, NPU는 마이크로소프트 문서가 설명하는 PC 안의 장치로 따로 기억해 두면 돼요.

AI 노트북 사양표는 이렇게 읽어요

위 문서들을 사양표에 대어 보면 순서가 잡혀요.

  1. GPU 칸에서는 통합 GPU만 있는지, 개별 GPU가 함께 있는지를 봐요. 마이크로소프트 문서 기준으로 일부 게임과 가벼운 사진, 비디오 편집은 통합 GPU의 예시 작업이고, 무거운 편집과 디자인 작업, 게임은 개별 GPU의 예시 작업이에요.
  2. NPU 칸에 TOPS 숫자가 적혀 있다면 그 숫자를 봐요. Learn 문서는 많은 새 Windows AI 기능이 40 TOPS 이상으로 실행할 수 있는 NPU를 요구한다고 적어요. 그런 기능을 쓰려는 것이라면 이 숫자를 넘는지 봐요.
  3. 쓰려는 프로그램이 정해져 있다면 그 프로그램의 요구 사양을 개발사 웹사이트에서 확인해요. GPU 문서의 팁이 이것이고, NPU도 소프트웨어가 따로 대응해야 이점을 쓴다고 Learn 문서가 적어요.
  4. 구입한 뒤에는 작업 관리자에서 NPU 항목이 보이는지 확인해요.

주의할 점

  • 마이크로소프트 NPU 문서가 CPU, GPU와 비교한 것은 전력과 AI 작업 효율이에요. 이 글이 읽은 다섯 문서에는 NPU와 GPU의 속도를 숫자로 비교한 문장이 없어요.
  • 40 TOPS 이상은 Learn 문서에서 Copilot+ PC를 소개하는 문장과 많은 새 Windows AI 기능의 요구 조건에 나와요. NPU의 정의가 아니에요.
  • 정수 연산만 지원한다는 설명의 주어는 많은 NPU 디바이스예요. 모든 NPU에 해당하는 말로 넓히면 문서와 달라져요.
  • Learn 문서는 스스로 Copilot+ PC에 한정된 지침이라고 밝혀요. Windows ML의 진행 순서와 모델 형식 설명은 그 범위 안의 이야기예요.
  • Google Cloud 문서의 CPU, GPU, TPU 구분은 클라우드의 머신러닝 워크로드에 대한 지침이에요.
  • 문서마다 날짜가 달라요. Learn 문서는 화면에 2025년 11월 17일 최종 업데이트로 적혀 있고, Google Cloud 문서는 2026년 11월 10일 최종 업데이트예요. 마이크로소프트 지원 문서 세 편은 화면에 날짜가 표시되지 않아서 적지 않았어요.

정리하며

NPU와 GPU의 차이는 맡는 일이에요. 마이크로소프트 문서 기준으로 GPU는 그래픽, 효과, 동영상, 게임 같은 그래픽 관련 작업을 처리하고, NPU는 CPU나 GPU보다 전력을 덜 쓰면서 AI 작업을 더 효율적으로 처리해요. CPU는 다른 구성 요소에 할 일을 알려 주는 자리에 있어요. Learn 문서는 GPU도 AI 가속에 쓰는 장치로 적고, Snapdragon X Elite 칩을 설명하면서 NPU가 CPU, GPU와 맞춰 작동한다고 적어요. 우선 고른 실행 공급자를 쓸 수 없을 때 GPU나 CPU로 넘어가는 길도 있어요. 40 TOPS 이상은 Learn 문서에서 Copilot+ PC를 소개하는 문장과 많은 새 Windows AI 기능의 요구 조건에 나와요. 내 PC의 NPU는 작업 관리자에서 볼 수 있어요.

기기 안에서 도는 AI가 클라우드 AI와 어떻게 다른지는 기기 안에서 도는 AI와 클라우드 AI의 차이를 다룬 글을, 숫자를 넘긴 뒤 기능마다 붙는 조건은 Copilot+ PC 기능별 조건을 정리한 글을 함께 보세요.

함께 보면 좋은 글

❓ 자주 묻는 질문 (FAQ)

NPU와 GPU는 무엇이 다른가요?

마이크로소프트 지원 문서 기준으로 맡는 일이 달라요. GPU 문서는 Windows 디바이스의 GPU가 그래픽 관련 작업을 처리한다고 적고 그래픽, 효과, 동영상, 게임을 예로 들어요. NPU 문서는 NPU가 CPU나 GPU보다 전력을 덜 쓰고 AI 작업에서 훨씬 더 효율적이며, CPU와 GPU가 다른 작업을 할 수 있게 해 준다고 적어요. Microsoft Learn 문서는 AI 가속에 접근하는 대상으로 NPU와 GPU를 함께 적어요.

NPU가 GPU보다 빠른 건가요?

마이크로소프트 NPU 문서가 CPU, GPU와 비교해 적은 것은 전력과 AI 작업 효율이에요. 더 적은 전력을 쓰고 AI 작업에서 훨씬 더 효율적이라는 문장이고, 속도를 숫자로 비교한 문장은 이 글이 읽은 다섯 문서에 없어요. Learn 문서는 NPU를 대상으로 만든 AI 모델에서 배터리 수명이 좋아지고 추론 실행 시간이 빨라진다고 적어요.

40 TOPS가 안 되면 NPU가 아닌가요?

마이크로소프트 지원의 NPU 문서는 NPU를 설명하면서 40이라는 숫자나 TOPS라는 표기를 쓰지 않아요. 40 TOPS 이상은 Microsoft Learn의 Copilot+ PC 개발자 가이드에서 Copilot+ PC를 소개하는 문장과 많은 새 Windows AI 기능이 요구하는 NPU 조건으로 나와요. TOPS는 초당 조 단위 연산 횟수를 뜻하는 표기예요.

내 PC에 NPU가 있는지는 어디서 보나요?

Microsoft Learn 문서는 NPU가 있는 디바이스에서는 작업 관리자로 NPU 리소스 사용량을 볼 수 있다고 적어요. 작업 관리자에 CPU, 메모리, 스토리지 디스크, Wi-Fi, GPU와 함께 NPU의 실시간 성능 데이터가 표시된다고 해요.

NPU가 있으면 그래픽 카드 역할도 하나요?

마이크로소프트 지원 문서에서 그래픽, 효과, 동영상, 게임 같은 그래픽 관련 작업을 처리하는 장치는 GPU예요. NPU 문서는 NPU가 AI 작업에서 뛰어나고 CPU와 GPU가 다른 작업을 할 수 있게 해 준다고 적어요. NPU 문서에는 그래픽 작업을 NPU가 맡는다는 문장이 없어요.

TPU는 NPU와 같은 건가요?

Google Cloud 문서는 TPU를 Google이 직접 개발한 머신러닝 가속용 칩으로 소개하고, Compute Engine 같은 Google Cloud 서비스를 통해 쓴다고 적어요. 이 문서의 CPU, GPU, TPU 구분은 클라우드에서 머신러닝 워크로드를 돌릴 때의 지침이에요. 이 글이 읽은 다섯 문서 가운데 TPU를 노트북의 NPU와 같은 것으로 적은 문서는 없어요.

📚 함께 읽으면 좋은 글 (Related Posts)

AI 사용법 가이드 더 보기 →
마크다운 뜻, 별표 두 개가 굵은 글씨로 안 바뀌고 남는 경우와 md 파일 여는 법
ai-guide2026-11-18

마크다운 뜻, 별표 두 개가 굵은 글씨로 안 바뀌고 남는 경우와 md 파일 여는 법

마크다운은 별표, 샵 같은 기호로 굵은 글씨와 제목을 표시하는 일반 텍스트 형식이에요. CommonMark 사양 0.31.2 규칙으로는 닫는 별표 두 개 바로 앞이 따옴표나 괄호 같은 구두점이고 바로 뒤에 글자가 붙으면 굵은 글씨가 되지 않고 별표가 그대로 남아요. md 파일은 일반 텍스트라서 텍스트 편집기로 열 수 있어요.

엑셀 파이썬은 따로 설치하지 않아요, PY 함수로 켜는 법과 쓸 수 있는 구독 조건
ai-tools2026-11-17

엑셀 파이썬은 따로 설치하지 않아요, PY 함수로 켜는 법과 쓸 수 있는 구독 조건

엑셀 파이썬(Excel의 Python)은 PC에 파이썬을 설치하지 않아도 돼요. Microsoft 지원 문서는 계산이 Microsoft 클라우드에서 실행된다고 적어요. 대신 적격 Microsoft 365 구독과 인터넷이 필요하고, Windows 엔터프라이즈·비즈니스는 현재 채널 버전 2408부터 쓸 수 있고, 가족·개인은 웹용 Excel 또는 Windows 현재 채널 버전 2405부터 미리 보기로 제공돼요.