NVIDIA가 VRAM 24GB 이상을 갖춘 RTX 그래픽카드의 로컬 AI 지원을 강화한다.

RTX 4090 24GB나 RTX 5090 32GB 같은 그래픽카드를 가지고 있다면, 앞으로 내 PC에서 AI를 직접 실행하기가 훨씬 편해진다는 이야기다.

NVIDIA는 llama.cpp와 vLLM을 최적화해 AI 모델을 실행하는 속도도 높였다.

RTX 5090에서는 일부 Qwen AI 모델의 성능이 기존보다 최대 1.9배 향상됐다고 밝혔다.

여기서 중요한 것은 게임 성능이 1.9배 올라간다는 뜻이 아니라, AI를 실행하는 속도가 최대 1.9배 빨라진다는 의미다.

또한 Hermes Agent, OpenClaw, Perplexity Computer 등을 통해 복잡한 AI 모델 설치와 설정도 간편하게 만들고 있다.

앞으로는 그래픽카드가 사용자의 GPU를 자동으로 인식하고, 적합한 AI 모델과 설정을 알아서 적용하는 방식으로 발전할 전망이다.

이번 발표의 핵심은 "VRAM 24GB 이상의 NVIDIA 그래픽카드를 가지고 있다면 로컬 AI를 더 쉽고 빠르게 사용할 수 있도록 지원하겠다"는 것이다.

특히 RTX 4090 24GB와 RTX 5090 32GB처럼 VRAM이 많은 그래픽카드가 로컬 AI용으로 더욱 주목받을 가능성이 있다.

NVIDIA의 llama.cpp·vLLM 최적화는 현재 바로 적용할 수 있다. 일부 AI 실행 프로그램인 LM Studio와 Ollama에서도 이용할 수 있다.

Perplexity Portable Computer는 2026년 9월부터 24GB 이상 VRAM의 NVIDIA RTX GPU를 지원하며, Windows 지원도 확대될 예정이다.

한줄요약 : 하핫 Vram 24기가 이상 그래픽카드는 앞으로 로컬LLM것이다. 겜붕이들은 꺼지도록(주륵)