현대 게이밍 PC에서 그래픽카드는 3D 애플리케이션의 그래픽 렌더링을 거의 전담합니다. 최근 게임을 비롯한 3D 애플리케이션은 점점 더 높은 사양을 요구하고 있으며, 이에 맞춰 그래픽카드 역시 빠른 속도로 발전해 왔습니다. PC 게이밍이 전성기를 맞이하면서 하드웨어에서 최대한의 성능을 끌어내려는 애호가들도 크게 늘었습니다.
PC 애호가들 사이에서는 오버클럭킹, 특히 그래픽카드 오버클럭킹이 매우 흔한 일입니다. 오버클럭킹은 최소한의 위험으로 GPU에서 추가 성능을 끌어낼 수 있는 간단하고 직관적인 방법입니다. 대부분의 그래픽카드는 출고 시 클럭보다 여유 성능(헤드룸)을 가지고 있으며, 사용자가 직접 조정하여 그 몇 MHz를 더 끌어낼 수 있습니다.
하지만 전통적인 방식의 오버클럭킹으로 얻을 수 있는 성능에는 한계가 있습니다. 물론 기본 상태 대비 꽤 의미 있는 향상을 기대할 수 있지만, 그 이상을 원한다면 좀 더 창의적인 방법이 필요합니다. 바로 BIOS 플래싱입니다.
그래픽카드 BIOS란 무엇인가?
그래픽카드의 BIOS(VBIOS 또는 VGA BIOS라고도 함)는 카드의 펌웨어로, 카드 운영에 필요한 모든 하드웨어 설정 정보를 담고 있습니다. 클럭 속도, 팬 속도, 전압, 전력 공급 등에 관한 정보가 포함되어 있으며, 무분별한 오버클럭으로 인해 카드가 오작동하거나 손상되지 않도록 전압과 소비 전력에 제한을 걸어두기도 합니다. MSI Afterburner 같은 툴에서 전압 오프셋이 일정 값 이상 올라가지 않는 이유가 바로 이러한 제한 때문입니다. BIOS 플래싱을 통해 이러한 제한 중 일부를 해제하면 더 높은 오버클럭이 가능해지고, 코어와 메모리에 더 많은 전압을 공급할 수 있습니다.
BIOS 플래싱을 하는 이유
BIOS 플래싱은 특히 익스트림 오버클럭킹에서 큰 효과를 발휘합니다. 평소에는 카드의 BIOS를 건드리지 않는 것이 좋지만, 그래픽카드에서 마지막 한 방울까지 성능을 짜내고 싶은 애호가라면 BIOS 플래싱이 강력한 도구가 됩니다. BIOS는 카드의 펌웨어이므로, 플래싱이란 기존 펌웨어를 새로운 것으로 덮어쓰는 작업을 의미합니다. 이를 통해 코어 클럭, 메모리 클럭, 전압 한계, 전력 한계(Power Limit) 등의 새로운 값을 적용할 수 있으며, 이것이 카드의 오버클럭 잠재력에 결정적인 부스트를 제공합니다.
BIOS 플래싱에 적합한 그래픽카드는?
예상하셨겠지만, 모든 그래픽카드가 이런 자유로운 수정을 허용하지는 않습니다. 대부분의 카드는 동일 모델의 펌웨어로만 플래시할 수 있으며, 이 경우 플래싱은 오버클럭 목적이 아닌 손상된 BIOS 복구 정도에만 활용됩니다. 하지만 일부 카드는 플래싱을 통한 개선 폭이 매우 큽니다. 일반적으로 최상위 GPU의 축소판 버전을 탑재한 카드가 가장 큰 효과를 냅니다. NVIDIA와 AMD 라인업 모두 이런 카드가 있지만, 이 가이드에서는 AMD 카드에 집중하겠습니다.
AMD Radeon RX Vega 56과 Radeon RX 5700은 BIOS 플래싱 애호가들 사이에서 특히 인기 있는 모델입니다. 이 카드들이 플래싱에 적합한 이유는 GPU 코어 자체를 제외하면 상위 모델(RX Vega 64, RX 5700 XT)과 PCB가 거의 동일하기 때문입니다. 컴퓨트 유닛(CU) 수(Vega 56은 56CU, Vega 64는 64CU)처럼 하드웨어적으로 고정된 부분은 플래싱으로 변경할 수 없지만, 코어 클럭, 메모리 클럭, 전압은 변경 가능합니다. 즉, 제품 라인 구분을 위해 소프트웨어적으로 잠겨 있던 부분을 해제하면 상당한 헤드룸이 열립니다. Vega 56에 Vega 64 BIOS를, RX 5700에 5700 XT BIOS를 플래시하면 상위 모델과 동일한 클럭과 성능 수준에 도달할 수 있습니다. 오버클러커에게 최고의 이점이며, 감수할 의지만 있다면 가성비 면에서 놀라운 결과를 얻을 수 있습니다.
플래싱 전 반드시 확인할 사항
- 높아질 소비 전력을 감당할 수 있는 충분히 강력한 파워서플라이(PSU)를 준비하세요. 이상적으로는 플래시할 대상 카드의 요구 전력을 처리할 수 있는 용량이어야 합니다. 예를 들어 Vega 56에 Vega 64 BIOS를 플래시할 계획이라면 Vega 64를 감당할 수 있는 PSU(최소 750W)가 필요합니다.
- 케이스 내부 통풍이 잘 되고 온도가 안정적으로 관리되고 있는지 확인하세요. BIOS 플래싱은 소비 전력을 늘리고, 전력이 늘면 발열도 함께 증가합니다. 현재 온도조차 불안정하다면 플래싱을 피하고 언더볼팅을 고려하는 것이 좋습니다.
- 사용 중인 그래픽카드가 듀얼 BIOS를 지원하는지 확인하세요. 일부 고급형 및 리퍼런스 모델은 BIOS 스위치로 전환하는 듀얼 BIOS를 제공합니다. 즉, 하나가 아니라 두 개의 펌웨어를 가진 것으로, 한쪽을 벽돌(brick) 상태로 만들더라도 다른 쪽으로 전환해 정상 사용이 가능한 안전망 역할을 합니다. 필수는 아니지만 강력히 권장됩니다.
- 사용 중인 카드가 더 높은 성능의 모델로 플래시 가능한지 미리 조사하세요. 얻는 이득이 노력과 위험에 비해 가치 있다고 판단될 때만 진행하세요.
- 플래싱 후에는 카드의 성능 지표를 지속적으로 모니터링하는 것이 좋습니다. 플래시된 카드가 간헐적으로 불안정하게 작동하는 경우가 있으며, 평소 수치를 관찰하는 습관이 있으면 문제를 빠르게 발견하고 해결할 수 있습니다.
- 기존 BIOS 백업 파일은 반드시 2곳 이상에 저장해 두세요. 백업 방법은 아래 가이드에 나와 있습니다.
이제 과정에 대한 충분한 이해를 갖췄으니 시작해 보겠습니다.
주의: BIOS 플래싱은 제조사가 설정한 일부 제한을 해제하고 사양 범위를 넘어서는 작업입니다. 잘못 진행하면 그래픽카드가 영구적으로 손상(벽돌)될 수 있습니다. 오버클럭킹과 그에 따른 위험에 익숙한 경우에만 진행하시기 바라며, 모든 책임은 사용자 본인에게 있습니다.
AMD BIOS 플래싱 단계별 가이드
다음은 AMD 그래픽카드의 BIOS를 플래시하는 간단한 단계별 가이드입니다. 이 가이드에서는 AMD Radeon RX Vega 56을 예로 들어 RX Vega 64 BIOS를 플래시하는 과정을 설명합니다. 먼저 필요한 도구와 파일을 다운로드해야 합니다.
필요한 도구
- ATIFlash — AMD 그래픽카드 플래싱 툴
- TechPowerUp GPU-Z
- 기존 BIOS 백업 파일(여기서는 Vega 56 BIOS)
- 새로운 타깃 BIOS 파일(여기서는 Vega 64 BIOS)
ATIFlash(AMD VBFlash라고도 함)는 AMD 그래픽카드 플래싱에 가장 널리 쓰이는 도구로, 사용법이 간단하며 무료로 다운로드할 수 있습니다. NVIDIA 카드의 경우 NVFlash가 대안입니다.
GPU-Z는 GPU 오버클럭킹에 필수적이면서 유용한 소프트웨어입니다. 카드에 관한 모든 핵심 정보를 하나의 창에서 보여주며, 뒤에서 설명할 기존 BIOS 백업 기능도 제공합니다.
기존 BIOS 백업은 절대적으로 중요합니다. 새 BIOS가 불안정할 경우 원래 BIOS로 되돌려야 할 수 있기 때문입니다. GPU-Z와 ATIFlash 모두 백업 기능을 제공합니다.
타깃 BIOS 파일은 실제로 플래시할 펌웨어 파일입니다. Vega 56을 예로 들었으므로 타깃 파일은 Vega 64의 펌웨어가 됩니다. 마찬가지로 RX 5700을 플래시한다면 타깃은 5700 XT의 BIOS입니다. BIOS 파일은 TechPowerUp의 BIOS 데이터베이스에서 다운로드할 수 있으며, 반드시 현재 사용 중인 카드와 동일 제조사(브랜드)의 BIOS를 받아야 합니다. 예를 들어 XFX Radeon RX Vega 56을 사용 중이라면 XFX Radeon RX Vega 64 BIOS를 다운로드해야 합니다.
1단계: GPU-Z 실행 후 백업 생성
GPU-Z를 실행하면 그래픽카드에 관한 다양한 정보가 표시됩니다. 모든 정보가 필요한 것은 아니지만 몇 가지는 확인해야 합니다. 첫째, 창 하단 근처에 표시되는 GPU의 기본(Base) 및 부스트(Boost) 클럭을 기록해 두세요. 플래싱이 성공하면 이 값들이 변경됩니다. 둘째, 기존 BIOS 백업을 만들어야 합니다. 창 중앙 부근의 'BIOS Version' 항목 옆에 있는 작은 화살표(→)를 클릭하면 백업 파일을 저장할 수 있습니다. 이상적으로는 백업을 2개 만들어 서로 다른 위치에 보관하세요.
Radeon RX Vega 사용자에게만 해당되는 추가 확인 사항이 있습니다. Vega 아키텍처는 일반적인 GDDR 대신 HBM2 메모리를 사용하며, 메모리 제조사는 카드마다 다를 수 있습니다. 창 하단의 Memory 섹션에서 HBM2 옆에 표시된 메모리 제조사를 확인하세요. Samsung HBM2를 장착한 카드에만 BIOS를 플래시해야 합니다. Micron이나 Hynix 제품은 플래싱이 실패할 수 있습니다.
RX 5700 시리즈를 플래시하는 경우에는 모두 일반 GDDR6 메모리를 사용하므로 이 메모리 확인 과정은 생략해도 됩니다.
2단계: ATIFlash 압축 해제 후 관리자 권한으로 실행
- 다운로드한 ATIFlash 압축 파일의 압축을 해제합니다.
- 'amdvbflashWin.exe' 파일을 관리자 권한으로 실행합니다.
- 아래와 같은 창이 나타납니다.
오른쪽에는 시스템 사양 일부가 표시되고, 왼쪽에는 'ROM Details'(BIOS 정보와 동일) 섹션이 있습니다. 여기서 현재 BIOS 버전과 관련 정보를 확인할 수 있습니다. 이 소프트웨어는 BIOS를 백업할 두 번째 기회도 제공합니다. 'Save' 버튼을 클릭해 기존 BIOS를 한 번 더 백업해 두면 안전합니다.
3단계: 다운로드한 타깃 BIOS로 플래시
이제 기존 BIOS를 새 BIOS로 교체하는 핵심 단계입니다.
- 'Load Image' 클릭
- 다운로드한 타깃 BIOS 선택(여기서는 XFX Radeon RX Vega 64 BIOS)
- 소프트웨어의 'New VBIOS' 섹션에 BIOS 정보가 표시되는지 확인
- 'Program' 클릭
- 진행률 표시줄이 완료될 때까지 대기
- PC 재시작
PC가 다시 부팅되면 새 BIOS로 성공적으로 플래시된 것입니다.
BIOS 플래싱 후 해야 할 일
플래싱 직후에는 카드 성능이 이전과 달라지지 않습니다. 헛수고였냐고요? 전혀 아닙니다. 플래싱을 통해 이전 펌웨어가 걸어두었던 일부 제한이 완화되었고, 이제 사용자가 카드의 파라미터를 훨씬 자유롭게 조정할 수 있게 된 것입니다. 플래싱 후에는 다음과 같은 작업을 진행하세요.
더 높은 오버클럭 테스트:
BIOS 플래싱의 주목적이 카드에서 최대 성능을 끌어내는 것이므로, 새로운 오버클럭 설정을 테스트하고 가장 안정적인 최적 구성을 찾아야 합니다. Wattman이나 Afterburner에서 전력 한계(Power Limit)를 최대로 올리고, 전압 오프셋을 통해 추가 전압도 공급하세요. 온도 관리를 위해 더 공격적인 팬 커브로 팬 속도를 높여야 할 수도 있습니다.
온도 모니터링:
높은 소비 전력은 곧 더 많은 발열을 의미합니다. 플래싱과 오버클럭 후 온도가 주변 환경을 고려해도 불안정하다면 언더볼팅을 하거나 기존 BIOS로 되돌리는 것을 고려하세요. 이상적으로는 80℃를 넘지 않는 것이 좋으며, 80℃ 자체가 카드에 손상을 주는 수준은 아니지만 온도가 낮을수록 부스트 클럭이 높게 유지되어 성능에도 유리합니다. 일반 게이밍 중 85℃를 넘는다면 기존 BIOS로 롤백하는 것을 권장합니다.
그래픽카드 스트레스 테스트:
적절한 오버클럭을 적용한 후에는 다양한 시나리오에서 스트레스 테스트를 강력히 권장합니다. 게이머에게 가장 끔찍한 상황은 치열한 전투 중간에 게임이 데스크톱으로 강제 종료되거나, 심하면 PC가 갑자기 꺼지는 것입니다. 3DMark FireStrike, Unigine Superposition, Unigine Heaven, Furmark 등 다양한 벤치마크를 활용하세요. Furmark는 카드를 최대 온도까지 끌어올리도록 설계된 고강도 토트 테스트로 온도 검증에 유용하며, Unigine과 3DMark 스위트는 게이밍 안정성 검증에 적합합니다. 최대 온도뿐 아니라 메모리 클럭이 너무 높을 때 나타나는 아티팩트(깨진 픽셀 블록)도 주의 깊게 살펴보세요. 크래시가 반복된다면 오버클럭 수치를 낮추세요.
다음 경우에는 기존 BIOS로 되돌리세요:
1) 온도가 통제 불가능할 때
2) 스트레스 테스트 또는 게임에서 GPU가 반복적으로 크래시될 때
3) 높은 메모리 클럭으로 인해 아티팩트가 계속 발생할 때
4) PC가 갑자기 꺼지는 현상이 반복될 때 — PSU가 증가한 소비 전력을 감당하지 못한다는 신호입니다.모든 것이 순조롭다면…
추가 성능을 마음껏 누리되, 항상 경계를 늦추지 마세요. GPU의 클럭, 메모리 주파수, 온도, 소비 전력, 팬 속도 등을 모니터링하는 습관을 들이세요. RivaTuner와 MSI Afterburner를 함께 사용하면 큰 도움이 됩니다.
카드가 불안정하다면? 복구 방법
카드를 원래 BIOS로 다시 플래시하면 됩니다. 정말 간단합니다.
- ATIFlash 실행
- 미리 만들어 둔 'Vega 56 BIOS 백업' 파일 로드
- 'Program' 클릭
- PC 재시작
카드가 출고 상태의 펌웨어로 복원됩니다.
마무리
BIOS 플래싱은 그래픽카드의 성능을 끌어올리는 매우 흥미롭고 효과적인 방법입니다. 애호가들에게는 보유한 하드웨어를 가지고 또 한 번 놀 수 있는 재미 요소이며, 실제로 많은 익스트림 오버클러커들이 세계 신기록을 세우기 위해 극단적으로 높은 전력 타깃을 설정한 커스텀 vBIOS를 활용합니다. 일반 사용자에게도 특정 상황에서 매우 효과적인 도구가 될 수 있습니다. 카드에서 최대 성능을 끌어내어 비용 대비 가치를 극대화할 수 있기 때문입니다. 올바르게만 진행한다면 완전히 안전하고 즐거운 과정이며, 공짜 성능 향상까지 덤으로 얻을 수 있습니다!