PC 성능을 극한까지 끌어올리고 싶은 기술 애호가나 게이머라면 한 번쯤 CPU 오버클러킹을 시도해 보셨을 것입니다. Prime95는 원래 새로운 메르센 소수(Mersenne prime)를 찾기 위해 개발된 무료 프로그램이지만, 현재는 시스템 오버클러킹 시 CPU 안정성을 검증하는 대표적인 스트레스 테스트 도구로 널리 활용되고 있습니다. 특히 PC 하위 시스템의 오류를 집중적으로 점검하도록 설계된 Torture Test 기능을 제공합니다.
Prime95의 스트레스 테스트는 FFT 크기를 변경하여 다양한 시스템 구성 요소를 테스트하도록 설정할 수 있습니다. 기본적으로 다음 세 가지 사전 설정이 제공됩니다.
- Small FFTs: FPU와 CPU 캐시를 주로 테스트
- In-Place FFTs: 최대 전력 소모 상태에서 FPU, CPU 캐시 및 일부 RAM 테스트
- Blend: RAM을 포함한 전체 시스템 테스트
완벽하게 안정적인 시스템이라면 Prime95는 무기한 실행되며 문제가 없습니다. 반대로 오류가 발생하면 스트레스 테스트가 즉시 종료되는데, 이는 시스템이 불안정할 가능성을 의미합니다.
그중 많은 사용자가 겪는 대표적인 오류가 바로 Prime95 'Fatal Error: Rounding'입니다. 이 오류가 나타나면 스트레스 테스트가 즉시 중단되고 더 이상 진행할 수 없습니다. 그렇다면 이 오류가 CPU에 어떤 의미를 가지며, 어떻게 대응해야 할까요? 아래 가이드를 통해 자세히 살펴보겠습니다.
Prime95 'Fatal Error: Rounding' 오류란?
일부 Windows 사용자들은 Prime95로 스트레스 테스트를 진행할 때마다 다음과 같은 오류 메시지를 마주한다고 보고하고 있습니다.
FATAL ERROR: Rounding was 0.4965515137, expected less than 0.4
Hardware failure detected, consult stress.txt file.
이 문제는 기본적으로 오버클러킹된 CPU와 관련이 있으며, 최신 Windows 10 버전에서 발생했다는 보고가 있습니다. 다만 Windows 10/11에만 국한된 것은 아니며, Windows 7이나 8 같은 구버전 운영체제에서도 동일한 오류가 나타났다는 불만이 접수된 바 있습니다.
보고에 따르면 이 오류는 스트레스 테스트 중 무작위로 발생합니다. 어떤 경우에는 Prime95 실행 후 2~3분 만에 오류 알림이 뜨고, 또 어떤 경우에는 몇 시간 동안 정상적으로 돌아가다가 뒤늦게 문제가 발생하기도 합니다.
그럼 이 오류는 무엇을 의미할까요? Prime95의 반올림(Rounding) 오류는 대개 CPU 또는 RAM 전압이 부족할 때 발생합니다. RAM 타이밍이나 속도 설정이 잘못되어도 나타날 수 있습니다. 스트레스 테스트에는 여러 변수가 얽혀 있으므로, 근본 원인을 찾으려면 꼼꼼한 점검이 필요합니다.
다행히 하드웨어 자체 결함(불량 RAM, CPU 등)이 원인이 아니라면, 일부 설정만 조정해도 이 오류를 비교적 쉽게 해결할 수 있습니다. 다음 섹션에서 구체적인 원인들을 살펴보겠습니다.
Prime95 'Fatal Error: Rounding' 오류의 주요 원인
이 오류를 성공적으로 해결하려면 먼저 어떤 요인이 범인인지 파악하고, 그에 맞는 조치를 적용해야 합니다. 주요 원인 후보는 다음과 같습니다.
- CPU 전압 부족: 대부분의 경우 이 오류는 CPU에 공급되는 전압이 충분하지 않아 발생합니다. 이 경우 전압을 조금씩 올려가며 최적의 값을 찾으면 문제를 쉽게 해결할 수 있습니다.
- CMOS 배터리에 저장된 DOCP 데이터 충돌: 경우에 따라 DOCP 데이터가 CPU 동작에 영향을 미쳐 이 오류가 나타날 수 있습니다. CMOS 배터리에 저장된 정보를 삭제하면 해결됩니다.
- 부품 온도 과열: 고부하 작업 중 CPU가 매우 뜨거워진다면, 높은 온도가 Prime95 스트레스 테스트 중 이 오류를 유발했을 가능성이 있습니다. 이때는 CPU와 RAM의 온도를 낮추는 것이 최선의 방법입니다.
- PSU(파워서플라이) 공급 전력 부족: 오버클러킹된 부품을 스트레스 테스트할 때 PSU가 CPU에 충분한 전력을 공급하지 못하면 이 오류가 발생할 수 있습니다. 이 경우 OC 클럭을 낮추거나 더 강력한 PSU로 교체해야 합니다.
위 목록이 'Fatal Error: Rounding' 오류의 가장 흔한 원인들이지만, 이것만 있는 것은 아닙니다. 예를 들어 일부 악성코드는 과부하 프로세스를 실행해 PC를 과열시키므로, 멀웨어 감염 역시 이런 오류를 일으킬 수 있습니다. 최적화되지 않은 백그라운드 프로세스도 유사한 문제를 유발할 수 있다는 점을 염두에 두세요.
참고로 Prime95에서 이 오류가 표시된다고 해서 반드시 심각한 CPU 문제가 있는 것은 아닙니다. 다만 렌더링, 게임, 채굴 등 고사양 작업을 자주 수행하는 환경이라면 해당 작업에서 문제가 생길 수 있습니다.
오버클러킹이나 스트레스 테스트 중 이 문제를 겪고 계시다면, 실제로 다른 사용자들이 성공적으로 적용한 해결책들을 순서대로 시도해 보시기 바랍니다.
Prime95 'Fatal Error: Rounding' 오류 해결 방법
이 오류는 명확한 원인과 해결책이 정해져 있지 않아 많은 사용자를 곤란하게 만듭니다. 다만 오류가 Prime95 자체가 아닌 컴퓨터 쪽 문제를 가리킨다는 점은 분명합니다.
먼저 아래와 같은 기본적인 문제 해결 단계부터 시도해 보세요.
- 스트레스 테스트를 다시 실행하여 일시적인 오류였는지 확인합니다.
- 불필요한 주변기기를 모두 분리한 뒤 컴퓨터를 재시작합니다.
- 안전 모드로 부팅한 상태에서 스트레스 테스트를 진행합니다.
- Outbyte PC Repair 같은 최적화 도구를 활용해 시스템을 정리합니다.
- 멀웨어 감염 여부를 검사합니다.
위 방법으로 해결되지 않았다면, 아래의 본격적인 해결책을 하나씩 적용해 보세요.
방법 1: CPU 전압 올리기
사용자 보고에 따르면 이 문제는 대개 CPU에 공급되는 전압이 부족할 때 발생합니다. 'Fatal Error: Rounding' 오류는 사실상 "CPU가 높은 연산 부하를 감당할 만큼 안정적이지 않다"는 도구의 경고 메시지라고 볼 수 있습니다.
실제로 같은 문제를 겪은 일부 사용자들은 CPU 전압을 소폭 올린 뒤 스트레스 테스트를 반복하면서, 오류가 완전히 사라질 때까지 조정함으로써 문제를 해결했다고 밝혔습니다.
이상적으로는 10mV씩 전압을 올려가며, 오류 없이 스트레스 테스트를 완주할 때까지 진행하는 것이 좋습니다.
CPU 전압을 조정하는 방법은 다음과 같습니다.
- 컴퓨터 부팅 중 DEL 키를 눌러 BIOS 설정에 진입합니다. 메인보드 제조사에 따라 필요한 키는 다를 수 있습니다.
- Advanced Frequency(고급 클럭) 설정으로 이동합니다.
- Voltage Settings(전압 설정) 메뉴로 이동합니다.
- CPU Vcore 값을 아주 작은 단위(0.03~0.05)씩 올려 CPU 전압을 높입니다.
- 전압을 올린 후 설정을 저장합니다.
- 컴퓨터를 재시작하고 스트레스 테스트를 다시 실행합니다.
단, CPU 전압을 올리면 CPU 온도도 함께 상승합니다. 따라서 이미 과열 문제를 겪고 있다면 추가 오버클러킹은 권장하지 않습니다.
방법 2: CMOS 배터리 초기화
일부 Windows 사용자들에 따르면, 메인보드의 CMOS(Complementary Metal-Oxide Semiconductor) 배터리에 임시 저장된 데이터도 이 문제를 유발할 수 있습니다. 이전에 저장된 DOCP 데이터가 스트레스 상황에서 CPU 동작에 영향을 주고 있을 가능성이 있습니다.
이 문제를 해결하려면 PC 케이스를 열고 CMOS 배터리를 초기화해야 합니다. 절차는 다음과 같습니다.
- 컴퓨터를 종료하고 전원 케이블을 뽑습니다.
- 정전기 방지 손목띠를 착용한 뒤 PC 측면 커버를 분리합니다. 손목띠는 몸을 PC 프레임에 접지시켜 내부 부품 손상을 방지해 줍니다.
- 메인보드에서 CMOS 배터리를 찾습니다.
- 배터리를 발견하면 손톱이나 비도전성 드라이버를 사용해 슬롯에서 조심스럽게 제거합니다.
- 전원 커패시터가 완전히 방전될 수 있도록 약 1분간 기다립니다.
- CMOS 배터리를 제자리에 다시 끼우고 PC 커버를 닫습니다.
- 전원을 연결하고 정상적으로 부팅한 뒤, Prime95로 스트레스 테스트를 다시 진행합니다.
방법 3: CPU 냉각 시스템 업그레이드
내부 온도, 특히 CPU와 RAM의 온도는 스트레스 테스트 중 'Fatal Error: Rounding' 오류를 유발하는 요인이 될 수 있습니다.
고부하 상태에서 PC 온도를 모니터링하고, 오류가 발생하기 전까지 어느 정도로 뜨거워지는지 확인해 보세요. 모든 코어가 최대 부하로 작동하는 상태에서 섭씨 90도를 넘는 온도가 기록된다면, 온도를 낮추기 위한 조치가 필요합니다.
PC 내부 청소, 케이스 에어플로우 개선, CPU 쿨러 업그레이드, 서멀 페이스트 교체 등을 시도해 볼 수 있습니다.
방법 4: PSU(파워서플라이) 업그레이드
위의 해결책들로도 문제가 해결되지 않는다면, 안정화하려는 오버클럭 주파수를 PSU가 감당하지 못하고 있을 가능성이 높습니다.
이 경우 더 강력한 PSU로 업그레이드하거나, 오류가 더 이상 발생하지 않는 수준까지 오버클럭 주파수를 낮추는 타협점을 찾아야 합니다.
마무리
평소 상황에서 Prime95의 'Fatal Error: Rounding' 오류가 곧바로 심각한 문제로 이어지지는 않습니다. 하지만 고사양 게임이나 리소스 집약적인 작업을 자주 수행하는 환경이라면 이 오류 때문에 불편을 겪을 수 있습니다. 위에서 소개한 해결 방법으로 시스템 안정성을 확보해 두면, 향후 'Fatal Error: Rounding' 오류로 인한 문제를 미연에 방지할 수 있습니다.