OBS 인코딩 과부하 문제 해결 방법 [2025]

오늘은 OBS 사용자가 이 프로그램을 사용할 때 가장 흔히 발생하는 오류 중 하나인 OBS "인코딩 과부하" 경고와 인코딩 과부하 해결 방법을 살펴보겠습니다.

OBS 인코딩 과부하 수정으로도 해결되지 않고 OBS의 대안을 찾고 있다면 Movavi Screen Recorder를 고려해 보세요. 이 앱을 사용하면 지연 없이 화면을 캡처하고, 녹화된 영상에 그림을 그리고, 불필요한 부분을 삭제할 수 있습니다. 이 프로그램의 간단한 인터페이스 덕분에 사용하기가 상당히 쉽습니다. 평가판을 다운로드하여 직접 살펴보세요!

OBS는 사용자 지정 측면에서 뛰어난 다용도성을 발휘하며, 단순히 스트림의 설정을 검토하지 않았기 때문에 인코딩 과부하가 발생할 수도 있습니다. 비디오 설정을 낮추고 OBS의 높은 인코딩 경고 문제가 해결되는지 확인해 보세요.

해상도는 CPU 사용량을 결정하는 핵심 요소입니다. OBS는 화면을 실시간으로 녹화하므로, 프로세서가 각 프레임에서 처리해야 하는 픽셀 수가 많을수록 CPU 사용량이 크게 증가합니다. 원본 콘텐츠는 아마도 1080p 해상도일 것이므로, 사용자는 당연히 출력에서 이 품질을 온전히 원할 것입니다. 문제는 CPU가 이 품질을 처리할 수 있느냐는 것입니다. OBS에서 "인코딩 과부하" 메시지가 표시되면 CPU가 인코딩 과부하 상태일 가능성이 높습니다. 비디오 설정을 낮추는 것을 고려해 보세요.

해상도를 낮추면 OBS가 비디오를 인코더로 전송하기 전에 크기를 줄여 CPU에 가해지는 부하를 줄일 수 있습니다. 동시에 기본(캔버스) 해상도는 변경되지 않으므로 레이아웃이 그대로 유지됩니다.

이렇게 하려면, 화면 오른쪽 하단에서 설정을 클릭하고, 비디오 탭으로 이동하고, 출력(스케일링) 해상도를 클릭합니다. 예를 들어, 이 매개 변수를 1920 × 1080에서 1280 × 720으로 낮추고 어떻게 작동되는지 봅니다. 확인을 클릭하고 OBS를 끝냅니다. 컴퓨터를 다시 시작하고 스트림을 실행하여 경고가 사라지는지 확인합니다.

아래의 드롭다운 메뉴에 표시되는 다운스케일 필터는 비트 수를 줄이는 데 사용되는 알고리즘을 변경합니다. Bilinear 필터는 가장 빠르지만 화질 저하가 가장 심한 필터입니다. Lanczos 필터는 보기에는 좋지만 리소스를 더 많이 사용합니다. 다른 필터도 사용해 보세요. 이러한 필터 중 하나만 사용해도 오류가 사라지는 경우가 때때로 있습니다.

프레임 속도 매개 변수는 원본 게임 비디오를 매초마다 캡처하는 프레임 수를 제어합니다. 이 매개 변수는 이러한 모든 프레임을 렌더링할 만큼 강력해야 하는 GPU에 부담을 줍니다. 높은 프레임 속도(48 ~ 60)로 캡처하는 경우, GPU가 게임 자체뿐만 아니라 사용자가 스트리밍하고 있는 비디오를 렌더링하지 못해 지연이 발생할 수 있습니다. 실제로 30 또는 24 FPS로 스트리밍하면 화질이 크게 저하되지는 않지만, 인코더가 비디오를 처리할 수 있는 충분한 여유 공간을 확보할 수 있습니다. 또한, 게임의 FPS 사용량을 90%로 제한하는 것이 좋습니다. OBS의 GPU 용량을 훨씬 더 많이 확보하도록 Vsync 또는 기타 인게임 제한 기능을 활성화하면 됩니다.

OBS에서 프레임 속도를 낮추려면 설정 – 비디오로 이동합니다. 여기에서 일반 FPS 값을 선택하고 30 이하를 선택합니다. 확인을 클릭하고 OBS를 끝냅니다. 컴퓨터를 다시 시작하고 스트림을 실행하여 경고가 사라지는지 확인합니다.

기본적으로 OBS는 최고의 오픈 소스 비디오 인코딩 라이브러리인 x264를 사용합니다. x264에는 CPU 사용량과 출력 비디오 품질 사이에 최적으로 균형을 이루도록 설정하는 여러 가지 프리셋이 있습니다. 기본 프리셋은 "매우 빠름"이며, 대부분의 경우 최상의 균형을 제공합니다. 프리셋의 차이는 인코더의 실행 속도를 나타냅니다. 속도가 빠를수록 CPU 파워가 적게 사용되므로, 비디오 품질이 낮아집니다. 혼동하지 마세요. 여기서 "빠름"은 "더 나은" 것이 아니라 "디테일에 대한 주의가 떨어지는" 것을 의미합니다. 따라서 PC가 "매우 빠름" 속도에서도 지연된다면 더 빠른 프리셋을 사용해 보세요.

이렇게 하려면, "설정"으로 이동한 다음 "출력" 탭을 엽니다. "고급 인코더 설정 활성화"가 선택되어 있지 않으면 선택합니다. 선택한 인코더가 "소프트웨어(x264)"인지 확인합니다. "인코더 프리셋"을 선택합니다.

CPU 사용량은 줄이지만 해상도와 FPS는 그대로 유지하고 싶다면, 프리셋 변경이 과부하 문제를 해결하기에 적절한 방법입니다. 이 경우, x264 프리셋을 "고속" 또는 "초고속"으로 설정하여 CPU 사이클을 줄입니다.

이러한 프리셋 간의 차이가 상당히 크다는 점에 유의하세요. 프리셋에 따라 CPU 사용량이 급격히 변경될 수 있습니다. 따라서 프리셋 속도를 낮추기 전에 한 번 더 생각해 보세요. 언제나, 대비하기 위해 CPU 여유 용량을 확보하는 것이 더 좋습니다.

OBS에서는 최신 AMD, Intel, Nvidia GPU에서 각각 지원되는 하드웨어 인코더인 AMF, Quicksync 또는 NVENC를 x264의 대안으로 사용할 수 있습니다. GPU 기반 인코더는 동일한 비트 전송률에서 x264보다 품질이 떨어지지만, 인코딩 부하 일부를 담당하여 CPU 부담을 덜어줍니다.

설정 – 출력 – 스트리밍 – 인코더에서 이러한 인코더 중 하나를 사용할 수 있는지 확인할 수 있습니다. 모든 설정을 보려면 출력 모드가 고급으로 설정되어 있는지 확인하세요. 예를 들어, 다음 이미지에서 QuickSynс H.264 옵션이 사용 가능함을 볼 수 있습니다.

사용자 피드백에 따르면 NVENC는 매우 빠른 프리셋에서 x264 품질에 상당히 가깝지만, AMF의 렌더링 품질은 현저히 떨어진다고 합니다. AMF는 작업에 GPU 리소스를 사용하며, 게임 렌더링에 GPU가 이미 완전히 사용되고 있는 경우, AMF는 충분한 성능을 확보하지 못하고 엄청나게 지연되기 시작합니다. AMF로 녹화된 영상은 비트 전송률을 아무리 높게 설정해도 일반적으로 약간의 그레인이 발생합니다.

x264는 CPU에서 실행되며, NVENC의 GPU 칩에는 인코딩에만 사용되고 다른 용도는 없는 전용 회로가 있기 때문에, X264 및 NVENC는 GPU 컴퓨팅 리소스를 사용하지 않습니다. 따라서 두 가지 모두에서 높은 GPU 부하로 인한 인코딩 지연 현상이 발생하지 않습니다.

Quicksync 인코더는 제대로 설정만 하면 NVENC만큼 녹화 성능이 우수합니다. ICQ를 속도 컨트롤로 사용하고 20(더 나은 품질, 더 큰 파일) ~ 23(저하된 품질, 더 작은 파일) 사이로 ICQ 품질 값을 설정하세요.

위의 팁 중 어떤 것도 효과가 없다면, 하드웨어와 관련된 문제일 수도 있습니다. 하드웨어의 성능이 게이밍과 스트리밍을 동시에 처리할 만큼 강력하지 않거나, 게이밍에 맞게 최적화되어 있지 않을 수 있습니다. 이러한 상황에서 어떤 조치를 취할 수 있는지 살펴보겠습니다.

비디오를 디코딩하는 장치는 제대로 설정하지 않으면 상당한 CPU 용량을 사용할 수 있으므로, 웹캠이나 캡처 카드의 설정을 확인하는 것이 좋습니다. 고해상도로 실행되고 있지 않은지 확인하면 됩니다. 전체 화면으로 볼 필요가 없다면 480p면 충분합니다. 복잡한 스크립트와 애니메이션이 있는 브라우저 소스도 마찬가지입니다.

확인할 또 다른 사항은 Discord, Windows 게임 바 또는 Nvidia Overlay 등 백그라운드에서 실행 중인 스트리밍 관련 기타 애플리케이션입니다. 이러한 애플리케이션이 OBS와 충돌하여 속도를 낮추고, 인코딩 과부하를 유발할 수 있습니다. 해당 애플리케이션을 모두 비활성화하고, 사용하지 않는 경우에는 제거하는 것이 좋습니다.

참고로, 녹화 애플리케이션에만 그치지 말고 게임 및 스트림과 병렬로 실행되고 있는 불필요한 프로그램을 모두 닫으세요. 이렇게 하면 CPU가 두 가지 해당 프로세스에 집중할 수 있습니다. 모르는 사이에 CPU를 잡아먹는 백그라운드 애플리케이션이 얼마나 많은지 보면 놀라실 것입니다.

실행 중인 애플리케이션을 확인하려면 Windows 키 + R 키를 누르고 “taskmgr”을 입력하고 Enter 키를 누릅니다. 이렇게 하면 작업 관리자가 열리고, 여기에서 불필요한 애플리케이션을 마우스 오른쪽 버튼으로 클릭하고 작업 끝내기를 선택할 수 있습니다.

또한 화면 오른쪽 하단의 트레이에서 실행 중인 다른 앱의 아이콘이 있는지 확인합니다. 아이콘이 있으면 마우스 오른쪽 버튼으로 클릭하고 종료를 선택합니다.

애플리케이션을 제거하려면 Windows 키 + R 키를 누르고 "appwiz.cpl"을 입력하여 애플리케이션 관리자를 엽니다. 여기에서, 제거할 애플리케이션을 찾아 마우스 오른쪽 버튼으로 클릭하고 "제거"를 선택합니다.

OBS는 RAM뿐만 아니라 임시 구성 및 출력 파일 작성 등의 작업을 위해 하드 드라이브 공간도 필요로 하므로, 로컬 저장소 부족으로 인해 인코딩 과부하가 발생할 수 있습니다. 드라이브에서 불필요한 애플리케이션을 모두 제거했다면 이미 이 문제를 해결하기 시작한 것입니다. 또 다른 방법은 디스크 정리를 수행하는 것입니다.

이렇게 하려면, Windows 키 + E 키를 누르고, 정리할 드라이브를 마우스 오른쪽 버튼으로 클릭하고, 속성으로 이동합니다. 창이 열리면 일반 탭을 선택하고 디스크 정리를 누릅니다. 컴퓨터를 다시 시작하고 스트림을 실행하여 경고가 사라지는지 확인합니다.

프로세스 간에 전력을 분배할 때 CPU는 우선 순위 원칙을 따릅니다. 작업 관리자에서 우선 순위가 낮은 작업으로 OBS가 설정되어 있을 수 있습니다. 즉, CPU 리소스가 다른 프로세스에 먼저 할당되고 OBS는 남은 리소스만 사용하게 됩니다. 따라서 이 프로그램은 인코딩을 수행할 처리 능력이 부족하게 되고, 과부하가 발생하게 됩니다.

프로세스 우선 순위를 설정하려면, 앞서 설명한 대로 작업 관리자로 이동하고 작업 목록에서 OBS를 찾아 마우스 오른쪽 버튼으로 클릭하고 프로세스로 이동을 누릅니다. 그러면 프로세스 탭의 관련 프로세스로 이동됩니다. 해당 프로세스를 마우스 오른쪽 버튼으로 클릭하고 우선 순위를 높은 우선 순위로 설정합니다. 우선 순위를 높음 또는 실시간으로 설정하는 것은 권장하지 않습니다. 스트림 외의 다른 작업, 무엇보다도 스트리밍 중인 게임을 위한 처리 능력을 남겨두어야 하기 때문입니다.

하지만 PC가 게임보다 낮은 우선 순위를 OBS에 부여할 수 있으며, 게임의 요구 사항이 그다지 높지 않다면 해당 게임 프로세스의 우선 순위를 낮은 우선 순위로 변경하여 바꾸는 것이 좋습니다.

게임으로 돌아가서 스트림이 개선되었는지 확인합니다.

플레이와 스트리밍을 동시에 진행하려는 경우 모든 CPU 리소스를 게임에 집중시키지 마세요. 스트리밍(또는 녹화)하고 있는 비디오를 처리하는 데에도 CPU 리소스가 필요하기 때문입니다. 게임 모드는 이러한 측면에서 대단히 공격적인 성능을 발휘하므로, OBS가 CPU를 거의 사용하지 못할 정도로 게임을 부스팅시킬 수 있습니다.

게임 모드를 끄려면 Windows 키 + I 키를 누르고, 검색 창에 "게임 모드"를 입력하고, PC를 게임에 최적화하기 위한 게임 모드 제어를 클릭합니다. 메뉴가 열리면 게임 모드를 클릭하고 끔으로 전환합니다.

하지만, 모든 문제는 하드웨어가 스트리밍과 게이밍을 동시에 처리할 수 없다는 데 있을 수 있습니다. 이러한 경우, 위에서 언급한 모든 트릭이 소용없거나 스트리밍 품질이 너무 떨어져서 아무도 애초에 보고 싶어하지 않을 것입니다.

게임 녹화 및 스트리밍에 관련된 멀티태스킹과 미디어 렌더링에는 6개 또는 8개의 코어를 갖춘 탄탄한 프로세서가 필요합니다. 7 ~ 9세대 Intel i5 또는 i7이나 3700X 모델과 같은 중급 AMD면 충분합니다.

또한 OBS는 GPU를 효과적으로 이용하는 몇 안 되는 스트리밍 및 녹화 프로그램 중 하나입니다. 하지만 오래된 GPU는 CPU 병목 현상을 유발하므로 스트리밍 품질에 유익한 것이 아니라 오히려 방해가 될 수 있습니다. 따라서 GPU 업그레이드는 OBS 녹화중 인코더 오류나 인코딩 과부하 문제를 해결하는 또 다른 좋은 방법이 될 수 있습니다.

제안해 드린 방법들이 모두 효과가 없다면, OBS 대신 다른 대체 프로그램 중 하나를 사용해 볼 수 있습니다. Bandicam, ShadowPlay 또는 Fraps가 Twitch 및 기타 플랫폼에서의 스트리밍에 적합할 수 있습니다. 화면을 녹화하려면 Movavi Screen Recorder를 사용해 보세요. 사용하기 쉽고 빠르게 작동하며 여러 가지 유용한 기능을 제공하는 앱입니다. 이 프로그램으로 수행할 수 있는 작업은 다음과 같습니다.

• 화면, 웹캠, 시스템 사운드 및 마이크 캡처
• 키스트로크 표시
• 마우스 커서 하이라이트
• 녹화 영상에 그리고, 모양과 화살표 추가
• 녹화 영상을 다듬고 조각 잘라내기
• 일반적인 형식으로 동영상 내보내기

이 프로그램은 너무나 직관적이어서 몇 분이면 설정을 조정하고 녹화를 시작할 수 있습니다. 어서 사용해 보세요!

요약하면, OBS의 높은 인코딩 경고 문제와 같은 OBS 인코더 오류를 해결하는 세 가지 주요 접근 방식이 있습니다.

• OBS 설정 변경: 출력 해상도 낮추기, 프레임 속도 낮추기, 인코더 프리셋 변경 또는 하드웨어 인코딩으로 전환.
• PC 최적화: 녹화 소스 확인, 추가적인 프로그램 닫기, 디스크 정리 수행, OBS 프로세스 우선 순위 변경, 게임 모드 끄기, 하드웨어 업그레이드.
• 위에 나열된 방법으로 해결되지 않으면, 대체 프로그램을 사용해 보세요.