비디오변환 실패 줄이는 방법, 윈도우에서 설정은 이렇게 잡으면 됩니다

얼마 전 지인이 휴대폰으로 찍은 영상을 노트북에서 재생하려는데 소리만 나오고 화면이 검게 뜬다고 연락이 왔습니다. 파일을 받아 보니 확장자는 MP4였지만 내부 코덱이 HEVC였고, 그 노트북은 기본 재생 환경이 제대로 맞지 않은 상태였습니다. 이런 경우 많은 분들이 “MP4인데 왜 안 열리지?”라고 생각합니다. 그런데 비디오변환에서 중요한 건 확장자보다 안쪽에 들어 있는 코덱, 해상도, 프레임, 비트레이트입니다.

PC를 오래 만지다 보면 영상 변환은 단순히 파일 크기를 줄이는 작업이 아닙니다. 어떤 기기에서 볼 건지, 편집용인지 보관용인지, 화질을 얼마나 남길 건지에 따라 설정이 완전히 달라집니다. 괜히 자동 변환만 눌렀다가 4GB짜리 원본이 400MB로 줄면서 얼굴 윤곽이 뭉개지는 경우도 있고, 반대로 거의 티도 안 나는데 용량만 그대로인 경우도 있습니다.

비디오변환 전에 먼저 확인할 것

가장 먼저 봐야 할 건 원본 파일의 용도입니다. 휴대폰에서 가족 영상으로 볼 파일인지, 유튜브 업로드용인지, 프리미어 같은 편집 프로그램에 넣을 파일인지에 따라 선택이 갈립니다. 재생용이면 호환성이 중요하고, 편집용이면 디코딩이 부드러운 쪽이 낫습니다.

• 일반 재생용: MP4 컨테이너, H.264 코덱, AAC 오디오가 가장 무난합니다.
• 용량 절약용: H.265 또는 AV1을 쓸 수 있지만 오래된 PC나 TV에서는 재생 문제가 생길 수 있습니다.
• 편집용: 지나치게 압축된 파일보다 원본에 가까운 품질이 작업 중 끊김을 줄입니다.
• 카카오톡이나 메신저 전송용: 해상도와 비트레이트를 낮춰야 업로드 실패가 줄어듭니다.

여기서 많이 헷갈리는 게 MP4와 H.264의 차이입니다. MP4는 상자에 가깝고, H.264는 그 상자 안에 들어 있는 영상 압축 방식입니다. 같은 MP4라도 내부가 H.264인지, H.265인지, AV1인지에 따라 재생 가능 여부가 달라집니다. 특히 구형 사무용 PC나 오래된 스마트 TV는 H.265에서 버벅이거나 아예 화면이 안 나올 수 있습니다.

초보자는 이 설정부터 잡으면 됩니다

처음 비디오변환을 한다면 너무 많은 옵션을 건드리지 않는 게 좋습니다. 제가 윈도우 PC에서 가족 영상, 강의 녹화, 게임 클립을 변환할 때 가장 많이 쓰는 기본값은 MP4, H.264, AAC 조합입니다. 이 조합은 화려하진 않지만 실패율이 낮습니다. 영상은 결국 내가 볼 수 있어야 의미가 있습니다.

해상도와 프레임

원본이 1920x1080이면 그대로 1080p로 두는 게 보통 안전합니다. 4K 원본을 휴대폰 저장용으로 줄일 때는 1080p로 내려도 체감 손실이 생각보다 작습니다. 다만 텍스트가 많은 강의 화면이나 게임 UI가 들어간 영상은 해상도를 너무 낮추면 글자가 먼저 무너집니다.

프레임은 원본을 유지하는 쪽이 좋습니다. 60fps 게임 영상을 30fps로 낮추면 용량은 줄지만 움직임이 확 죽습니다. 반대로 일반 강의나 화면 녹화는 30fps로도 충분한 경우가 많습니다. 회의 녹화 파일이 2시간짜리라면 60fps를 고집할 이유가 거의 없습니다.

비트레이트 감 잡기

비트레이트는 화질과 용량을 좌우하는 숫자입니다. 1080p 30fps 영상은 대략 4~8Mbps, 1080p 60fps 게임 영상은 8~15Mbps 정도면 무난합니다. 4K 영상은 내용에 따라 차이가 크지만 25~50Mbps 사이에서 잡는 일이 많습니다. 화면 변화가 적은 강의는 낮게 잡아도 괜찮고, 잔디밭·물결·게임 전투 장면처럼 움직임이 많은 영상은 더 필요합니다.

고정 비트레이트보다 품질 기준 변환이 편할 때도 있습니다. 예를 들어 품질값을 기준으로 두면 장면이 단순한 구간에서는 용량을 아끼고, 복잡한 구간에서는 데이터를 더 씁니다. 저는 보관용 영상이면 용량만 보고 무리하게 누르지 않습니다. 10년 뒤에도 볼 파일이라면 1GB 아끼자고 얼굴 디테일을 버리는 건 아깝습니다.

CPU 변환과 그래픽카드 변환의 체감 차이

요즘 PC는 CPU뿐 아니라 그래픽카드로도 인코딩을 합니다. 엔비디아 NVENC, 인텔 Quick Sync, AMD 하드웨어 인코더를 쓰면 속도가 확 빨라집니다. 제 경험상 10분짜리 1080p 영상을 CPU로 6~8분 걸리던 시스템이 그래픽카드 인코딩에서는 1~2분대로 끝나는 경우도 많았습니다.

다만 무조건 그래픽카드가 답은 아닙니다. 같은 용량 기준으로 보면 CPU 소프트웨어 인코딩이 더 깔끔하게 나오는 경우가 있습니다. 특히 저용량으로 최대한 예쁘게 눌러야 할 때는 CPU 변환이 유리합니다. 반대로 빠르게 공유할 영상, 회의 녹화, 게임 클립은 GPU 변환이 훨씬 편합니다.

• 속도가 중요하면 GPU 인코딩을 선택합니다.
• 보관용 품질이 중요하면 CPU 인코딩을 고려합니다.
• 노트북에서는 변환 중 발열과 팬 소음을 같이 봐야 합니다.
• 배터리 상태에서 긴 영상 변환은 피하는 편이 낫습니다.

특히 노트북은 전원 설정에 따라 변환 속도가 반토막 나는 일이 흔합니다. 어댑터를 꽂고, 윈도우 전원 모드를 성능 위주로 바꾼 뒤 작업하면 같은 파일도 시간이 꽤 줄어듭니다. 데스크톱이라도 변환 중 CPU 온도가 90도 근처를 계속 찍는다면 쿨러 먼지나 써멀 상태를 의심해볼 만합니다.

재생 오류가 날 때 보는 순서

비디오변환 후 가장 흔한 문제는 영상은 나오는데 소리가 안 나오는 경우, 소리는 나오는데 화면이 검은 경우, 재생은 되지만 특정 구간에서 튕기는 경우입니다. 이때 무작정 다시 변환하기보다 원인을 좁히는 게 빠릅니다.

• 다른 플레이어에서도 같은 증상이 있는지 확인합니다.
• 오디오 코덱을 AAC로 바꿔 다시 변환합니다.
• H.265로 만든 파일이면 H.264로 바꿔 테스트합니다.
• 가변 프레임 영상이면 고정 프레임으로 변환해봅니다.
• 파일명이 너무 길거나 특수문자가 많으면 간단한 영문 이름으로 바꿉니다.

특히 휴대폰 촬영 영상은 가변 프레임인 경우가 있습니다. 그냥 재생할 때는 문제가 없어도 편집 프로그램에 넣으면 싱크가 조금씩 밀릴 수 있습니다. 강의 자막 작업이나 게임 클립 편집을 할 때 음성이 0.5초씩 어긋나는 문제를 몇 번 겪었는데, 고정 프레임으로 다시 변환하면 깔끔하게 잡히는 경우가 많았습니다.

제가 자주 쓰는 변환 흐름

실제로 작업할 때는 먼저 원본을 하나 복사해두고 1분 정도만 잘라 테스트합니다. 2시간짜리 영상을 바로 돌렸다가 설정이 틀리면 시간만 날아갑니다. 짧은 구간으로 화질, 자막, 음성 싱크를 확인한 뒤 전체 변환을 거는 방식이 제일 덜 피곤합니다.

일반적인 윈도우 환경에서는 MP4, H.264, AAC, 원본 해상도 유지, 원본 프레임 유지로 시작합니다. 용량이 너무 크면 비트레이트를 조금 낮추고, 그래도 크면 해상도를 한 단계 내립니다. 이 순서가 안정적입니다. 처음부터 해상도를 확 낮추면 돌이키기 어렵고, 특히 화면 녹화 영상은 글자가 흐려져서 다시 원본을 찾게 됩니다.

비디오변환은 좋은 프로그램 하나만 고르면 끝나는 작업처럼 보이지만, 실제로는 재생할 기기와 파일의 목적을 맞추는 일이 더 큽니다. 저는 아직도 중요한 영상은 자동 프리셋만 믿지 않고 1분짜리 샘플을 먼저 만듭니다. 시간이 조금 더 걸려도 그게 전체 작업 시간을 아끼는 쪽이었습니다.