以下是支持显卡编码的最低硬件要求，先检查显卡硬件是否支持  

H264 (NVIDIA® NVENC)

台式电脑 GPU：Geforce GTX 600系列或更高版本的显卡。

笔记本 GPU：GTX 660M、670MX、675MX、680M、700M系列或更高版本的显卡。

HEVC (NVIDIA® NVENC)

台式电脑 GPU：Maxwell GM20x(GTX 950/960/970/980/Titan X)，Pascal GP10x(GTX 1030/1050/1060/1070/1080/Titan X)系列或更高版本的显卡。

笔记本 GPU：GTX 965M、970M、980M系列或更高版本的显卡。

其次是更新显卡驱动，下载驱动大师更新即可解决，或者修改设置-输出-里面编码器为x264