针对特征模式分解(Feature Mode Decomposition，FMD)在强背景噪声下特征提取效果不佳以及滤波器个数K、滤波器长度L 难以确定的问题。提出一种高斯误差变换(Gaussian Error Transform，GET)联合鲸鱼优化算法(Whale Optimization Algorithm，WOA)的FMD的滚动轴承特征提取方法，首先，基于谐噪比(Harmonic-to-Noise Ratio，HNR)对冲击规律的敏感性，利用GET对信号进行随机干扰的抑制预处理，再将WOA进行FMD参数优化，设置最大相关峭度(Maximum Correlated Kurtosis，MCK)值为适应度函数得到最佳的K、L，并得到最佳分量；然后，对最佳分量进行包络解调，完成故障特征提取；最后，通过仿真实验与复合轴承故障模拟实验验证方法的性能。结果表明：所提方法与VMD、SSD、EEMD对比，具有明显优势。