由于齿轮箱振动信号在变转速工况下出现的调频、调幅等现象，使得信号征兆与故障模式之间的映射关系变得复杂，导致齿轮箱故障难以精确诊断。鉴于深度神经网络在自动提取数据特征和分类上的优势，提出一种基于无阈值递归图编码(Un-threshold Recurrence Plot，URP)和自适应归一化卷积神经网络(Adaptive Normalized Convolutional Neural Network，ANCNN)的变转速工况齿轮箱故障诊断方法。该方法先使用快速傅里叶变换(Fast Fourier Transform，FFT)将时域信号转化为频域信号，再利用URP 编码将得到的频域信号转化为二维递归图，并提取图像特征输入到ANCNN模型。在ANCNN模型中，采用批量归一化算法消除因转速变化引起的特征分布差异，同时处理转速波动下产生的频移和调制特性，并使用遗传算法自动调整该网络模型的超参数，以提高该网络的整体性能。采用转速波动的齿轮箱试验数据对该方法进行验证，实验结果表明，该方法能够克服转速波动的影响，成功实现对不同齿轮故障的准确识别。