Đèo Ô Quý Hồ được gọi theo tên bản Ô Quý Hồ nằm cạnh quốc lộ 4D và là bản ở rìa phía tây thị trấn Sa Pa. Tên bản đặt theo tiếng H'Mông, song người từ xa đến ưa gọi "Ô Quy Hồ" có phát âm nhẹ nhàng hơn. Ngoài ra, tên gọi đèo Hoàng Liên, hay đèo Hoàng Liên Sơn hình thành do đèo vượt qua dãy núi Hoàng Liên Sơn, hoặc đèo Mây do trên đỉnh đèo quanh năm mây phủ
