История этого автомобиля началась в начале 60-х. Основной послужил уже имеющийся грузовик ГАЗ-66, но в Нижнем Новгороде (город тогда назывался Горький), хотели попробовать создать трёхосную машину, с характеристиками не хуже чем у перспективного ЗИЛ - 131 и УРАЛ-375, который в то время только начали выпускать.
Опытный ходовой образец был создан уже в 1964 году. Основным предназначением машины была военная сфера. ГАЗ-34 мог применяться в качестве транспорта для перевозки солдат, в кузов мог вместить до 27 человек, как тягач для легких орудий или прицепов. Подходила машина и для геологов, нефтяников, и других покорителей труднодоступных мест.
Но производство так и не началось, возможно по причине несостыковок в профильных ведомствах.