Первое здание вокзала, одноэтажное деревянное на 50 пассажиров, было построено в 1902 году и приурочено к открытию Виндавской железной дороги. Вокзал был достаточно вместительным, имел буфет и зал ожиданий для пассажиров I, II, и III классов.
Город Ржев стал одним из самых известных городов-фронтов в годы Великой Отечественной войны. В 1941 году в результате жесточайших обстрелов и бомбежек здание вокзала было уничтожено, как и большинство зданий, прилегающих к железной дороге.
Вокзал Ржев-Балтийский был отстроен заново в начале 1952 года, на 300 метров левее старого здания, уничтоженного немецкими оккупантами.
Вокзалы справедливо считаются лицом и воротами города. К существующему ныне железнодорожному вокзалу станции Ржев-Балтийский вели в начале ХХ века из города Ново-Ямская улица (ныне улица Мира) и Виндавское (ныне Московское) шоссе.
«Справочник Московско-Виндавской железной дороги» гласит:
«От границы Ржевского уезда полотно железной дороги на 221 версте подходит к городу Ржеву с южной стороны его».
Столичный житель, следующий в сторону Риги, выйдя из вагона поезда, попадал на вокзал станции Ржев.
Пассажирское здание было довольно вместительное, с буфетами и залом ожидания как для пассажиров I и II классов, так и для пассажиров III класса. Первое деревянное здание вокзала, именуемого сейчас Ржев-II, или Ржев-Балтийский, было построено в 1902 году и приурочено к открытию Виндавской железной дороги. Здание вокзала находилось в конце Виндавского (Московского) шоссе примерно метров на 300 западнее современного здания, неподалеку от поворотного круга локомотивного депо.
28 августа 1920 года, во время проведения первой после Октябрьской революции Всероссийской переписи населения, станцию Ржев-Балтийский проезжал В.И. Ленин, направлявшийся вместе со своим братом Дмитрием на поезде из Москвы на охоту в Бельские леса. Во время остановки поезда Ленин и прошел перепись. В институте марксизма-ленинизма до последнего времени хранился личный листок Ленина, статистическая карточка № 477, заполненная во втором вагоне поезда № 3. В честь этого события на современном здании вокзала открыта мемориальная доска.
После окончания Великой Отечественной войны здание было восстановлено, но из-за расширения территории станции и увеличения числа станционных путей возникла необходимость в переносе здания вокзала на 300 метров левее старого здания.
После войны было подготовлено множество проектов восстановления ржевских зданий, в том числе в июльском номере (№ 29) журнала «Огонек» за 1946 год был опубликован проект вокзала станции Ржев-II, разработанный Центральной архитектурной мастерской Союзтранспорта МПС СССР (автор – архитектор Н. Д. Панченко). В подписи под цветным рисунком говорилось, что вместо деревянного вокзала, уничтоженного немецкими оккупантами, будет сооружен каменный. Во внутренней отделке здания было решено применять разноцветный мрамор и ценные породы дерева. Плафоны и фризы помещений вокзала планировалось оформить лепными украшениями и росписью, отображающей героику Великой Отечественной войны.
Вокзал Ржев-II был отстроен заново в начале 1952 года, однако ввиду экономии средств его бюджет был урезан. Планы и проекты грандиозного сооружения остались лишь на бумаге.
Действующее здание вокзала Ржев-Балтийский было построено по типовому проекту, выполненному архитекторами Мосгипротранса А.В.Кулагиным и В.М.Масленниковым.