Здание вокзала было построено в 1869 году в связи с открытием станции Рославль. Его центральная часть была одноэтажной с высокими зальными потолками, два боковых флигеля — двухэтажные для служебных помещений. Вокзал был компактным и одновременно просторным и удобным для пассажиров.
В середине 1980-х была проведена масштабная реконструкция станции Рославль: удлинены пути для пропуска длинносоставных и тяжеловесных поездов, стрелки и сигналы переведены на электрическое управление, что позволило увеличить пропускную способность железнодорожного узла.
Обновление коснулось и здания железнодорожного вокзала. Его фасад получил современную единую красочную цветовую гамму строений РЖД, прилегающую территорию благоустроили. Рядом находится автовокзал, что очень удобно для пассажиров, продолжающих путешествие на другом виде транспорта.