Изначально это место никак не называлось, здесь были дремучие леса, в которых обитала горстка монахов, ведущих иноческий образ жизни. В 1899 году тут появился разъезд №19 Московско-Киево-Воронежской железной дороги.

Спустя шесть лет в Москве произошли события, неразрывно связанные с этой местностью. 4 февраля 1905 года эсер Иван Каляев возле здания совета судебных установлений совершил убийство великого князя Сергея Александровича Романова. Ровно через год калужский губернатор Александр Офросимов на заседании Императорского православного палестинского общества сообщил, что недалеко от 19-го разъезда в сосновом бору будет основан храм в память убиенного Романова. «Дать сему месту название Сергиев Скит», — распорядился он. Об этом сообщает газета «Калужские губернские ведомости» за номером 18 от 1906 года.

Храм был построен и освящен 5 июля 1907 года. В тот же год открыл двери инвалидный (странноприимный) дом, рассчитанный на десять человек. Еще через год архимандрит Герасим обратился к губернатору с прошением Архимандрит просил упорядочить продажу железнодорожных билетов до станций Воротынск и Тихонова Пустынь, установить в здании разъезда иконы для пассажиров, кружки для сбора пожертвований и ящик для продажи свечей, открыть на разъезде пункт выдачи багажа, прибывшего для обители, и построить телеграфную линию. Почти все просьбы, за исключением просьбы построить телеграф и установить кружку для пожертвований, были удовлетворены.

Так образовалась станция Сергиев Скит, которая расширилась за счет часовни и дома монаха, а также деревянного домика, построенного для великой княгини Елизаветы Федоровны, вдовы Сергея Александровича.

В 1918 году все здания были национализированы. На территории церкви Сергия Радонежского был открыт дом отдыха имени Фрунзе. Церковное имущество растащили, поселения разграбили. Ныне от построек скита ничего не осталось. Уцелела лишь водонапорная башня.

Во время Великой Отечественной войны разъезд сильно не пострадал. Сергиев Скит освободили через неделю после того, как была освобождена Калуга, в январе 1942 года.

Долгое время на станции был всего лишь один одноэтажный дом В нем находились квартиры железнодорожников, комната дежурного по станции и зал ожидания для пассажиров. Чуть позже были построены еще два домика. Один – для связистов, другой — для путевых обходчиков. За сутки здесь останавливалось два поезда, с которых сходило максимум пассажира три. Некоторые из приезжих добирались до Калуги пешком, автобусного сообщения тогда не было.

26 мая 1959 года, в день введения летнего расписания движения на железных дорогах, начала обслуживать пассажиров новая станция Калуга II. Название это утвердили 12 декабря 1958 года.

Появилось автобусное сообщение между станцией и городом, станционное здание переоборудовали, построили багажное отделение, камеры хранения, а также павильон-буфет «Ландыш».

Через год, 1 сентября 1960 г. , было открыто новое здание станции Калуга II с большим залом ожидания, рестораном, камерами хранения, справочным бюро, медпунктом.

1981 году станция прославилась на всю страну. В фильме Татьяны Лиозновой «Карнавал» роль вокзала города Оханска играет станция Калуга II. В следующем фильме режиссера «Мы, нижеподписавшиеся» вокзал города Куманево вновь играет Калуга II.