В 1873 году было открыто движение по Либаво-Роменской железнодорожной линии, которая проходила через Жлобин, где тогдашняя станция носила название Остерман. Через тридцать лет она превратилась в крупный узел, что потребовало постройки пассажирского вокзала, сохранившегося до нашего времени, со стилистическими особенностями, типичными для модернизма.

Преобразования железнодорожного вокзала в Жлобине произошли значительно позже, особенно после Второй мировой войны, когда его пришлось восстанавливать почти с нуля. С появлением металлургического комбината и превращением Жлобина в крупный промышленный узел, старый вокзал не соответствовал новым требованиям.

Только в 2002-2004 годах была осуществлена его полная реконструкция, которая включила добавление нескольких новых зданий. Конструкция основного здания была украшена металлическими элементами и витражами. Внутреннее пространство здания теперь включает кассы, справочное бюро, магазины, кафе и гостиничные комнаты.