После того как Смоленск был присоединен к Московскому государству, царь Федор Иоаннович при учете притязаний на Смоленск польского короля всерьез задумался об укреплении обороны города. Именно тогда государь принял решение воздвигнуть крепость, что соответствовала бы правилам современного искусства войны.

Начало строительство было положено в 1587 году. Но работа продвигалась достаточно медленно: до самого восхождения на трон Бориса Годунова. В связи с этим по его специальному поручению в Смоленске строительство крепости возобновилось со всем старанием и спешкой.

Исторически считается, что стена крепости частично строилась на местах старых укреплений. Своеобразные деревянные сваи, которые сгнили, заменяли на новые. Данный факт можно опровергнуть, так как стена Годунова нигде не имела вала, на котором строились ранние земляные сооружения. К тому же, изначальный фундамент для каменных построек Годунова не годился. Нагрузка на него была намного выше, чем при деревянных укреплениях.

Смоленская крепость в те времена не имела значительных отличий от московского Белого города, так как по ее подобию располагалась вблизи старого земляного вала. Единственное отличие в том, что новая крепость не повторяла контуров деревянного укрепления: стена была заложена намного шире, чем ранее.