Одним из декоративных элементов на крыше Исторического музея является позолоченный флюгер с фигурой единорога. Единорог считался символом чистоты, непорочности и мужественности, изображался на золотых российских монетах, начиная со времён великого князя Ивана III и оканчивая правлением царя Алексея Михайловича Романова, на государственных и личных печатях русских царей в качестве государственной эмблемы, пока не уступил место двуглавому орлу. К XVI веку единорог появился в гербах знаменитых дворянских родов. Часто изображается в оборонительной позиции, наподобие вставшего на дыбы коня, с наклонённым к земле рогом. Дома именитых и знатных людей имели этот удивительный элемент внешнего убранства, чтобы подчеркнуть свой особый статус и выделиться на фоне других домов.