В середине XVIII века территорию занимали дворовые постройки и сады Воронцовского дворца и Аничкова дворца. В конце XVIII в. часть территории продана под застройку частным лицам. Проектные работы по реконструкции района начаты в 1816 году Комитетом для строений и гидравлических работ. В 1827 году специальная комиссия при Кабинете его императорского величества произвела оценку участков.

Современный ансамбль улицы Зодчего Росси формировался в 1828—1834 годах по проекту Карла Ивановича Росси (за что и получила своё современное название в 1923 году).

В доме № 1/3 первоначально предполагали разместить военно-учебные заведения. Однако в итоге там размещалось Министерство народного просвещения и внутренних дел. Сейчас там располагаются различные ведомства. Правительство города планирует освободить здание от арендаторов. В том числе, решено переселить отсюда «Горэлектротранс»[1].

На противоположной стороне улицы располагается дом № 2, который изначально был построен как доходный Департамента уделов Министерства императорского двора. В своё время на первом этаже здесь располагались лавки купцов Дейтера, Колпакова, Низовского, фарфоровых, стеклянных и бумажной фабрик. Во втором и третьем этажах устроили гостиницу и жилые помещения[2]. Ввиду протестов купцов Гостиного двора, обратившихся к Николаю I с петицией о защите их от конкуренции, в 1836 году поступил высочайший приказ о передаче здания Дирекции императорских театров. После изменения фасада (аркады были заложены, арки превращены в оконные ниши) и интерьеров, произведённой по проекту архитектора А. К. Кавоса, туда въехало Санкт-Петербургское Императорское театральное училище (ныне Академия русского балета имени А. Я. Вагановой), которое закончили многие выдающиеся мастера театра и балета. Благодаря этому дом № 2 стал одним из центров театральной жизни Петербурга. Долгое время вплоть до 1917 года в части здания, примыкающей к площади Островского располагалась Дирекция Императорских театров, помещения которой в 1918 году занял Санкт-Петербургский музей музыкального и театрального искусства, действующий поныне. Кроме него сегодня в этой части здания находится Санкт-Петербургская театральная библиотека — уникальное в мире собрание материалов по истории театрального искусства. В средней части корпуса расположилась Музыкальная библиотека Мариинского театра, основанная в начале XIX века. В части дома, примыкающей к площади Ломоносова, в 1998 году восстановлен православный храм во имя Святой Троицы.