Нынешнее название улица получила после 1756 года, когда купец Гаррах (в народе Горох, Горохов) построил на ней каменный дом и открыл лавку.

В доме № 2 по Гороховой улице с 1918 года находилась Всероссийская чрезвычайная комиссия Совета народных комиссаров по борьбе с контрреволюцией и саботажем (ВЧК), которую возглавлял Ф. Э. Дзержинский. В том же году улицу переименовали в Комисса́ровскую, а затем в 1927 году — в у́лицу Дзержи́нского. Прежнее название — Гороховая — вернули в 1991 году.

В советские годы существовали планы по продлению Гороховой улицы за Пионерскую площадь (Невский продлился Заневским проспектом, а Вознесенский и Измайловский — Новоизмайловским). С этой целью ровно в створе Гороховой улицы проложили Софийскую улицу. Также в Волкове по этой оси построили дома №№ 2 и 4 по Волковскому проспекту, а также №№ 20, 22 и 24 по улице Салова. Трасса бы прошла через Волковское кладбище, а также через целые кварталы снесенных старинных домов в районе будущей станции метро «Обводный канал» Однако масштабные планы реализованы не были.