Tuto ulici dělila na část malostranskou a hradčanskou (tehdy ještě předměstskou) brána zv. Strahovská a později Hansturkovská, zřízená přibližně v místě domu čp. 2487/17. Hradčany povýšil na město roku 1592 Rudolf II.
Ulice byla nevídaně strmá
Obyvatelé kvůli tomu zadláždili do vozovky dřevěné trámky zv. krokve (německy der Sparren), umožňující zvířatům snáze se zapřít, takže se jí od 17. do 19. století říkalo Sparrengasse (Krokevní ulice), což se zkomolilo na Sporengasse (Ostruhová ulice). Současný název se užívá od roku 1895.
O zdejším náročném stoupání svědčí mj. popis jízdy kočáru vezoucího koncem 18. století na Pražský hrad Františka I.: „Zvířata těžce supěla do jejího svahu, sekají nohama a napínají kyčelní svaly, než jeden z ořů nesnesl bláznivého tempa a padnuv zcepeněl na místě.“

Koníkovi našeho prvního prezidenta T. G. Masaryka zřejmě strmost ulice nevadila, protože – jak vzpomínají očití svědkové – projížděl tudy na milovaném Hektorovi často a samozřejmě bez ozbrojeného doprovodu.
Malá Johanka se strachovala o Maury
Došlo k tomu tak, že Eustach Rott se šestiletou Johankou (budoucí spisovatelkou Karolinou Světlou) se při korunovaci Ferdinanda V. nedostali kvůli návalu lidí k zamluvenému oknu v jedné hradní budově, a museli zůstat v Nerudově ulici právě u paláce hrabat Morzinů čp. 256/5.

Aby Johanka dobře viděla kolem jedoucí průvod, vysadil ji otec k nohám jednoho z Maurů, kteří podpírali (a dodnes podpírají) balkon paláce, ale ona je začala litovat, že tam musí stát s takovou zátěží, a navíc jen napolo oblečení, takže je jim při špatném počasí zima. Uklidnila se teprve poté, co ji tatínek ujistil, že oba muže bere na noc do paláce portýr, který to duchapřítomně potvrdil a ještě dodal, že ti chlapíci jsou tak silní, že jim balkon připadá lehký jako peříčko.
Nejslavnější obyvatel Jan Neruda
Když byl Antonín Neruda prohlášen patentálním invalidou (který nemohl být zaopatřen pobytem v Invalidovně), nastěhoval se s manželkou a synem v polovině října roku 1835 do domu Bílý slon čp. 179/10 (dnes 179/12) v Thunovské ulici, kde měli v druhém patře jednu světnici s kuchyní.

Protože jeho nepatrná penze ani s manželčiným výdělkem nestačily na obživu, odvezl Antonín Neruda v roce 1836 rodinu do rodných Zásmuk, kde si zřídil trafiku. Roku 1838 se však vrátili do Prahy, našli si byt v domě Osel u kolébky, který se rozložil mezi ulicí Jánský vršek čp. 312/8 a Nerudova čp. 244/25, kde bydleli v letech 1839—1941 a rodiče tu vedli hokynářství. Odehrává se tu děj povídky Týden v tichém domě. Od roku 1841 žili v přízemním bytě domu U Tří černých orlů čp. 225/44 a v letech 1845 až 1857 v domě U Dvou slunců čp. 233/47. Otec zde provozoval trafiku a maminka posluhovala.
Po otcově smrti, tedy roku 1857, zařídil Jan Neruda přestěhování opět do domu U Tří černých orlů čp. 225/44, kde se maminka ujala trafiky. Když 9. září roku 1869 zemřela, přestěhoval se do vedlejšího domu U Tří stupňů čp. 224/42, ale po roce Malou Stranu, kde žil téměř pětatřicet let, opustil, a přestěhoval se do Vladislavovy ulice.
Dvě perličky na závěr
První je to tom, že kromě plánované ozubené elektrické dráhy a první pražské autobusové linky jezdící od března 1908 do listopadu 1909, absolvovaly ve strmé ulici úspěšně zkušební jízdu tři elektromobily F. Křižíka. Druhá perlička připomene, že v domě čp. 215/24 býval klášter theatinu neboli kajetánů, kteří zde vychovávali šlechtické synky, a když byl řád roku 1783 Josefem II. zrušen, jeden soukromník zde povolil soukromé divadlo hlavně sazečům, a v letech 1834—1837 tu hráli čeští vlastenci.