Nazwa pochodzi od tego, że w jednym z dworków, należącym do bielańskich kamedułów w XVIII w. hodowano kozły.

Tędy właśnie biegł trakt Czersk Zakroczym, jednak na przełomie XIV i XV w. została zdegradowana do roli uliczki gospodarczej o nazwie Tylna. Była również granicą jurysdykcji nowomiejskiej, biegnącą w stronę klasztoru franciszkanów, więc zwano ją czasem Ku Franciszkanom. Skomplikowane zależności własnościowe nadały ulicy kształt litery L, dlatego nazywano ją również Zakośną. Najpierw skrócono ją pod Wały Zygmuntowskie w 1621, potem zabrał trochę zakon franciszkański w 1647, a od południa znikała na posesjach mieszczańskich. Takiemu zabieraniu dobra miejskiego władze nie miały już siły ani środków, aby się przeciwstawiać. W 1762 istniało tu 8 parterowych budynków, głównie drewnianych: 8, 10, 12, 14, 16, 18, 26 i 28. W czasie powstania kościuszkowskiego zabudowa spłonęła na skutek zaciętych walk.Dopiero w XIX w. stanęły tu domy murowane, jeden należący nawet do książąt Czetwertyńskich (nr 9 od 1819, umieścili oni tu od 1830 Hotel Płocki), inny do kupca Jana Jasińskiego z 1820-1. Po drugiej stronie ulicy stały dworek kamedułów, starosty gostyńskiego Antoniego Lasockiego (nr 11), Szamborskiego (nr 9), Zboińskiego (nr 7), Rogowskiego, Szamoty, Zielińskiego (nr 5). W XIX w. stały tu kamienice płk Wolickiego (nr 4 z 1911-2), Seweryna Kardaszyńskiego (nr 6 z 1911-2), Marii Skorupko (nr 9 sprzed 1914). Pod nr 28 powstała czynszówka z narożną wieżą wykuszem. Mieszkała tu jednak głównie ludność żydowska, w 1930 do Żydów należało 11 domów na 21. W 1944 ulica spłonęła; odbudowano ją, z braku ikonografii przedwojennej, po jednej stronie stawiając gustowne kamieniczki, po drugiej bloki i garaże w stylu późnego Gomułki.
Stan obecny:Nr 4: Kamienica Jana Adolfa Jasińskiego. Powstała w 1820-1 wg proj. Fryderyka A. Lessla. W 1911 dom podwyższono do 4 pięter dla płk Wolickiego. W 1944 kamienica spłonęła i odbudowano ją do pierwotnych 2 pięter w 1955.

Nr 9: od 1830 działał tu Hotel Płocki na parceli książąt Józefa i Leopolda Czetwertyńskich. Pod koniec XIX w. od frontu stanęła tu czteropiętrowa kamienica.

Nr 12: Oficyny frontowe. Powstały ok. 1790 dla kamienicy Freta 39 na miejscu kamienicy z ok. 1734, należącej do gminnego Nowej Warszawy, Wernera, a od 1770 należała do Salwatorów, w 1784 do Eyzbacha. W 1944 zabudowa została spalona, odtworzono ją jednak mocno dowolnie.
Bloki osiedlaNowe Miasto. Powstały w 1948-52 wg proj. Stanisława Brukalskiego.
 

Data nadania nazwy: 1770 rok