Nazwa pochodzi od nazwiska Kozioł, właściciela okolicznych gruntów.
Powstała w XIV w. jako łącznik między traktem Czerskim a Senatorską. Zwana wtedy była ul. Kozłową, Kozła lub Kozią. Między domami 59 i 61 biegła uliczka Krótka. Ulica Kozia stanowiła dojazd do tylnych posesji Krakowskiego Przedmieścia. W poł. XVI w. stało tu 47 drewnianych budynków. Posesje stanowiły własność bogatszych mieszczan: krawców, kuśnierzy, czapników, rzeźników, piwowarów, trębaczy, cyrulików. W XVII w. stało tu już kilka kamieniczek: Jakuba Rosochy (39), muzyka Adameckiego, Erchardowska, Bischoffa. W czasie potopu szwedzkiego zabudowa została zniszczona, ale w 1669 stało tu już z powrotem 26 drewniaków i 9 kamienic. Od ok. 1743 nazwa została ustalona na Kozia stały tu już 23 kamienice i tylko 3 drewniaki. W XIX w. była to ulica hoteli. W 1865 zabudowano łącznik z Krakowskim Przedmieściem, ul. Krótką (na wysokości Resursy Obywatelskiej). W 1876 ulice wybrukowano, a w 1900 zamieniono na dzisiejszą kostkę, ulica nosiła nazwę Junkierska, od szkoły oficerskiej działającej w pałacu Prymasowskim. Nazwa dzisiejsza powróciła w 1919. W 1944, choć ulica została spalona, zachowały się fasady większości kamienic, jednak podczas odbudowy w 1949-51 rozebrano je i postawiono kamieniczki w stylu historycznym wg proj. Teodora Bursche, Anny Boye-Guerquin, Jana Idzikowskiego, Władysława Witkowskiego, Wandy Netto i Franciszka Kumanta.
Stan obecny:
Nr 1: kamienica Barszczewiczowska. Powstała w 1743 dla Barszczewicza. Już w 1754 należała do pierwszego ministra saskiego dworu, Henryka Brühla, który prawdopodobnie nieco przebudował kamienicę. W 1784 należała ona już do księcia Mikołaja Radziwiłła, a w 1819 do Andrzeja Brzezińskiego. Jego żona, Katarzyna, przeprowadziła w 1820 generalny remont budynku. W 1869-1920 mieścił się tu hotel Kowieński, później Włoski. W drugiej poł. XIX w. budynek stracił wystrój fasady, ale dotrwał bez zmian do 1944, kiedy to zostal spalony. Odbudowano go w 1949, ale już bez oficyn.
Nr 3\5: hotel de Saxe. Początkowo były to 2 posesje. Pod nr 3 przed 1743 powstała kamienica Gorczyńskiego, pod koniec XVIII w. wzmiankowana jako własność Ludwicha. Ok. 1796 na tyle posesji zbudowano kilka budynków gospodarczych. W 1808 stały już oficyny boczne, a ok. 1822 dostawiono aneks. W 1815 założono tu zajazd Berdyczkowski, który w 1819 był własnością Andrzeja Faliniego, a w 1832 wykupiła rodzina warszawskich śpiewaków, Reszków. Pod nr 5 w 1743 stały stajnie kpt. Piotra Hiża, architekta wojskowego, który prawdopodobnie zaprojektował najstarsze części budynków. W 1784 właścicielem ziemi był Rafałowicz, a w 1797 stała tu już kamienica Strafera. W 1784 dostawiono kolejną partię budynku, odbudowując przejazd. W 1819 właścicielką była Maria Dadań. W 1822 połączono wszystkie części budynku. Hotel powstał w 1847, łącząc w jedno kamienice 3,5,8 i 12, a także Krakowskie Przedmieście 37 i 39. Był to największy hotel w Warszawie, mający ok. 100 pokoi. Projektantem wszelkich przeróbek hotelowych był prawdopodobnie Józef Bobiński. Mieszkał tu po przybyciu z Petersburga Romuald Traugutt w 1863. Zameldowany był jako kupiec galicyjski, Mikołaj Czarnecki. W 1878-9 Adolf Woliński dostawił dwie trzypiętrowe oficyny na nr 5. W okresie międzywojennym podupadł na korzyść Europejskiego. W 1944 zabudowania hotelowe spłonęły, ale zachowały się w dużej części. W 1948 kamienice odnowiono, wprowadzając pewne zmiany.
Most Westchnień. Łącznik zbudowany w 1750, z arkadą przejazdową. Łączył hotelowe kamienice po obu stronach ulicy.
Nr 4: oficyna kamienicy cechu rzeźników.
Nr 6: oficyna kamienicy Guchweterowskiej (drugi adres: Krakowskie Przedmieście 31).
Nr 8: oficyna kamienicy Greyowskiej (drugi adres: Krakowskie Przedmieście 33)
Nr 9: blok mieszkalny. Mieszkał tu Marian Dobrosielski (ur. 1923) - profesor filozofii, autor wielu publikacji naukowych a także przekładów aforyzmów takich twórców, jak O. Wilde, G. Ch. Lichtenberg, M. von Ebner-Eschenbach i K. Kraus, wydanych w serii "Biblioteczka Aforystów" PIW. Jego sąsiadami byli Krystyna Król-Dobrowolska (ur. 1924) i Jan Jeremi Dobrowolski (1920-2006) - małżeństwo architektów tworzących obiekty związane z komunikacją lotniczą i samochodową. Zaprojektowali m.in. Międzynarodowy (1969) i Krajowy Port Lotniczy na Okęciu (1975) - ten pierwszy przetrwał do lat 90-tych. Do grona lokatorów zaliczał się również Michał Grendys (1912-1987) - prawnik, poseł na Sejm PRL w latach 1957-80 z ramienia Stronnictwa Demokratycznego, w latach 1971-83 wiceprzewodniczący Ogólnopolskiego Komitetu Frontu Jedności Narodu. Kolejnym mieszkańcem był profesor Brunon Hołyst (ur. 1930) - prawnik, specjalista w zakresie kryminalistyki, kryminologii, suicydologii, wiktymologii oraz terroryzmu, autor ponad 20 książek, w tym "Kryminalistyki" i "Krymonologii".
Nr 11: altana pałacu Prymasowskiego. Powstała w 1779-85 wg proj. Eiframa Schroegera i Szymona B. Zuga. W XIX w. budynek przedłużono. W 1951, w trakcie odbudowy, powrócono do pierwotnej wielkości altany. Mieści się tu obecnie Muzeum Karykatury, założone przez Eryka Lipińskiego, znanego satyryka i rysownika.
Nr 12: oficyna kamienicy Hiża (drugi adres: Krakowskie Przedmieście37). Od 1847 mieściły się tu pokoje hotelu de Saxe.
Nr 16: oficyna kamienicy Cechu Krawców (drugi adres: Krakowskie Przedmieście 41).
Nr 20: oficyna kamienicy Skalskiego (drugi adres: Krakowskie Przedmieście 45)
~ Pałac Pod Gwiazdą. W 1645 posiadłość Grzegorza Krakowińskiego kupił podskarbi wielki koronny Jan Kazimierz Krasiński, burząc drewniany dworek i wystawiając dwupiętrowy pałac, z piętrowymi oficynami i dziedzińcem od Koziej. Swą nazwę pałac wziął od drewnianej, pozłacanej gwiazdy na szczycie, pochodzącej jeszcze z domu Krakowińskich. Odbyło się tu m.in. wesele Dobrogosta Krasińskiego (jego syna) z Teresą Chodkiewiczówną. Krasiński mieszkał tu do śmierci w 1668, potem pałac zmieniał właścicieli. Na koniec działała tu wielka piwiarnia, o nie najlepszej sławie. W 1887 zburzono pałac, przebijając wylot na Miodową.
Data nadania nazwy: początek XVI wieku