Pirmos istorinės žinios apie Žaliąjį tiltą yra iš 1529-ųjų metų. Tuomet Vilniaus vaivada Albrechtas Goštautas gavo privilegiją mūriniam tiltui statyti. Įdomu tai, kad norint pervažiuoti tiltą – reikėjo susimokėti. Kol kas nenustatyta, kada pirmą kartą tiltas sunyko.
Pirmąjį kartą tiltas buvo atstatytas XVII a. pradžioje. Tiltas ilgai negyvavo, mat 1655 . Vilnių puolant Maskvos kariuomenei, etmono Jonušo Radvilo įsakymu tiltą sudegino. Vėliau, apie 1670 sostinėje imtasi statyti įspūdingą, didžiausią Europoje arkinį tiltą, kuris 1673 m. sugriuvo. Iki 1800 m. pradžios tiltas buvo sugriuvęs dar du kartus. 1766 m. medinės dalys buvo nudažytos žalia spalva, būtent nuo to laiko jam prigijo Žaliojo tilto pavadinimas.
Tiltas buvo sugriuvęs, atstatytas ir degintas dar tris kartus. Paskutinį kartą, Antrojo pasaulinio karo metu tiltą susprogdino atsitraukiantys vokiečiai. Tiltas buvo susprogdintas kartu su kitais strateginiais sostinės objektais: dujų fabriku, vandens pumpavimo stotimi, elektrine bei kitais mieste esančiais tiltais.
Visgi tiltą reikėjo galutinai demontuoti, o tam metalines konstrukcijas teko sprogdinti dar kartą. Dėl darbuotojų aplaidumo darbai nepraėjo taip sklandžiai, kaip tikėtasi: nesudaryta nei sprogdinimo darbų projekto, nei elementarių paskaičiavimų, o darbai prasidėjo negavus leidimo. Tiltas sprogo. Sprogimas buvo toks stiprus, kad išbyrėjo netoliese esančių pastatų langai ir suskilinėjo jų konstrukcijos. Tiltą (jau sėkmingai) sprogdino dar ir dar. Tik po to galima buvo kalbėti apie Žaliojo tilto atstatymą, o kol jo nebuvo – šalia pastatė laikiną medinį tiltą.
Dabartinė, vienarkio tilto versija atsirado 1952 metais, jam suteiktas I. Černiachovkio vardas. Tais pačiais metais ant keturių tilto kampų iškilo sovietinės skulptūros.