Вулицю було закладено у 1820 році під назвою Арнаутська. Тоді місто було обмежено кільцевою вулицею — Старопортофранківською. Таким чином Арнаутська вулиця перетинала все місто, починаючись із Старопортофранківської неподалік від мису Ланжерон (тепер ця ділянка називається вул. Леонтовича) і до Старопортофранківської, тільки на межі із Молдаванкою. Свою назву вулиця дістала від Арнаутської слободи — солдатського поселення[1], яке існувало в межах сучасних вулиць Леонтовича, Канатної, Малої Арнаутської; поселення складалося переважно з арнаутів. Приставку «Велика» вулиця дістала майже відразу по заснуванню, щоб відрізнятись він сусідньої Малої Арнаутської. Однак після перейменування останньої на вулицю Суворовську, у 1899 році, уточнення Велика знову було відкинуто.
За радянських часів вулицю назвали спочатку вулиця Гірша Леккерта[en] (у 1921—1945 роках), в честь 23-річного революціонера, якого стратили 10 червня1902 року за замах на губернатора Вільна, генерала фон Валя. Потім (у 1945 році) — вулиця Чкалова, в честь льотчика-полярника Валерія Чкалова. Із цією назвою вулиця проіснувала до 1994 року, коли було повернено історичну назву.