Старое здание Филармонии находилось на ул. Сумской, 10 и было взорвано в 1989 году, вследствие неудавшейся попытки его реконструкции.
После этого Филармония была переведена в помещение бывшего оперного театра, который является памятником архитектуры. Здесь в 1896 году Альфред Федецкий провёл первый киносеанс на Украине, а в 1929 году в эфир вышла первая украинская радиостанция.
В 1986 года в составе Филармонии открыт Дом органной и камерной музыки — в помещении Успенского собора.
В 2009 году глава Харьковской областной государственной администрации А. Б. Аваков подписал решение о передаче Успенского Собора в ведение Харьковской епархииУкраинской Православной Церкви, в котором размещён орган, принадлежащий филармонии. До 2010 года в Соборе параллельно по согласованному графику будут проходить концерты органной музыки и церковные службы[2]. В начале 2009 года был подписан контракт на строительство нового органа «Alexander Schuke» (4 мануала, 72 регистра)[3] в новом строящемся филармоническом комплексе[4], где с 2010 года должен будет разместиться Органный Зал Харьковской филармонии[5][6]. После открытия нового филармонического комплекса Успенский Собор полностью перейдет в ведение Епархии[2].