Название происходит от располагавшейся на территории кладбища церквиИоанна Богослова. Первоначально здесь хоронили умерших в военно-сухопутном госпитале.
С первой половины XVIII до середины XIX века кладбище располагалось примерно в 2,5 км южнее современного (в районе так называемого Куликова поля, в месте пересечения современных Арсенальной и Минеральной улиц). В 1788 году оно было закрыто.
Новое кладбище было основано в 1841 году. В 1844 году Синод утвердил проект каменной церкви, но денег на её строительство не нашлось, и в 1853—1854 годах была построена только небольшая двухэтажная часовня. В 1915—1916 годах на кладбище по проекту архитектора В. Н. Боброва была построена новая деревянная трёхпридельная церковь Иоанна Богослова, которая в 1938 году была разграблена и снесена вместе с частью кладбища, так как располагалась «в закрытой зоне военной организации». В октябре 2000 года была торжественно освящена вновь отстроенная деревянная церковь во имя Святого Апостола и Евангелиста Иоанна.
Знаменитый историк-краевед, знаток столичных некрополей Владимир Иванович Саитов (1849—1938), нашёл сведения о примечательных дореволюционных захоронениях на Богословском кладбище и включил туда 39 персоналий, составив справочник (см. фото ниже).
Зальцман, Исаак Моисеевич — генерал-майор, нарком танковой промышленности, директор Кировского завода и Челябинского тракторного завода — во время войны известного как Танкоград, Герой Социалистического труда.
Санкт-Петербург. Петроград. Ленинград: Энциклопедический справочник. Ред. коллегия Белова Л. Н., Булдаков Г. Н., Дегтярев А. Я. и др., М.: БРЭ. 1992. 687 с. ISBN 5-85270-037-1