Клуб је основан 1924. године када је била окупљена екипа под надзором ОППВ (одељење Основне војне обуке у бившем Совјетском Савезу) која је почела да се такмичи у првенству Москве.
Клуб је први пут заиграо у првенству Совјетског Савеза под именом ЦДКА (што би могло да буде преведено као Централни дом Црвене армије) 1938. године. Вреди напоменути да је првенство Совјетског Савеза пре 1937. године било у ствари такмичење градова а не тимова, и да је тим Москве са играчима ЦДКА у свом саставу освајао турнир три пута (1924, 1928 и 1935. године). После Другог светског рата ЦДКА поново учествује у првенству Совјетског Савеза и одмах осваја прво место.
Клуб је 1955. године преименован у ЦСК МО (Централни спортски клуб Министарства одбране), али тим није остваривао запажене резултате до усвајања његовог садашњег имена 1960. године. На челу са Јевгенијем Алексејевим и касније Арменаком Алачачјаном, ЦСКА осваја неколико титула у домаћем шампионату и три Европска купа 1961, 1963 и 1969. године.
Година 1969. је означила почетак велике ере на челу са Александром Гомељским. Током његовог вођства које је трајало до 1980. године, ЦСКА није освојио титулу у првенству Совјетског Савеза само једанпут. Чак шта више додата је још једна титула европског шампиона 1971. године. ЦСКА је наставио победнички низ под Јуријем Селиковим и Сергејем Беловим који су поставили вечити рекорд од осам узастопних титула у домаћем шампионату.
Последње године постојања Совјетског Савеза обележене су жестоким ривалством између ЦСКА и Жалгириса. Након распада државе клуб није имао праве ривале у руском првенству. Под вођством тренера Станислава Јеремина освајају 9 узастопних титула. Након тога следе две године без трофеја што је натерало председника Александра Гомељеског на значајне промене.
До великог помака у тимској и клупској инфраструктури дошло је под вођством Душана Ивковића када је ЦСКА повратио доминацију у домаћој лиги и постао вишегодишњи узастопни учесник Фајнал фора Евролиге. Ипак, први успех у Европи дошао је под вођством Етореа Месине када су освојене две титуле у Евролиги 2006. и 2008. године.
ЦСКА на турниру у Бањалуци
ЦСКА Москва је уочи почетка 2023/24 сезоне узела учешће на кошаркашком турниру у Бањалуци, на ком је освојила друго мјесто.[1]