Заснування університету відбулося за ініціативою Карла IV. 26 січня 1347 року Папа Климент VI підписав буллу про заснування університету за зразком Паризького.
1409 року богемський король Вацлав IV видав Кутногірський декрет, який надавав богемцям (чехам) переваги в управлінні університетом.
У 1654 році в рамках політики рекатолізації Богемії імператор Фердинанд II передав його в управління єзуїтам. Університет перейменували на Карло-Фердинандів, а в 1882 році поділили на чеську та німецьку частини. З 1920 року чеська частина має назву Карлів. Німецький університет у 1921—1939 роках розташовувався в Ліберці (Райхенберзі) на півночі Богемії. З кінця 1940-х Collegium Carolinum працює в Мюнхені[9].
Університет став першим німецькомовним університетом і навчання велося німецькою до кінця XIX століття.
З 1882 до 1939 року в університеті існують одночасно чеські та німецькі потоки. У 1902—1903 роках ректором університету був український хімік Іван Горбачевський. Після поразки нацистської Німеччини, за часів панування якої чеський потік було скасовано, з 1945 року університет став повністю чеськомовним.
Ярослав Зика — письменник-фантаст і професор хімії, у 1953—1970 роках очолював кафедру аналітичної хімії на факультеті природничих наук, в 1965—1968 був деканом фізико-математичного факультету.
A history of Charles university. - Prague : Charles univ. in Prague, 2001 . - ISBN 80-246-0023-4 (set).
Vol. 1 : 1348-1802 / Karel Beránek [et al.] ; ed. by Ivana Čornejová, Michal Svatoš ; with collab. of Petr Svobodný. - 2001. - 480 p. : ill., phot. - Бібліогр.: с. 461-470. - ISBN 80-246-0021-8
Vol. 2 : 1802-1990 / Jindřich Bečvář [et al.] ; ed. by Jan Havránek, Zdeněk Pousta. - 2001. - 406, [2] p. : ill., phot. - Бібліогр.: с. 383-399. - ISBN 80-246-0022-6
