7 апреля 1348 года чешский и римский император Карл IV основал университет в Праге, получивший название по имени своего основателя. Карлов университет стал первым учебным заведением своего рода на территории Средней и Восточной Европы. Первоначально в состав университета входили 4 факультета: теологический, свободных искусств, юридический и медицинский.
В следующем столетии Карлов университет становится центром гуситского движения, предшествовавшего европейской реформации. В результате последовавшей затем социально-политической революции число факультетов сократилось до одного (факультет свободных искусств). Значительную роль в последующем возрождении университета сыграло правление Рудольфа II, который сделал Прагу культурной метрополией, центром просвещения и университетского образования.
После двухсот лет своего существования, в 1654 году Карлов университет по указу короля Фердинанда III был объединен с Иезуитским университетом в Клементинуме. Новое учебное заведение теперь называлось Карло-Фердинандов университет. Название это просуществовало вплоть до 1918 года. В 17 же столетии были обновлены все 4 факультета. Со временем из некогда обычного учебного заведения университет стал государственным образовательным учреждением современного типа, воспитывающим профессиональную прослойку интеллигенции.
В 1882 году в период обострения национально-политического движения Карло-Фердинандов Университет был разделен две части, одна из которых получила название Немецкий университет, вторую часть (чешскую) стали называть по-старому – Карлов университет.
На переломе столетий оба университета достигли больших успехов в науке. В Немецком университете, например, работал Альберт Эйнштейн. Карлов же университет воспитал деятелей, сыгравших значительную роль в становлении и развитии чешского государства в 20 столетии. Среди них был и профессор Томаш Масарик, ставший первым президентом независимой Чехословацкой республики в 1918 году.
В 1939 году при оккупации Чехословакии немецкими войсками деятельность Карлова университета была приостановлена, Немецкий же университет примкнул к союзу университетов рейха. Период Второй Мировой войны был одним из самых мрачных в истории Карлова университета, преподаватели и студенты подверглись преследованиям и репрессиям. Деятельность Карлова университета была возобновлена лишь в 1945 году. Тогда же перестал существовать Немецкий университет.
В последующие годы политический режим установил тотальный контроль над научно-исследовательской деятельностью и образованием в целом. 17 ноября 1989 года студенты именно Карлова университета вышли первыми на демонстрацию против тотального режима и дали, таким образом, толчок к ликвидации социалистического строя.
В настоящее время Карлов университет является современным престижным высшим учебным заведением, где обучается более 42 000 студентов из 48 стран мира. Карлов университет сотрудничает со большим числом европейских и международных организаций, входит в ассоциацию Европейских вузов, наряду с Оксфордом, Бонном, Сорбонной, Болоньей и Университетом Женевы. На сегодняшний день в состав университета входит 17 факультетов, из которых 14 расположены в Праге, 2 в Градце Кралове один — в Плзни.