Nach dem Abitur, das er in Görlitz ablegte, studierte er von 1851 bis 1853 Theologie in Leipzig. Für ein Jahr ging er dann an die Universität Halle. Nach dem Examen wirkte er als Lehrer in Hamburg, dann bis 1864 als Lehrer in Altenburg. Ab 1864 übernahm er eine Pfarrstelle in Lerchenborn.
Der Autor machte sich einen Namen mit der Veröffentlichung eines zweibändigen Sagenbuches der Lausitz (1862/1863). Damit gewann er einen Preis der Oberlausitzischen Gesellschaft der Wissenschaften. Weiter veröffentlichte er Aufsätze und Schriften zur Geschichte des Altertums. Er betrieb archäologischen und paläontologischen Forschungen. Seine beachtliche paläontologische Sammlung erwarb das mineralogische Museum der Universität Breslau.
Karl Haupt war Mitglied der Oberlausitzischen Gesellschaft der Wissenschaften.