Dráha Karla Chytila, historika umění a prvního ředitele Uměleckoprůmyslového musea v Praze začala ryze akademicky. Ve svých dvaadvaceti letech nastoupil na filozofickou fakultu Univerzity Karlovy v Praze a po třech letech studia a po ročním studijním pobytu ve Vídni, kde navštěvoval přednášky M. Thausinga z dějin umění v Ústavu pro rakouský dějezpyt, se definitivně rozhodl pro vědeckou dráhu v kunsthistorii. Do prvního zaměstnání po studiích nastoupil jako suplent dějepisu a zeměpisu na české reálce. Roku 1882 byl v Praze promován na doktora filozofie.
V jeho době bylo obvyklé, že rozsah zájmu historiků umění byl spíše mnohostranný a nevěnovali se jen jednomu období. Ani Karel Chytil nebyl výjimkou, přesto si už od dob studií vybral období středověku, kterému zůstal věrný až do smrti. V něm upřednostňoval umění gotické, ve kterém se zaměřil na studium zejména nástěnného, knižního a deskového malířství, ale věnoval se i lucemburské architektuře. Se stejným zaujetím se ale soustředil také na téma manýrismu, především dobu Rudolfa II., ale i období o hodně mladší, malířství 18. a 19. století. Reflektoval téma probouzejícího se zájmu o umělecký průmysl – jeho zájem o tuto oblast pramenil z rodinného zázemí, kdy jej obklopovaly předměty ze skla a porcelánu.
Rok 1885 byl pro ještě ne třicetiletého Karla Chytila rokem velmi významným – vyhrál konkurs Obchodní a živnostenské komory na místo kustoda Uměleckoprůmyslového musea. Komora si kladla požadavek znalosti dvou jazyků a dějin umění, což Chytil splňoval. 4. července 1885 byl jmenován prvním kustodem a svého úkolu se ujal velmi zodpovědně. Snad každý rok vycestoval do některé z evropských zemí, aby tam navštívil nejvýznamnější uměleckoprůmyslová muzea či výstavu. Měl mimořádné organizační schopnosti. Jak zjistila Jana Marešová, která zkoumala jeho pozůstalost uloženou v Národním muzeu, Karel Chytil u sebe neustále nosil poznámkový blok a tužku a při svých cestách a návštěvách muzeí hledal především inspiraci – všímal si způsobu vystavení exponátů, sklonu, připevnění, osvětlení i koncepce interiéru budovy. Zajímaly ho i metodické otázky katalogizace a inventarizace jednotlivých předmětů a ročních přírůstků. Velmi se proto zasloužil i o samotnou stavbu muzea a jeho uspořádání a v roce 1895, kdy už vyrůstala nová budova muzea, byl jmenován jeho prvním ředitelem. Chytil muzeum vybudoval na podkladě evropských zkušeností, včetně tehdy největší umělecké knihovny o 10 000 svazcích, kreslírny a sbírky modelů pro výtvarné řemeslníky. Muzeum řídil jako ústřední uměleckohistorickou instituci až do 1. února 1911.
Od roku 1895 vedl zpracování uměleckého místopisu Čech v Archeologické komisi Akademie věd. Roku 1897 se habilitoval na Karlově univerzitě, roku 1904 byl jmenován mimořádným profesorem dějin umění a od roku 1911 řádným profesorem a vedoucím katedry dějin umění na České universitě v Praze, kde působil až do svého pensionování roku 1927. Katedru proměnil v moderní Ústav dějin umění. Kromě toho byl docentem Českého vysokého učení technického v Praze. Roku 1913 založil spolek Kruh pro pěstování dějin umění, který v jeho redakci od roku 1916 vydával vlastní ročenku. Podílel se dvěma tituly na Soupisech památek historických a uměleckých v Království českém (Chrudim 1900; Korunovační klenoty Království českého, spolu s Antonínem Podlahou, 1912). Působil v Komisi pro soupis stavebních, uměleckých a historických památek královského hlavního města Prahy od jejího vzniku.