Pályakezdése Kolozsvárhoz és Pesthez kötődik, ahol művészképzés hiányában mérnöki tanulmányokat végzett, majd kisebb megszakítások után 1822-től a bécsi akadémián folytatódtak a felkészülés évei. Itt érlelődött meg benne az itáliai utazás vágya, s először 1832-ben érkezett Rómába. Az évek során számos, főleg főúri és fejedelmi megrendelést kapott, amelyek elsősorban bibliai és mitológiai jelenetekre vonatkoztak, de Markó egyre inkább a tájfestészetben találta meg önálló hangját. Hasonlóképpen nagy kedvvel örökítette meg a hétköznapi élet jeleneteit.
Hosszabb ideig dolgozott Pisában és Firenzében, emellett képeket küldött a budapesti Műegylet kiállításaira is. 1848-ban a Firenzéhez közeli Villa l’Appeggiben telepedett le. Olasz tanítványai mellett gyermekei, ifj. Károly, András, Ferenc és Katalin szintén a művészpályát választották, ám gyakori vendég volt műtermében Kovács Mihály, Molnár József, valamint Ligeti Antal, aki – Telepy Károlyhoz hasonlóan – Markó tájfelfogásának talán leghűbb őrzője.
Az ötvenes évekre datált, diófapáccal készült, szabadon kavargó vonalakkal felvázolt tájai már teljesen elrugaszkodtak az eredeti látványtól, nem vázlatok, hanem a tájrészlet gyors észlelését és rögzítését szinte rutinszerűen végző művész magabiztos, érett alkotásainak tekinthetők. Ellentmondásos egyéniségéből fakadóan nagy képeinek komponálási módszere viszont szigorúan, szinte mérnöki pontossággal követte az akadémián tanultakat.
1853-ban látogatott Magyarországra, ahol a művészkörök és a kritikusok nagy revelációval fogadták. Itt készült képei a magyar alföldi táj legszebb ábrázolásai közé sorolhatók. Halála után, 1872-ben nagy kitűntetés érte: fia, ifj. Károly ajándékaként egy önarcképe a firenzei Uffizi Képtár portrégalériájába kerülhetett. Művei megtalálhatók többek között a bécsi, pozsonyi, kassai, barcelonai, koppenhágai és mexikóvárosi közgyűjteményekben is.
A kiállítás anyagát Hessky Orsolya válogatta nagyrészt a Kovács Gábor Gyűjtemény anyagából, amelyet a kolozsvári Szépművészeti Múzeum három műve, illetve a Magyar Nemzeti Galéria festményei és grafikái egészítenek ki.