In het zuidoosten van de Grote Karoo ligt het fraaie stadje Graaff Reinet, door zijn eigen bewoners het juweel van de Karoo genoemd. Het is de op drie na oudste stad van Zuid-Afrika. Het stadje heeft meer dan 200 nationale monumenten binnen zijn grenzen, een aantal dat door geen enkele andere stad in Zuid-Afrika wordt overtroffen. Het merendeel daarvan bestaat uit particuliere woonhuizen, waarvan de meeste prachtig gerestaureerd zijn. Helaas kun je ze niet allemaal bezoeken, maar ze zijn natuurlijk wel van buiten te bewonderen. Dat geldt ook voor het voormalige Sobukwe Huis, het woonhuis van Robert Sobukwe, de oprichter van het Pan African Congress (PAC). Sobukwe werd als leider van demonstraties tegen ondermeer de pasjeswet in begin jaren '60 opgepakt en op Robbenisland in eenzame opsluiting gevangen gezet.
Midden in het centrum ligt het oude Drostdy hotel uit 1806 (hoek Kerk- en Pastoriestraat). Deze Drostdy werd ontworpen door Louis Thibault uit Kaapstad. Hij kwam echter niet zelf uit Kaapstad over om toezicht te houden op de bouw en zijn ontwerp werd dan ook niet nauwkeurig uitgevoerd. Achter het hotel ligt Stretch's Court, een complex huisjes uit het midden van de 19e eeuw voor zwarte arbeiders en bevrijde slaven.
Om Graaff Reinet heen ligt het Camdeboo National Park, dat bestaat uit de Valley of Desolation (ofwel de Vallei der Verlatenheid) het Karoo Nature Reserve. De Valley of Desolation is een vallei met rotskolommen die tot meer dan 120 meter uit het dal oprijzen. De rotskolommen zijn het resultaat van een combinatie van vulkaanactiviteit, versteende magma en erosie van zo'n 160 miljoen jaar. Er is een korte wandelroute die langs verschillende uitzichtpunten leidt. Het is een echte aanrader om (mits het helder weer is) de prachtige zonsondergang te bewonderen.