Terheijl was bezit van het klooster Aduard, een zogenaamd voorwerk of uithof. Hieraan was ook een tichelwerk (steenbakkerij) verbonden. Bronnen vermelden: de Helle (1325), van der Helle (1327). In de plaatsnaam zit het element hel = laagte, poel of helling. De oude naam komt ook voor in het inkomstenregister van het klooster Aduard, o.a.: Adwerder hell to Roon; die Rode Heell; het landt van die Hell genompt (1595).
Later werd de naam verkeerd begrepen als ter Helle, in de hel. Daarom heeft misschien een pingoruine in de buurt de naam Vagevuur gekregen. Aan het eind van de 15e eeuw liet de abt Wolter, een Drent van oorsprong, een kapel bouwen in de uithof. De kloosterkroniek vermeldt dat de plek toen 'Paradijs' genoemd werd. Rond 1545 liet abt Godefridus de uithof verbouwen tot een slot met koepeltoren en keldergewelven.
In 1594 werd in het gewest Groningen de Hervorming doorgevoerd. Hierdoor werden de goederen van het Aduarder klooster, waaronder Terheijl, eigendom van de Staten van Groningen. In 1626 werd dit landgoed eigendom van Caspar van Ewsum, heer van Nienoord. In 1632 werd Terheijl een havezathe. Ewsums kleindochter trouwde in 1657 met Rudolf Wilhelm von Inn- und Kniphausen uit Oost-Friesland. Deze familie verwierf Nienoord en Terheijl. In 1783 werden de bezittingen gesplitst; Terheijl kwam in handen van Arent Baron van Sloet, die in 1786 al overleed. Zijn weduwe hertrouwde in 1789 met Willem de Lille. Deze brak het familiebezit Toutenburg bij Vollenhove (Ov.) af en bouwde met het afbraakmateriaal Nieuw-Toutenburg. Tussen dit nieuwe pand en het door hem verbouwde en verfraaide huis Terheijl (1790), dat voordien in verval was geraakt, legde hij een kaarsrechte laan met bomen aan, de tegenwoordige Toutenburgsingel. Na de dood van De Lille in 1810 ging de havezate naar baron Borchard Fr. W. van Westerholt tot Hackfort, die getrouwd was met De Lilles stiefdochter Catharina Chr. C. Sloet tot Tweenijenhuizen. Na het overlijden van baron Van Westerholt in 1852 werd de havezate Terheijl gesloopt; de gronden gingen over in particuliere handen. De Nietapster houthandelaar Alje Bonthuis stichtte op de plaats van de voormalige havezate een boerderij, die hij de naam Huize Terheijl gaf. Het boerderijgedeelte brandde in 1969 af en werd niet herbouwd.