В 1947—1950 годах Леонхардт изучал органное искусство вSchola Cantorum в Базеле. Родители, желавшие, чтобы сын получил более широкое музыкальное образование, отправили его учиться в Вену к дирижеру Гансу Сваровски, однако бóльшую часть времени Леонхардт проводил в Национальной библиотеке, увлекшись старинными нотными манускриптами, многие из которых он переписал вручную. Результатом этих занятий стала его первая научная работа — монография об «Искусстве фуги» Иоганна Себастьяна Баха.
В начале 1950-х в Вене Леонхардт дал первый концерт как клавесинист и записал свои первые пластинки — «Искусство фуги» и «Гольдберг-вариации». В Вене же он познакомился с молодым виолончелистом и энтузиастом старинной музыки Николаусом Арнонкуром (Nikolaus Harnoncourt), который впоследствии играл в барочном ансамбле Leonhardt-Consort, созданном в 1954 году.
Вместе с Арнонкуром с 1971 по 1990 год Леонхардт осуществил первую в истории запись полного цикла баховских кантат. Кроме того, Леонхардт выступал и записывался с английским контртенором Альфредом Деллером (Alfred Deller) и другими известными музыкантами.
С 1952 года Густав Леонхардт был профессором Национальной нидерландской академии музыки, с 1954-го — профессором Амстердамской консерватории, преподавал в Гарвардском университете.
Среди его учеников Боб ван Асперен (Bob van Asperen), Кристофер Хогвуд (Christopher Hogwood), Филипп Херревег (Philippe Herreweghe), Ричард Эгарр (Richard Egarr), Алан Кертис (Alan Curtis), Тон Коопман (Ton Koopman), Давитт Морони (Davitt Moroney), Мартин Перлман (Martin Pearlman), Кристоф Руссе (Christophe Rousset), Андеас Штайер (Andreas Staier), Скип Семпе (Skip Sempé) и Махан Эсфахани (Mahan Esfahani).
В 1967 году Леонхардт сыграл роль Баха в фильме Жана-Мари Штрауба (Jean-Marie Straub) «Хроника Анны Магдалены Бах» (Chronik der Anna Magdalena Bach). В фильме также снялись Николаус Арнонкур и Боб ван Асперен.
Репертуар Густава Леонхардта охватывал период от английских вирджиналистов до раннего Моцарта, но больше всего его привлекала музыка барокко. Дискография Леонхардта насчитывает почти 150 пластинок, в том числе около 70 сольных альбомов.
Его последний концерт состоялся в Париже 12 декабря 2011 года. На следующий день музыкант объявил о завершении исполнительской карьеры по состоянию здоровья.
Густав Леонхардт несколько раз приезжал на гастроли в Россию, а последний раз был в нашей стране в сентябре этого года, когда он дал сольный органный концерт в Петербурге на фестивалеEarlymusic.
