Nach der Flucht Ende 1945 aus dem Sudetenland landete die Familie Gräf in Bayreuth. Dietmar Gräfs Vater war in Marienbad Solotrompeter im Sinfonieorchester, nun musste er mit seiner Frau den Lebensunterhalt für die Familie mit Tanz- und Unterhaltungsmusik verdienen.
Dietmar erlernte ab dem 5. Lebensjahr Schlagzeug, ab dem 9. Violine und ab dem 10. Klavier, wobei sich mit 12 Jahren noch die Trompete anschloss. Zunächst ging er in die Handelsschule und absolvierte anschließend eine Drogistenlehre, dann aber wendete er sich beruflich der Musik zu und studierte an der Kirchenmusikschule in Regensburg (und besuchte gleichzeitig ein Abendgymnasium, um das Abitur nachzuholen). Dietmar Gräf wurde bereits mit 23 Jahren Musiklehrer im Internat Etterzhausen der Regensburger Domspatzen, zwei Jahre später Domkapellmeister in Eichstätt, wo er aufgrund musikalischer und liturgischer Differenzen nach einem Jahr wieder aufhörte. Er bestand das 1. Staatsexamen als Schulmusiker in München als Externer und beendete die A-Prüfung in Kirchenmusik an der Musikhochschule. Parallel studierte er auch Klavier. Danach unterrichtete er an Gymnasien in München, Bamberg und Mindelheim, betreute auch die Kirchenmusikstelle an der Katholischen Stadtpfarrkirche in Bad Wörishofen. Neben der Berufsarbeit her studierte er noch Musikwissenschaft an der LMU in München und promovierte. Bereits 1973 hatte Gräf in Bad Wörishofen den „Förderkreis für Symphonie- und Kammerkonzerte“ gegründet, den er bis heute leitet, in dessen Rahmen er Meisterkonzerte vor allem im Dominikanerinnenkloster gibt. Im Laufe der Zeit entstanden circa 500 Kompositionen, darüber hinaus gab er circa 2000 Konzerte.
Wäre Dr. Dietmar Gräf nicht stets der Umtriebige, so hätte er nicht 1975 den „musica sacra chor“ gegründet, mit dem er international höchst erfolgreich aufgetreten ist, darunter allein dreimal im Petersdom. Viele berühmte und wenig bekannte Werke gelangten zur Aufführung (z. B. Stabat Mater von Dvořák, Brahms- und Verdi-Requiem, Messa di Gloria von Puccini, Messe in A-Dur von Franck). Darunter zahlreiche Uraufführungen mit Solisten, Chor und Sinfonieorchester (er besuchte als Dirigent die Meisterausbildung bei Prof. Swarowsky in Wien) unter besonderer Berücksichtigung von sudetendeutschen Komponisten. Neben der Basilika Ottobeuren bespielte er zahllose weitere berühmte Kathedralen (Köln, Passau, Paris, Gloucester, Trient, Ferrara, Ljubljana, Prag usw.).
Dietmar Gräf erfand eine originäre Kompositiontechnik, die „Polymodalität“, bei der er Modi internationaler Couleurs verknüpfte, wodurch neue Harmonieverbindungen entstanden. Um das Maß seiner Umtriebigkeit voll zu machen, lud sich Gräf ab 1981 noch die Lehrtätigkeit in Klavier, Orgel und Methodik an der LMU München auf. 2009 übernahm er zusätzlich die Intendanz und Musikalische Leitung des „KneippMusikFestivals“ in Bad Wörishofen. Im Ruhestand übernahm er die Fachgruppenleitung für Musik der „KünstlerGilde Esslingen“ und den Juryvorsitz des Johann-Wenzel-Stamitz-Preises. Gräf wurde in die Sudetendeutsche Akademie der Wissenschaften und Künste berufen; im Kuratorium der Hausner Stiftung betreibt er das Leuchtturmprojekt „Uraufführung der Oper Jan Hus“ von Widmar Hader, des leider im Januar verstorbenen Regensburger Komponisten aus dem Egerland. Von Zeit zu Zeit leitet Dietmar Gräf auch eine Klaviermeisterklasse, aus der schon erstklassige Pianisten und Pianistinnen hervorgingen. Verschiedene Ehrungen blieben nicht aus, darunter das Bundesverdienstkreuz am Bande und Goldmedaillen von Präsident Havel und Papst Benedikt. Im Namen seines großen Freundeskreises geht der Glückwunsch an den Jubilar zu seinem 80. Geburtstag, verbunden mit der Hoffnung zu weiteren großen Erfolgen als Komponist, Interpret und Lehrer.