Kars’ta doğdu. İlkokulu Kars'ta okudu.
     İlk bağlama derslerini Çıldırlı Şenlik’in çırağı olan babası, yörenin usta aşıklarından  Gülistan Çobanlar’dan aldı. 14 yaşlarında türkü söylemeye başladı.
     1966 yılından başlayarak sürekli olarak Konya Aşıklar Bayramına katıldı. Birçok kez çeşitli dallarda birincilikler aldı.
     Aşıklık geleneğinin bir parçası olan türkülü hikayeler anlatma konusunda da başarılı örnekler veren Çobanoğlu, kendi türkülerinin yanısıra usta malı türküleri de genç kuşaklara aktardı.
     Türkiye’nin her yerinde bilinen, tanınan Çobanoğlu yıllarca radyo programları yaptı. Halk edebiyatı ve aşıklık geleneği üzerine çeşitli seminerler verdi. Şiirleri çeşitli dergilerde yayımlandı. Türkiye dışında, Avrupa’dan İran’a dek birçok ülkede konserler verdi, yarışmalara katıldı. Azeri aşıklardan Elesker ve Gaşem’le karşılaştı.
     1971 yılında Kars’ta açtığı, özellikle usta-çırak ilişkinden her alanda aşıklık geleneğinin sürdürülmesinde katkısı anlamında bir okul niteliğinde olan Çobanoğlu Halk Ozanları Kahvesi yörenin aşıklar merkezine dönüştü.
     Onlarca plak ve bir o kadar da kaset dolduran Çobanoğlu’nun 2 tane de altın plağı bulunmaktadır.
     Çobanoğlu’na ilişkin Ali Kafkasyalı’nın hazırladığı »Aşık Murat Çobanoğlu, Hayatı-Sanatı-Eserleri« (1998) adlı bir kitap bulunmaktadır.
     Ankara'da öldü, Kars'ta toprağa verildi.