Ailesi Abdallar diyarı Aksaray Ala Kilise'den gelip, Kırşehir ili Yağmurlubüyükoba köyüne yerleşmiş, Muharrem Ertaş bu köyde doğmuştur. İlk saz hocaları dayıları Bulduk Usta ve Yusuf Usta'dır. Babasının adı Zurnacı Kara Ahmet'tir.

Henüz küçük bir çocukken köylerde sünnet ve düğün törenlerinde, bayramlarda saz çalarak dolaşmaya başladı. Orta Anadolu geleneksel halk müziğinden geniş bir repertuvarı vardı.

Bozlakların yanı sıra halay türünün de örneklerini çalıp söyledi; Karacaoğlan, Şeyh Galip, Pir Sultan Abdal, Dadaloğlu'nun deyişlerini seslendirdi. Bazen de usandım şu yalan dünyadan Aydost çığırmasında olduğu gibi dinsel içerikli türkülerde söylemiştir.

Ses genişliği, rengi ve tınısının yanı sıra, gırtlak nağmeleri, çarpma, titretme ve trilleri, kendine has ses kullanma teknikleri ve bütün bunların yanı sıra kullandığı yiğitçe eda ile Muharrem Ertaş, gelmiş geçmiş en büyük bozlak okuyucusu olarak kabul edilir.

Oğlu Neşet Ertaş, babasından aldığı eğitimle son yüzyılın en büyük ozanlarından biri olmuş ve Türk halk müziğinde bir ekol olarak kabul edilmiştir. Neşet Ertaş ise babası hakkında yaptığı her söyleşide ''Muharrem usta'' diye hitapta bulunur.

Muharrem Ertaş'ın mezar taşında şu sözler yer alır: İşte geldim, işte gittim. Güz çiçeği gibi bittim. Yalan dünyada ne iş tuttum. Ömrüceğim geçti, gitti.