Arif Sağ 1945 yılında Erzurum'un Aşkale ilçesi Dallı köyünde dünyaya geldi. Genç yaşta İstanbul'a geldi ve Aksaray Musiki Cemiyeti'nde Nida Tüfekçi'nin öğrencisi oldu. 60'lı yılların sonunda TRT İstanbul Radyosu'na bağlama sanatçısı olarak başladığı yıllarda piyasadaki faaliyetlerine de devam etti.
Çeşitli sanatçılara bağlamasıyla eşlik etti. Yine bu dönemde bestelerini de pek çok sanatçıya okutma fırsatı buldu. Yapılan müzik bugünkü terminolojiyle bir tür arabesk-fantazi benzeridir. 1976 yılından itibaren İstanbul Teknik Üniversitesi Türk Müziği Devlet Konservatuarı'nda öğretim görevlisi olarak çalışamaya başlayan Sağ, bu görevinden 1982 yılında ayrılarak özel çalışmalara ağırlık verdi.
Musa Eroğlu ve Muhlis Akarsu ile birlikte başladığı, daha sonra Yavuz Top'un da katılımı ile genişleyen Muhabbet adlı seri albüm çalışmaları 1980 sonrasında Türk halk müziğinin geniş kitlelere yayılmasına katkı sağladı.1987 ve 1991 yılları arasında Ankara milletvekilliği yapmıştır ve milletvekillik görevinde bulunan ilk sanatçıdır. 1996 yılında Almanya Cumhurbaşkanı'nın desteğiyle Köln Filarmoni Orkestrası'nda konser vererek, bağlama ve Anadolu müziğini batıya tanıtmıştır 2000 yılında ünlü İspanyol flamenko gitarist Toma Tito ile Avrupa'nın 12 şehrinde konser vermiştir.
