Mehmet Ali Şahin 16 Eylül 1950 yılında Karabük'te dünyaya geldi. İstanbul Üniversitesi Hukuk Fakültesi'nden mezun olan Şahin serbest avukatlık mesleğiyle beraber siyasete de atıldı; Refah Partisi Eminönü İlçe başkanlığını yaptı. 1994 yerel seçimleri'nde Refah Partisi'nden Fatih Belediye Başkanlı'ğına aday oldu. Seçimi kazanmasına rağmen oy pusulalarında yapılan hile gerekçesiyle seçimler iptal edildi. Temmuz 1994'te yenilenen seçimlerde tekrar aday olmasına rağmen seçilemedi. 1995 Genel Seçimleri'nde Refah Partisi listesinden İstanbul milletvekili seçilerek TBMM'ye girdi. 1999'da ise Refah Partisi'nin ardılı olan Fazilet Partisi listesinden gene İstanbul Milletvekili seçildi.
2001'de Adalet ve Kalkınma Partisi kurucu üyesi oldu. 20., 21. ve 22. dönem İstanbul, 23. dönem Antalya milletvekili olarak TBMM'de görev yaptı. AK Parti'de grup başkanvekilliği görevini yürütürken aynı zamanda Adalet Komisyonu üyeliğinde de bulundu. 59. Hükümette devlet bakanı ve başbakan yardımcılığı görevinide üstlendi. 60. Hükümet'te ise adalet bakanı olarak görev yaptı. 5 Ağustos 2009'da seçildiği TBMM Başkanlığı'nı iki yıl sürdürdü.
