Galatasaray Lisesi'nde okudu ve futbol oynadı. 1905 yılında Galatasaray Lisesi'nden arkadaşlarıyla birlikte Galatasaray Kulübü'nü kurma kararını aldı ve Kulübün bir numaralı kurucu üyesi oldu.
Galatasaray'da 1905-1918 arasında 13 yıl, 1925'te 1 yıl olmak üzere iki dönemde 14 yıl başkan olarak hizmet verdi.Ali Sami Yen' in Sarı Kırmızılı kulübe önemli bir katkısı da Galatasaray Müzesi'nin kurulması oldu.
Galatasaray Spor Kulübü'nün kurucusu Ali Sami Yen'nin adı, takımın maçlarını oynadığı stada verilerek ölümsüzleştirildi. Ali Sami Yen 1951 yılında vefat etti ve Feriköy mezarlığında toprağa verildi.
Ali Sami Yen, Türk sporunda öncü bir isim olarak bir çok spor insanının yetişmesinde ön ayak olmuştur.
