Hicri 1271. Miladi 1854 yılında,  Afyonkarahisar'da doğmuş. Babası Mehmet Efendi'dir. Dedesi zamanın meşhur hocalarından Musa Hoca efendidir. 


Musa hocanın Medresesi Örenbağ Mahallesi'nde İğdeli mevkiinde imiş.
Orada talebe okuturmuş. Ali Efendi İlk tahsilini dedesinin medresesinde yaptıktan sonra. 
Yüksek tahsilini yapmak üzere kardeşi Ahmet Efendi ile İstanbul'a gitmiş İstanbul Fatih medresesinde bir ayda hafızlığı bitiren meşhur Şakir Efendi'den okumuştur. İcazeti aldıktan sonra hocası Şakir Efendi tarafından Fatih medresesinde kalıp talebe yetiştirmesi teklif edilmiştir ve bu teklif üzerine ısrar edilir. 

 

Fakat Ali Efendi Afyonkarahisar'daki Dede yadigarı Musa hoca  medresesini ihya etmek ve Afyonkarahisar'a ilim bakımından hizmet etmek gayesiyle, hocanın teklifini kabul etmedi. 


Doğru Afyonkarahisar'a gelerek kendi mali imkanlarıyla kardeşi Ahmet Efendi ile birlikte hiçbir kimseden bir kuruş yardım görmeden ot pazar Camisi civarında bir medrese yaptırdı ve tedrisata başladı. 

 

Ali efendi Musa Hoca medresesini şehir ortasına getirmekle tedrisata daha önemli, bir şekil vermiş oldu kardeşi Ahmet Efendi ile aralarında vazife taksimi yaptılar Ahmet Efendi Sarf, Nahiv, Gramer ve Akaid dersleri okuttu. 
Ali Efendi de Hadis, tefsir usul ve meani mantık derslerini okuttu. 


Aynı zamanda iyi bir Hafız olan Ali Efendi hitabetinin düzgün olması sebebiyle kırk sene Zülali Camisinde vaaz etmiştir. 
Hicri 1324. Miladi 1906 yılında merhum Çil Hafız hocanın (Ali Rıza Efendi) vefatıyla müftü olmuştur yedi sene müftülük yaptıktan sonra. Hicri 1331. Miladi 1913 yılında kendi arzusu ile Müftülükten çekildi. 


Sultan Reşat tahta çıkınca İzmir müderrislik payesini temsil eden, bir elbise ile bir berat göndermiştir, ki bugünkü profesörlük derecesidir.


Ölümünden iki ay önce Afyon Yunanlılar işgalinde iken bir, Ermeni çocuğunun evinin kapısını taşlaması dolayısıyla çok üzüntüye kapılmış ve hastalanmıştır. Ölümünden birkaç gün önce yakınlarına bu zalim Yunanlıların. Afyonkarahisar'dan gitmesi için benim gitmem lâzım demiştir. 

 

Dediği gibi 26 Ağustos 1922 Cuma günü büyük taarruz'un başladığı gün vefat etti. Türk ordusu 27 Ağustos 1922 cumartesi günü ikindi vakti kabri başında hazır bulunmuştur. Ali Efendinin Kabri Musallat mezarlığındaki dört direkli mevkiindedir, ilim bakımından olgun sabırlı ve yumuşak huylu bir kimse olan Ali Efendi zamanındaki mevcut olan müderrislerin içinde en üstün, Öğretim usulüne sahipti. 

 

Yetiştirdiği talebeler diğer Medreselerden yetişen talebelerden her cihetten Üstün idi, yetiştirmiş olduğu meşhur talebeleri şunlardır. 1 Şükrü çelikalay. 2 Ahmet Çelikalay. 3 Kamil miras Efendi. 4 Hasan Bayık Efendi. 5 Müftü Hüseyin Bayık Efendi. 6 Müftü Ahmet Nuri Gümüş efendi, gibi pek kıymetli kimseleri yetiştirmiştir. 


Ali Efendi, Afyonkarahisar'a öldüğü zaman kıymetli ilim adamları kazandırdığı gibi 500 ciltlik oldukça zengin bir kütüphanede bırakmıştır.