1857 yılında Diyarbakır'da doğdu. Diyarbakır ve Mardin'de okudu. Arapça ve Farsça öğrendi. Telgrafçı iken 1878'de Abidin Paşa'nın yanına müsevvid olarak girdi. Abidin Paşa ile Harput, Sivas ve Selanik'i dolaştı. Adana, Leskovik, Kırşehir, Trablusşam, Erzurum, Yanya, İşkodra, Halep, Yemen gibi yerlerde muhasebecilik, defterdarlık ve müfettişlik görevlerinde bulundu. İkinci Meşrutiyetin ilânından sonra emekli oldu. Başbakanlık Osmanlı Arşivi Dairesinde tasnif komisyonu başkanlığı yaptı. 23 Ocak 1923'te İstanbul'da öldü. Mezarı Fatih Camii hazîresindedir.
Memuriyet hayatı boyunca topladığı son derece kıymetli 16 bin cilt kitabını Millet Kütüphanesine vakfetmiştir. Türk ve dünya kültürüne yaptığı en önemli hizmetlerden biri de Divanü Lügati't-Türk'ü bulmuş olmasıdır. Ayrıca biyografi ve tezkire türünde eserler kaleme almıştır.
Ali Emirî Efendi, Osmanlı Tarih ve Edebiyat Mecmuası (31 Mart 1334-Eylül 1336 arasında 31 sayı; Tarih ve Edebiyat adıyla 31 Ağustos 1338-31 Kânunıevvel 1338 arasında 5 sayı) ile Âmid-i Sevdâ (1908-1909, 6 sayı) dergilerini çıkarmıştır.
Orta bir şair kabul edilen Ali Emirî Efendi, tenkidî yazılarıyla dikkati çeker.
Eserleri: Levâmiu'l-Hamîdiye (1896), Cevâhirü'l-Mülûk (Osmanlı padişahlarının şiirlerini topladı. 2 sayı çıktı, 1900), Tezkire-i Şuarâ-yı Âmid (Diyarbakırlı 73 şairi içine alır, 1911), Mardin Mülûk-i Artukıye Tarihi ve Kitabeleri ve Sair Vesaik-i Mühimme (Ferdî Kâtib adıyla, 1915), Ezhar-ı Hakikat (1918; Yard. Doç. Dr. Mehmet Arslan'ın yayını: 'Hakikat Çiçekleri', Kızılırmak, S. 9, Eylül 1992), Osmanlı Vilâyât-ı Şarkıyesi (1918). Ali Emirî-Fuad Köprülü münakaşalarını Nuri Sağlam yayınladı: "Ali Emirî Efendi ile Mehmet Fuad Köprülü Arasındaki Münakaşalar-I", İlmî Araştırmalar, S. 10, İstanbul, 2000, s. 113-134; "Ali Emirî Efendi ile Mehmed Fuad Köprülü Arasındaki Münakaşalar-II', İlmî Araştırmalar, S. 11, İstanbul, 2001, s. 89-98.
Muhtar Tevfikoğlu'nun hakkında kitabı: Ali Emirî Efendi (1989).