1880 yılında İstanbul'da doğdu. 1898'de Harbiye Mektebini bitirdi. Askerî okullarda coğrafya ve Fransızca hocalığı yaptı. 1908'de Harbiye Mektebinin tarih öğretmenliğine getirildi. 1913 yılında askerlikten emekli olunca bazı medreselerde tarih muallimliği yaptı. Birinci Dünya Savaşı sırasında tekrar askere alındı. Memuriyetle Anadolu'ya gönderildi. Savaşın sonunda Ermeni mezalimini yerinde incelemek üzere yabancı gazetecilerden kurulu heyetin başında Doğu Anadolu'ya gitti. 1918 yılında İstanbul Darulfünûnu Osmanlı (Türk) Tarihi Kürsüsüne müderris olarak tayin edildi. 1925'te Abdurrahman Şeref Beyin ölümüyle boşalan Türk Tarih Encümeni başkanlığına getirildi. 1933'te üniversite reformu sırasında üniversitedeki görevine son verildi. İstanbul'da Büyükada'da 10 Ekim 1937 tarihinde öldü.p>Popüler bir tarihçi idi. Günlük ve haftalık gazete ve dergilerde sürekli yazdı. Geçmiş yüzyıllarda Osmanlı hayatını inceleyen kitaplar ve tarihler kaleme aldı. Hazine-i Evrak'ta Osmanlı belgelerini inceledi. Gezi yazıları yayınladı. Rind meşrep, neşeli bir insandı. Birçok şiiri bestelenmiştir.
Şiirleri: Gönül (1932). Gezi notları-hatıraları: İki Komite İki Kıtâl (1919), Kafkas Yollarında Hatıralar ve Tahassüsler (1919). Araştırmaları: Gazavât-ı Celîle-i Peygamberî (1908), İnkılâb-ı İslâm ((1908), Sultan Mehmed Han-ı Hâmis Hazretleri (1909?), 11 Nisan İnkılâbı (1909), Devr-i Süleyman-ı Kanunî'de Birinci Viyana Muhasarası (1909), Sahâif-i Muzafferiyât-ı Osmaniye (1909), Tarih Sahifeleri (1909), Baltacı Mehmed Paşa ve Büyük Petro (1911), Büyük Tarih-i Umûmî (6 cilt, 1912), Resimli ve Haritalı Tarih-i Umûmî (1912), Bizans İmparatoriçeleri (1915), Kabakçı Mustafa (1915), Köprülüler (1915), Lâle Devri (1915; yeni yayını: 1932), Onuncu Asr-ı Hicrîde İstanbul Hayatı (1915: Onaltıncı Asırda İstanbul Hayatı, 1933), Prusya Nasıl Yükseldi (1915), Tarihî Simalar (1915), Tarihte Osmanlı Neferi (1915), Tesâvir-i Ricâl (1915), Felâket Seneleri (1916), Kadınlar Saltanatı (4 cilt, 1916-1923), Memâlik-i Osmaniye'de Demirbaş Şarl (1916), Padişahlarımızda Din Gayreti Vatan Muhabbeti (1916), Memâlik-i Osmaniye'de Kral Rakoçi ve Tevâbii (1917), Osmanlılar ve Büyük Fredrik (1917; Büyük Fredrik, 1931), Yirmi Beş Sene Siper Kavgası (1917; yeni yayını: 1932), Sultan Abdülhamid-i Sânîye Dair (Abdurrahman Şeref ile, 1918), Sultan Cem 1923), Âlimler ve Sanatkârlar (1924), Türkiye Tarihi (1. cilt, 1924), Lamartin: Türkiye'ye Muhaceret Kararı ve İzmir'deki Çiftliği (1925), Kızlar Ağası (1926), Türkiye'de Mülteciler Meselesi (1926), Bizans Karşısında Türkler (1927; Fahameddin Başer, 2005), Samur Devri (1927), Fatma Sultan (tarihsiz), Anadolu'da Türk Aşiretleri (966-1200) (1930), Hicrî Onikinci Asırda İstanbul Hayatı (1930), Hicrî Onbirinci Asırda İstanbul Hayatı (1931), Büyük İskender (1931), Eski İstanbul (1931), Kanije Gazileri (1931), Mimar Sinan (1931), Tarihte Kadın Simaları (1931), Turhan Valide (1931), Sokullu Mehmed Paşa (1931), Viyana Önünde Türkler (1931), Türkiye Madenleri (1931), Kâtip Çelebi (1932), Nâima (1932), Eski Türk Zaferleri (1071-1878) (1932), Fransız Müverrihleri: Michelet, Lavisse, Vandel (1932), Alman Müverrihleri: Kanke, Mommsen, Treitschke ( 1932), Tarih ve Müverrihler (1932), Türkler ve Büyük Petro (1932), Türklerin İstanbul Muhasaraları (1932). Türkler ve Kraliçe Elizabet (1932), Osmanlı Devrinde Zorbalar (1932), Napolyon (1932), Hicrî Onüçüncü Asırda İstanbul Hayatı (1932), Peçevî (1933), Selanikî (1933), Osmanlı Devrinde Hoca Nüfuzu (1933), Hoca Saddeddin (1933), Âşıkpaşazade (1933), Osmanoğulları (1933), Türk İdaresinde Bulgaristan (1933). Türk Akıncıları (1933), Fındıklılı Silâhtar Mehmed Ağa (1933), Ege Havzası ve Yunan (1934), Türk Mimarları (1936), Kafes v e Ferace Devrinde İstanbul (8 Şubat-18 Şubat 1936 tarihlerinde Akşam gazetesinde çıkan yazılarını Tahir Yücel derledi, 1998). Çocuklar İçin: Çocuklarla Türk İstiklâl Harbi (1929), Çocuklara Tarih Bilgisi: Orta, Yeni ve Yakın Zamanlar (1931), Orta Mektepler ve Muallim Mektepleri İçin Kıraat (1931), Çocuklara Tarih Bilgisi: Eski Zamanlar, Türkler (1932), Tarih Öğreniyorum (1934).
Muzaffer Gökman, Tarihi Sevdiren Adam: Ahmed Refik Altınay (1978) adlı kitabında Ahmed Refik'in eserlerini ayrıntılı verir.