Ahmet Haşim 1884 yılında Osmanlı İmparatorluğu topraklarında yer alan Bağdat'ta doğdu.
Babası Bağdat'ın eski ve bilinen ailelerinden Alusizadeler'e mensup Arif Hikmet Bey annesi ise yine Bağdat'ın ileri gelenlerinden Kahyazadeler'in kızı Sara Hanım'dır.
Babasının Arabistan vilayetlerindeki memuriyeti sebebiyle düzensiz bir ilkokul eğitimi gördü. Aynı nedenden dil olarak yalnızca Arapça'yı öğrendi.
Annesi hayatını kaybettikten sonra 12 yaşında babasıyla birlikte İstanbul'a geldi.
1897 senesinde Galatasaray Sultanisi'nde yatılı olarak eğitim almaya başladı.
Ahmet Haşim'in sanat ve edebiyata ilgisi Galatasaray Sultanisi'nde başladı.
Bilinen ilk manzumesi "Leyâl-i Aşkım" 1901 yılında "Mecmua-i Edebiyye'de yayınlandı.
1905-1908 seneleri arasında yazdığı ve Piyale kitabına aldığı "Şi'r-i Kamer" serisindeki şiirleri hayal zenginliği iç ahenkteki kuvvet ve büyük telkin kabiliyetiyle dikkat çekti.
1909 yılında kurulan Fecr-i Âti grubuna dahil oldu.
Okuldan mezun olunca Reji İdaresi'ne memur olarak girdi. Aynı zamanda Mekteb-i Hukuk'a devam etti.
1914-1918 seneleri arasında askerliğini yaparken Çanakkale Cephesi'nde bulundu.
1924 senesinde Paris' giden Haşim 1932 senesinde rahatsızlığı nedeniyle Frankfurt'a gitti.
Çeşitli yerlerde memur olarak çalışan Ahmet Haşim daha çok öğretmenlik yaptı. Sanâyi-i Nefise Mektebi'nde (Güzel Sanatlar Akademisi) mitoloji Mülkiye Mektebi'nde de Fransızca derslerine girdi. Bu vazifelerine ölünceye kadar devam etti.
Servet-i Fünûn dergisinde şiirler yayınladı. 1911 yılında yayınlanan Göl Saatleri adlı şiiriyle haklı bir şöhret kazandı.
Fecr-i Âti dağıldıktan sonra siyasi ve edebi akımların dışında kalarak kendine has bir şiir ve nesir anlayışının tek temsilcisi olarak kaldı.
Ahmet Haşim 4 Haziran 1933'de 49 yaşındayken hayatını kaybetti.