Kimi kaynaklar hastanenin II. Mahmud döneminde Tophane-i Amire'ye bağlı olarak Cebehane Hastahanesi adıyla faaliyetini sürdürdüğünü ileri sürer. Açılış tarihi bilinmeyen Cebehane Hastanesi hakkında ulaşılan en eski arşiv belgesi 1828 tarihini taşır. 1831 yılında Mühimmât-ı Harbiye (Askeriye) Hastanesi adını alır.
Hastane binası eskiden Tophane Müşiri Halil Paşa'nın eviydi. Paşa fabrikalar müdürü olduğu zaman bu evde oturdu. Müşirliğe yükselip Tophane'nin başına geçince, evi hastaneye dönüştürüldü. 1847'de Halil Paşa tarafından, ihtiyacı karşılayabilecek yeni bir bina yaptırılmıştır. Adı da "Zeytinburnu Asker Hastanesi"ne çevrilmiştir. Zamanla ihtiyaçları karşılayamayan hastane binası II. Abdülhamit tarafından 1893'de yıktırılıp, yerine yenisi yaptırılmıştır.
Balkan ve 1.Dünya Savaşı sırasında da faal olan hastane mütareke yıllarında (1920) İstanbul Hükümeti tarafından kapatılır ve Cumhuriyet döneminde çeşitli hizmetler için kullanılır. 1935 yılında Çorlu Askeri Hastanesi'nden gelen personelle yeniden faaliyete geçer. Ordu Sağlık Başkanı Galip Göker Paşa'nın, barış döneminde İstanbul'a üç askeri hastanenin yeterli olduğunu ileri sürmesi nedeniyle yurt yapılmak üzere 1956 yılında lağvedilir. Hastane binası restorasyondan geçtikten sonra, bugün Zeytinburnu Belediye Başkanlığı olarak hizmet vermektedir.
