1956'da Ankara'da doğdu. 1981'de Ankara Üniversitesi Siyasal Bilgiler Fakültesi'ni bitirdi. İlk yazısı aynı yıl Yazko Edebiyat dergisinde yayımlandı. 1981-1985 yıllarında Yarın dergisinin genel yayın yönetmenliğini yaptı. 1995'ten beri Adam Öykü dergisinin genel yayın yönetmenliğini sürdürüyor. Kendine özgü çözümleyici bir eleştiri anlayışına sahip olan Gümüş'ün yayımlanmış kitapları şunlardır: Roman Kitabı (1991), Kara Anlatı Yazarı (1994), Karşılıksız Yazılar (1994), Yazının ve Tarihin Bilinci (1994), Başkaldırı ve Roman (1996, Cevdet Kudret Eleştiri Ödülü), Öykünün Bahçesi (1999; 2003'te genişletilmiş 2. basım), Futbol ve Biz (2000), Adalet Ağaoğlu'nun Romancılığı (2000), Vüsat O Bener: Kara Anlatı Yazarı (2000), Puslu Ada (2002), Yazının Sarkacı Roman (2003). Ayrıca yazarın hazırladığı çeşitli öykü seçkileri bulunmaktadır: Kısa Öyküler (1992), Hayvan Öyküleri (1993), Öykülerde İstanbul (2000), Beyoğlu Öyküleri (2002), Aşk Öyküleri (2003).