Türbe, Rum Mehmet Paşa Camii kıble tarafında, eski adı Medrese Sokağı olan bugünkü Eşref Saat Sokağı ile, Çeşme-i Cedid Sokağı'nın birleştiği yerde bulunan 1141 (1728-29) tarihli Ümmügülsüm Sultan Çeşmesi'nin hemen arkasında ve Solak Sinan'ın 955 (1548) tarihinde yaptırmış olduğu mektebin bahçesindedir. (Çeşme ve binasından eser kalmayan mektep bahislerine bakınız.) Türbenin eskiden ne şekilde olduğu hakkında bir bilgimiz yoktur. Bugün, betondan yapılmış bir oda şeklindedir. Kabrin üzerine iri bir kaya yerleştirilmiştir. Parmaklıksız hâcet penceresi üzerinde 1000 (1591-92) tarihli mermer bir kitâbe vardır. İki mısra halinde hazırlanan kitâbe şudur: Rûşen etsin hane-i kalbin Hudâ Şem'i'nin rûhuna kim kıla du'â-1000 XVI. yüzyıl mutasavvıf şairlerinden olan Şem'i, bugün Yugoslavya hudutları içinde bulunan Prizren şehrinde doğmuştur. Buradaki mekteplerde ilâhiyat dersleri verirdi. Sonradan Konya'ya giderek Mevlâna Celâleddin-i Rûmî Âsitânesine yüz sürmüş, hâl ehli olmuş ve nihayet İstanbul'a gelerek Şeyh Vefa Hankâhı'nda inzivaya çekilmiştir. Burada, Şeyh Vefa Hazretlerinin halifesi Ali Dede'den tarikate sülûk (girme) etmiş ve onun halifesi olmuştur.