Qendër e rëndësishme e arsimit fetar islam. Në pikëpamje arkitekturore i kishte të gjitha hapësirat e nevojshme për një shkollë me sistem kolegji. Kishte një bibliotekë të pasur me libra dhe me dorëshkrime. Aty ruheshin edhe veprat e themeluesit të saj, dijetarit të njohur Tahir efendi Gjakovës, i cili shkroi vepra edhe në gjuhën shqipe me alfabet osman. Medreseja e Vogël në Gjakovë, e cila ndodhët në Mahallën Mahmud Pasha, te kroni i Panxhallës ( te kroni i pesë rrugëve), pas Medresesë së Madhe të Gjakovës, e themeluar më 1707, ku Myderrizi i parë ishte Yvejs Efendiu, ishte institucioni më i rëndësishmi edukativ-fetar-arsimor dhe kulturor i qytetit.
Medreseja e Vogël është themeluar në vitin 1807, ku Myderrizi i parë ka qenë Tahir Efendi Gjakova, i cili ka qenë dijetari më i madh i kohës, njihet edhe si bejtexhi (poet) e shkrimtar).Vepra e tij Vehbije (Dhuratë), shkruar me 1835, njihet si vepra e parë në gjuhën shqipe në Kosovë shkruar me alfabet arab.
Medreseja e Vogël e Gjakovës njihet me këtë emër jo pse ishte e vogël, por për arsye se ishte ndërtue një shekull më e vonë se Medreseja e Madhe, përndryshe ka pasur numër më të madh të nxënësve se Medreseja e Madhe…
Në Medresën e Vogël, përveç lëndëve mësimore, sipas programit të kohës, mësohej përmendësh Libri i Shenjtë, Kur’ani i Madhërueshëm, prej ekspertëve të kohës, siç ishin hafizët e myderrizët Fetah Efendi Buza, Emin Efendi Hoxha, Hafiz Ymer Guta, etj.
Shkollimi në Medresën e Vogël, e cila në kompleksin e saj kishte konviktin e nxënësve, zyre për administratorët e medresesë si edhe një bibliotekë të pasur me libra e dorëshkrime të çmueshme, ka vazhdue të funkcionojë deri në vitin 1947, kur e mbyllën komunistët…
Myderrizi i fundit në Medresen e Vogël të Gjakovës ishte Haxhi Jahja Efendi Bakalli (1908-1987)…
Tani objekti eshte ne fazen restauruese nga nje doancion turk,ku egjithe medresja doe merr formen e vete ashtu sic ka ene para disa shekujve.