اين مسجد در پايين كوه حجون به سمت حرم، حدود پنجاه متر پس از پل حجون و در حاشيه قبرستان حجون واقع است. خيابان كوچكى در كنار و غرب اين مسجد با نام «شارع مسجدالجن» وجود دارد كه هنوز تابلوى قديمى آن بر ديوار نصب است. شرق آن نيز خيابان مسجدالحرام است و مسجد جن تقريباً در محل تلاقى اين دو خيابان واقع شده است.


از تاريخ بناى اوليه اين مسجد اطلاعى در دست نيست، اما مى‏دانيم كه مسجد در قرن دوم و پس از آن سرِپا بوده، به همين نام شناخته مى‏شده و مورخان در طول قرون مختلف از آن ياد كرده ‏اند. محل فعلى مسجد در محل قبلى آن است و در بازسازى جديد مساحت آن به 600 مترمربع رسيده است. بناى مسجد محكم است و مناره‏اى در ركن شمال شرقى دارد. گفتنى است كه مسجد ياد شده از سال 1420 بار ديگر تخريب و بازسازى شده است.


از نامهاى ديگر اين مسجد، «مسجدالحَرَس» است. اين نام به نقل از ازرقى است و از آن بابت است كه صاحب الحَرَس كه در مكه گشت شبانه داشته به اين نقطه مى‏آمده و در آنجا با عُرفا - چهره‏هاى شناخته شده و برگزيده قبايل - و حُرّاس ديگر از شِعْب عامر و ثنية المدنيين ديدار مى‏ كرده است.


نامگذارى آن به مسجد جن، بنا به نقل برخى از روايات به سوره جن مربوط مى‏شود. خداوند در اين سوره فرموده است كه جنّ‏ها آيات الهى را شنيدند و به آنها ايمان آوردند. گويا اين آيات در محلى كه به نام مسجد جن شهرت دارد، نازل شده است. برخى ناميده شدن آن را به مسجد البيعه به دليل بيعت جن با آن حضرت دانسته‏ اند.


برخى روايات تاريخى به اين نكته اشاره دارد كه حضرت محمد صلی الله علیه وسلم در حال بازگشت از طائف، پس از طی مسیری طولانی با قلبی شکسته و ناامید در مکان این مسجد که به نخله معروف بود، کنار نخل خرمایی نشست و نیمه شب به عبادت و تلاوت قرآن پرداخت. در این حال هفت نفر از جنیان با شنیدن صدای قرآن متوقف شده و آیات آن را به گوش سایر جنیان رساندند. رسول خدا صلى الله عليه و سلم بعدها نیز چندین بار همراه عبدالله بن مسعود به این مکان آمد.