আমরা সবাই জানি হারাম শব্দের অর্থ হচ্ছে "নিষিদ্ধ", তাহলে এই মসজিদের ক্ষেত্রেই কেন হারাম শব্দটি ব্যবহৃত হয়? অনেকে আবার না বুঝে " হারাম" বললে গুনাহ হবে ভেবে এটাকে "হেরেম শরীফ" ও বলে থাকেন, যেটা সম্পূর্ণ ভুল।

আসলে এই পবিত্র মসজিদ এবং এর সংলগ্ন ৯৯ একর জায়গার পুরোটায় কিছু কাজকে হারাম বা নিষিদ্ধ করা হয়েছে যেগুলি ওই এলাকার বাইরে হালাল। যেমন: গাছ কাটা, গাছের পাতা ছেঁড়া, ফুল ছেঁড়া, প্রাণী হত্যা বা শিকার করা, অস্ত্র বহন করা, কোনো অপরাধের শাস্তি প্রদান করা এই কাজগুলি সাধারণভাবে হারাম না। কিন্তু এই মসজিদের বেষ্টনীর মধ্যে হারাম, আর তাই এর নাম "মসজিদ আল-হারাম।"