توجه به حج و کعبه در ادب فارسی سابقه طولانی دارد. رودکی نیز که پدر شعر فارسی است به مناسبت عید قربان قصیده‌ای سروده و این عید را به ممدوح خود تبریک گفته و دقیقی طوسی دیگر شاعر هم‌عصر وی وقتی در مورد لهراسب سخن گفته به ارزش و احترام کعبه اشاره کرده است. ابومحمد منصوربن علی منطقی رازی، از شاعران قرن چهارم، زیبارویان خانه خود را به بت‌های درون کعبه در دوران جاهلیت عرب تشبیه کرده است.
عنصری، شاعر قرن‌های چهارم و پنجم قصیده مدحیه‌ای برای سلطان محمود دارد که در آن از کعبه تشبیه ساخته و قصر محمود را به کعبه همانند دانسته است.
این روند ادامه یافته و حکیم ناصر خسرو قبادیانی در سفرنامه خود به ظواهر آداب حج و زیبایی‌های این آیین اشاره کرده است. عطای رازی، شاعر قرن پنجم در قصیده‌ای کعبه را از بناهای جاویدان دانسته و گفته است:
تا بود کعبه و منا و صفا تا بود مشعر و مقام و حطیم
دشمنت باد همچو بنده اسیر مانده در دست روزگار لئیم
خیام نیشابوری نیز شعری درباره حج دارد:
رهی نمود مرا راست سوی آب حیات
شبی به شهر ری اندر مفلسفی ز قضات...
و گر ز حکمت کار صلات بی‌خبری
تو گر صلات پرستی بود صلات تو لات
به راه حج بشتابی و مال صرف کنی
ز راه دور همی تا برآوری حاجات
حکیم سنایی از شاعران بزرگ قرن ششم است که خود به سفر حج رفته و پس از سفر مکّه به غزنین برگشته و تا پایان عمر در آن شهر مانده است. وی گفته است:
نیست کن هرچه راه ورای بود
تات دل خانه خدا بود
تا تو را بود با تو در ذات است
کعبه با طاعتت خرابات است
ورز ذات تو بود تو دور است
بتکده از تو بیت معمور است
در روایات آمده است که وقتی پیامبر مکه را فتح کرد، به داخل کعبه رفت و به شکستن بت‌ها مشغول شد، به دست خود و علی (ع) تمام بت‌ها را درهم شکست و کعبه را از لوث وجود بتها پاک کرد، سنایی به این جریان اشاره کرده است:
شرک پادار شد هلاکش کن
کعبه بتخانه گشت پاکش کن
مر علی را تو این عمل فرمای
تا نهد بر عزیز کتف تو پای
کعبه از بت به جمله پاک کند
مشرکین را همه هلاک کند
شاعران عارف پس از سنایی در اشاره به حج و کعبه نگاهی فراظاهری داشته‌اند. ازجمله مولانا در دیوان شمس سروده است:
ای قوم به حج رفته کجایید، کجایید
معشوق همین جاست بیایید، بیایید
معشوق تو همسایه و دیوار به دیوار
در بادیه سرگشته، شما در چه هوایید؟!
گر صورت بی صورت معشوق ببینید
هم خواجه و هم خانه و هم کعبه شمایید
ده بار از آن راه بدان خانه برفتید
یک بار از این خانه برین بام برآیید
آن خانه لطیف است، نشان‌هاش بگفتید
از خواجه آن خانه نشانی بنمایید
یک دسته گل کو؟ اگر آن باغ بدیدیت
یک گوهر جان کو، اگر از بحر خدایید؟
با این همه آن رنج شما گنج شما باد
افسوس که بر گنج شما، پرده شمایید
مولانا حج را منحصر به ظواهر و انجام مرسومات نمی‌دانسته، بلکه بر این باور است که حج ساحت‌هایی فراتر از نمودهای ظاهری و اعمال قالبی دارد و آن ملاقات خداوند است. پیام مولانا این است که تنها در بدنه و پیکر عبادات نمانیم.
سعدی نیز در گلستان حکایاتی متعدد درباره حج دارد و ازجمله آورده است: «درویشی را دیدم سر بر آستان کعبه همی مالید و می‌گفت: یا غفورُ یا رحیم! تو دانی که از ظلوم جهول چه آید:
بر در کعبه سائلی دیدم
که همی‌گفت و می‌گرستی خوش
می‌نگویم که طاعتم بپذیر
قلم عفو بر گناهم کش
این روال تا امروز ادامه یافته و شاعران در طول تاریخ ابیات متعددی از گذشتگان را الگوبرداری کرده‌اند و از حافظ آموخته‌اند:
در بیابان گر به شوق کعبه خواهی زد قدم
سرزنش‌ها گر کند خار مغیلان غم مخور