इस ज्योतिर्लिंग की स्थापना मर्यादा पुरुषोत्तम भगवान् श्रीरामंद्रजी ने की थी। स्कंदपुराण में इसकी महिमा विस्तार से वर्णित है। इसके विषय में यह कथा कही जाती है- जब भगवान् श्रीरामंद्रजी लंका पर चढ़ाई करने के लिए जा रहे थे तब इसी स्थान पर उन्होंने समुद्र की बालू से शिवलिंग बनाकर उसका पूजन किया था।
ऐसा भी कहा जाता है कि इस स्थान पर ठहरकर भगवान् राम जल पी रहे थे कि आकाशवाणी हुई कि मेरी पूजा किए बिना ही जल पीते हो? इस वाणी को सुनकर भगवान् श्रीराम ने बालू से शिवलिंग बनाकर उसकी पूजा की तथा भगवान् शिव से रावण पर विजय प्राप्त करने का वर माँगा। उन्होंने प्रसन्नता के साथ यह वर भगवान् श्रीराम को दे दिया। भगवान् शिव ने लोक-कल्याणार्थ ज्योतिर्लिंग के रूप में वहाँ निवास करने की सबकी प्रार्थना भी स्वीकार कर ली। तभी से यह ज्योतिर्लिंग यहाँ विराजमान है।
इस ज्योतिर्लिंग के विषय में एक-दूसरी कथा इस प्रकार कही जाती है- जब भगवान् श्रीराम रावण का वध करके लौट रहे थे तब उन्होंने अपना पहला पड़ाव समुद्र के उस पार गन्धमादन पर्वत पर डाला था। वहाँ बहुत से ऋषि और मुनिगण भगवान् श्रीराम दर्शन के लिए उनके पास आए। उन सभी का आदर-सत्कार करते हुए भगवान् राम ने उनसे कहा कि पुलस्य के वंशज रावण का धव करने के कारण मुझ पर ब्रह्महत्या का पाप लग गया है, आप लोग मुझे इससे निवृत्ति का कोई उपाय बताइए। यह बात सुनकर वहाँ उपस्थित सारे ऋषियों-मुनियों ने एक स्वर से कहा कि आप यहाँ शिवलिंग की स्थापना कीजिए। इससे आप ब्रह्म हत्या के पाप से छुटकारा पा जाएँगे।
भगवान् श्रीराम ने उनकी यह बात स्वीकार कर हनुमान्जी को कैलास पर्वत जाकर वहाँ से शिवलिंग लाने का आदेश दिया। हनुमानजी तत्काल ही वहाँ जा पहुँचे किंतु उन्हें उस समय वहाँ भगवान् शिव के दर्शन नहीं हुए। अतः वे उनका दर्शन प्राप्त करने के लिए वहीं बैठकर तपस्या करने लगे। कुछ काल पश्चात्् शिवजी के दर्शन प्राप्त कर हनुमानजी शिवलिंग लेकर लौटे किंतु तब तक शुभ मुहूर्त्त बीत जाने की आशंका से यहाँ सीताजी द्वारा लिंग की स्थापना का कार्य कराया जा चुका था।
हनुमानजी को यह सब देखकर बहुत दुःख हुआ। उन्होंने अपनी व्यथा भगवान् श्रीराम से कह सुनाई। भगवान् ने पहले ही लिंग स्थापित किए जाने का कारण हनुमानजी को बताते हुए कहा कि यदि तुम चाहो तो इस लिंग को यहाँ से उखाड़कर हटा दो। हनुमानजी अत्यंत प्रसन्न होकर उस लिंग को उखाड़ने लगे, किंतु बहुत प्रत्यन करने पर भी वह टस-से मस नहीं हुआ।
अंत में उन्होंने उस शिवलिंग को अपनी पूँछ में लपेटकर उखाड़ने का प्रयत्न किया, फिर भी वह ज्यों का त्यों अडिग बना रहा। उलटे हनुमानजी ही धक्का खाकर एक कोस दूर मूर्च्छित होकर जा गिरे। उनके शरीर से रक्त बहने लगा यह देखकर सभी लोग अत्यंत व्याकुल हो उठे। माता सीताजी पुत्र से भी प्यारे अपने हनुमान के शरीर पर हाथ फेरती हुई विलाप करने लगीं।
मूर्च्छा दूर होने पर हनुमानजी ने भगवान् श्रीराम को परम ब्रह्म के रूप में सामने देखा। भगवान ने उन्हें शंकरजी की महिमा बताकर उनका प्रबोध किया। हनुमानजी द्वारा लाए गए लिंग की स्थापना भी वहीं पास में करा दी।