लिंग पुराण में कथा है कि जिस समय रामचंद्रजी युद्ध में विजयी होकर अयोध्या जा रहे थे, वे रुद्रसागर तट के निकट ठहरे थे। इसी रात्रि को भगवती कालिका भक्ष्य की शोध में निकली हुईं इधर आ पहुंचीं और हनुमान को पकड़ने का प्रयत्न किया, परंतु हनुमान ने महान भीषण रूप धारण कर लिया। तब देवी डरकर भागीं। उस समय अंश गालित होकर पड़ गया। जो अंश पड़ा रह गया, वही स्थान कालिका के नाम से विख्यात है।
