ಮಾರ್ಕಂಡೇಯ ಪುರಾಣ, ಅಶೋಕ ಶಾಸನಗಳು ಮತ್ತು ಪ್ರಾಚೀನ ಪ್ರಯಾಣಿಕರ ಪ್ರಯಾಣದ ವಿವರಗಳು ಸೇರಿದಂತೆ ಅನೇಕ ಪ್ರಾಚೀನ ಶಾಸನಗಳಲ್ಲಿ ಈ ದೇವಾಲಯವನ್ನು ಉಲ್ಲೇಖಿಸಲಾಗಿದೆ. ದೇವಾಲಯದ ಸುತ್ತಮುತ್ತಲ ಪ್ರದೇಶದಲ್ಲಿ ಪತ್ತೆಯಾದ ಶಾಸನದ ಪ್ರಕಾರ, ಮಣ್ಣಿನ ವಿಗ್ರಹದ ಸುತ್ತಲಿನ ದೇವಾಲಯವನ್ನು ಕ್ರಿ.ಶ 8 ನೇ ಶತಮಾನದಲ್ಲಿ ನಿರ್ಮಿಸಲಾಗಿದೆ.ಈ ದೇವಾಲಯವನ್ನು ರಾಜ ಸುರಥನು ನಿರ್ಮಿಸಿದನೆಂದು ಮತ್ತು ರಾಜನು ತನ್ನದೇ ಆದ ಕಿರೀಟವನ್ನು ಅಮೂಲ್ಯ ಆಭರಣಗಳಿಂದ ಹೊದಿಸಿ, ದೇವತೆಯ ತಲೆಯ ಮೇಲೆ ಇಡಬೇಕೆಂದು ವ್ಯಾಪಕವಾಗಿ ನಂಬಲಾಗಿದೆ. ರಾಜನು ತನ್ನ ಸಾಮ್ರಾಜ್ಯದ ಬಹುಭಾಗವನ್ನು ಯುದ್ಧದಲ್ಲಿ ಕಳೆದುಕೊಂಡು ತನ್ನ ಸ್ವಂತ ಮಂತ್ರಿಗಳಿಂದ ದ್ರೋಹಕ್ಕೆ ಒಳಗಾಗಿದ್ದರಿಂದ, ಸುಮೇಧ ಎಂಬ age ಷಿಯ ಅಡಿಯಲ್ಲಿ ಆಶ್ರಯ ಪಡೆದಿದ್ದಾನೆಂದು ನಂಬಲಾಗಿದೆ. ದೇವಾಲಯದಲ್ಲಿನ ಮುಖ್ಯ ದೇವತೆಯ ಮಣ್ಣಿನ ವಿಗ್ರಹವು ಐತಿಹಾಸಿಕವಾಗಿ 5000 ವರ್ಷಗಳಷ್ಟು ಹಳೆಯದು ಎಂದು ನಂಬಲಾಗಿದೆ. ರಾಜನು ಸ್ವತಃ ರಾಜರಾಜೇಶ್ವರಿಯ ಮಣ್ಣಿನ ವಿಗ್ರಹವನ್ನು ಕೆತ್ತನೆ ಮಾಡಿ ತನ್ನ ರಾಜ್ಯಕ್ಕೆ ಪ್ರತಿಯಾಗಿ ದೇವತೆಗೆ ತಪಸ್ಸು ಮಾಡಿದನೆಂದು ವರದಿಯಾಗಿದೆ The temple has been referred to in many ancient inscriptions, including the Markandeya Purana, Ashoka inscriptions and travel accounts of ancient travellers. According to an inscription discovered in the vicinity of the temple, the temple around the clay idol was built in 8th century AD. It is a widely held belief that the temple was built by King Suratha, and that the king offered his own crown, studded with precious jewels, to be placed on the head of the deity. The king, having lost most of his kingdom in a war and being betrayed by his own ministers, is believed to have taken refuge under a sage named Sumedha in forests located around what is the location of the temple now. The clay idol of the main deity in the temple is historically believed to be up to 5000 years old. The king is reported to have carved the clay idol of Shri Rajarajeshwari himself and offered penance to the deity in return for his kingdom.

ಇಂದು ಲಭ್ಯವಿರುವ ಉಳಿದ ಶಾಸನಗಳನ್ನು ಕರಿಯಂಗಲ ಗ್ರಾಮ, ಅಮ್ಮುಂಜೆ ಮತ್ತು ದೇವಾಲಯದಲ್ಲಿಯೇ ಪಡೆಯಲಾಗಿದ್ದು, ಈಗ ಕರ್ನಾಟಕ ಸರ್ಕಾರದ ವಶದಲ್ಲಿದೆ. ದೇವಾಲಯದ ಸುತ್ತಮುತ್ತಲಿನ ಪ್ರದೇಶವನ್ನು ಕಡಂಬ, ಚಾಲುಕ್ಯ, ಅಲುಪಾ, ರಾಷ್ಟ್ರಕೂಟ, ಹೊಯಿಸಾಲ, ವಿಜಯನಗರ, ಇಕ್ಕೇರಿ, ಮೈಸೂರು ಸೇರಿದಂತೆ ಅನೇಕ ರಾಜವಂಶಗಳು ಆಳುತ್ತಿದ್ದವು. ಈ ರಾಜವಂಶಗಳಲ್ಲಿ ಹೆಚ್ಚಿನವರು ಈ ದೇವಾಲಯಕ್ಕೆ ಸಾಕಷ್ಟು ಸಂಪನ್ಮೂಲಗಳನ್ನು ಖರ್ಚು ಮಾಡಿದರು ಮತ್ತು ದೇವಾಲಯದ ಅನುಕೂಲಕ್ಕಾಗಿ ಕೃಷಿ ಭೂಮಿಯನ್ನು ದಾನ ಮಾಡಿದರು . ಕ್ರಿ.ಶ. 710 ರಿಂದ ಕ್ರಿ.ಶ 720 ರವರೆಗೆ ಈ ಪ್ರದೇಶವನ್ನು ಆಳಿದ ಅಲುಪಾ ರಾಜವಂಶದ ರಾಜರು ದೇವಾಲಯದ ಅಭಿವೃದ್ಧಿಗೆ ಸಹಕರಿಸಿದ್ದಾರೆ ಮತ್ತು ಈ ಪ್ರದೇಶದಲ್ಲಿ ಶ್ರೀ ರಾಜರಾಜೇಶ್ವರಿಯ ಆರಾಧನೆಗೆ ಉತ್ತೇಜನ ನೀಡಿದ್ದಾರೆ. ನಂತರದ ವರ್ಷಗಳಲ್ಲಿ, ಕೆಲಾಡಿ ರಾಣಿ ಚೆನ್ನಮ್ಮಾಜಿ ದೇವಾಲಯಕ್ಕೆ ಭೇಟಿ ನೀಡಿ ದೇವಾಲಯಕ್ಕೆ ಭವ್ಯ ರಥವನ್ನು ಉಡುಗೊರೆಯಾಗಿ ನೀಡಿದ್ದಾರೆ ಎಂದು ವರದಿಯಾಗಿದೆ. The remaining inscriptions, which are available today were obtained in kariyangala village, Ammunje and in the temple itself and is now under custody of the Karnataka Government. The region surrounding the temple were ruled by many dynasties including Kadamba, Chalukya, Alupa, Rashtrakoota, Hoisala, Vijayanagara, Ikkeri, Mysore etc. Most of these dynasties spent a lot of resources on this temple and donated agricultural lands for the benefit of the temple. Kings from the Alupa dynasty, which ruled the region around 710 AD to 720 AD were particularly noted to have contributed to the development of the temple and to have encouraged the worship of Shri Rajarajeshwari in the region. In later years, Queen Chennammaji of Keladi is reported to have visited the temple and gifted the temple with a grand chariot.