ตั้งอยู่ที่วัดเขาวง บ้านเขาวง หมู่ ๕ ตำบลเขาวง อำเภอพระพุทธบาท ห่างจากตัวอำเภอพระพุทธบาท ประมาณ ๓ กิโลเมตร ที่ปากถ้ำมีอักษรมอญโบราณ (ปัลลวะ) ซึ่งเป็นแบบอักษรของชาวอินเดียฝ่ายใต้ ปรากฎมีในภาคกลาง และภาคใต้ของประเทศไทยในสมัยก่อนสุโขทัย จนวิวัฒนาการมาเป็นอักษรขอมและ มอญโบราณ ซึ่งพ่อขุนรามคำแหงมหาราชทรง นำมาดัดแปลงประดิษฐ์เป็นต้นกำเนิดอักษรไทย จนถึงทุกวันนี้อักษรจารึกถ้ำนารายณ์ มีข้อความ ๓ บรรทัด ถูกจารึกในสมัยพุทธศตวรรษที่ ๑๒ (ยุคทวาราวดี) ในยุคนั้น ชนชาติมอญมีอำนาจรุ่งเรือง อักษรจารึก เขียนเป็นคำบอกร้อยแก้ว กรมศิลปากรแปลไว้ว่า

“กัณทราชัย ผู้ตั้งแคว้นอนุราธปุระ ได้มอบให้พ่อลุงสินาธะ 
เป็นตัวแทนพร้อมกับชาวเมือง (อนุราธปุระ) จัดพิธีร้องรำ 
เพื่อเฉลิมฉลอง(สิ่ง)ซึ่งประดิษฐานไว้แล้วข้างในนี้”

อ้างอิงจาก 
(เทิม มีเต็ม และจำปา เยื้องเจริญ กองหอสมุดแห่งชาติ กรมศิลปากร ‘จารึกบนผนังปากถ้ำนารายณ์’ ในวารสารศิลปากร หน้า ๕๓-๕๗ ม.ป.ป.)

จารึกนี้บอกให้ทราบว่า ท้องถิ่นแถบนี้มีผู้คนอาศัยอยู่เป็นเวลานาน และอาจจะเคยเป็นเมืองที่เจริญรุ่งเรือง มาก่อน ซึ่งคำว่า ‘อนุราธปุระ’ เป็นชื่อเมืองโบราณในประเทศศรีลังกา ซึ่งเป็นเกาะทางตอนใต้ของประเทศอินเดีย และอาจจะแสดงว่าชาวลังกากับคนท้องถิ่นนี้ (มอญโบราณ) มีการติดต่อสัมพันธ์กัน จึงมีการอ้างชื่อเมือง เพื่อกำหนดให้ระลึกถึงกัน พร้อมทั้งจารึกอักษรไว้เป็นหลักฐาน ทั้งนี้เปรียบเทียบศึกษาจาก บันทึกในพงศาวดารหลายฉบับระบุว่า ในสมัยอาณาจักรสุโขทัย และกรุงศรีอยุธยา รัชสมัยของสมเด็จพระเจ้าทรงธรรม (พ.ศ.๒๑๖๓-๒๑๗๑) เคยมีปรากฏคณะสงฆ์ไทยเดินทางไปเมืองลังกาเพื่อนมัสการรอยพระพุทธบาทที่เขาสุมนกูฏ แต่พระภิกษุลังกาได้บอกว่ามีรอยพระพุทธบาท ในประเทศไทยที่เขาสุวรรณบรรพต และเกิดการค้นพบรอยพระพุทธบาทบริเวณเทือกเขานี้ในเวลาต่อมา หรืออาจจะหมายถึงการแลกเปลี่ยน วัฒนธรรมพระพุทธศาสนาลังกาวงศ์และสยามวงศ์ตามที่ปรากฏในพงศาวดารของชาติไทยเราด้วย ก็อาจจะเป็นได้

วัดเขาวง ตั้งอยู่เลขที่ ๖๒/๑ หมู่ที่ ๕ ตำบลเขาวง อำเภอพระพุทธบาท จังหวัดสระบุรี โดยได้รับอนุญาตสร้างวัดเมื่อวันที่ ๕ กรกฎาคม พ.ศ. ๒๔๖๐ และได้รับอนุญาตให้ตั้งวัดตามลำดับ จนกระทั่งได้รับพระราชทานวิสุงคามสีมาเมื่อวันที่ ๑๕ มิถุนายน พ.ศ. ๒๕๒๑ มีบริเวณกว้าง ๓๐ เมตร ยาว ๕๑ เมตร เนื้อที่ ๑,๕๐๐ ตารางเมตร ดำเนินการผูกพัทธสีมาเมื่อวันที่ ๒๐ กุมภาพันธ์ พ.ศ. ๒๕๒๖

สถานที่แห่งนี้เป็นศาสนสถานมาเป็นเวลายาวนาน สืบความไปถึงสมัยสมเด็จพระนารายณ์มหาราช ทรงเสด็จจากวังนารายณ์เมืองละโว้(ลพบุรี) ไปว่าราชการที่กรุงศรีอยุธยา ทรงผ่านประทับแรม ณ ถ้ำนารายณ์ ... และสมเด็จพระเจ้าทรงธรรม ซึ่งทรงเสด็จมานมัสการรอยพระพุทธบาท ก็ได้เสด็จประทับพักแรมในถ้านารายณ์ ซึ่งมีอากาศเย็นสบายตลอดปี และจากจารึกอักษรผนังปากถ้ำก็ปรากฏหลักฐานว่า ถ้ำนี้ได้เคยเป็น ที่บำเพ็ญกุศลมาตั้งแต่สมัยอนุราธปุระ เมื่อกว่า ๑,๒๐๐ ปีมาแล้ว ผ่านความรุ่งเรืองและเสื่อมโทรมและฟื้นฟูขึ้นเป็นวัดตามประเพณีการปกครองแผ่นดินและ การสืบพระพุทธศาสนา ดังกล่าวข้างต้น

ปัจจุบันนี้ โดยการนำของสมเด็จพระพุฒาจารย์ (เกี่ยว อุปเสโณ) และพระธรรมสิทธินายก (ธงชัย สุขญาโณ) แห่งวัดสระเกศ ราชวรมหาวิหาร วัดเขาวง ได้พัฒนาขึ้นมาสู่สภาพวัดพัฒนาตัวอย่างที่มีผลงานดีเด่น ได้รับการขึ้นทะเบียนเป็นโบราณสถานที่ขึ้นทะเบียนของกรมศิลปากรแล้วเมื่อวันที่ ๔ ธันวาคม ๒๕๔๕ ตามประกาศในราชกิจจานุเบกษา เล่ม ๑๑๙ ตอนพิเศษ ๑๑๙ ง และยังเป็นแหล่งพันธุ์ไม้และสัตว์หาดูยาก คือโมกราชินี (Wrightia SIRIKITIAE D.J. Middleton&Santisuk) จันผา, นกหัวจุก, กระรอกเผือก ฯลฯ เพื่อรักษาไว้เป็นมรดกวัฒนธรรมศาสนาของชาติไทยสืบไป

วัดเขาวง (ถ้ำนารายณ์) เป็นสำนักปฏิบัติธรรมประจำจังหวัดสระบุรี และปฏิบัติกรรมฐานตามสาย พระเดชพระคุณพระราชพรหมยาน(หลวงพ่อฤๅษีลิงดำ) มีหลักเจริญภาวนา มหาสติปัฏฐานสูตร รับผู้เข้าพัก ปฏิบัติธรรมตลอดทั้งปี ตามระเบียบและจารีตของสำนัก