Eyang Ganda Kusuma yang dikenal juga sebagai Raden Peribi merupakan pelarian dari Kerajaan Majapahit, lalu ia sembungi dan mentap di Kabupaten Kebumen. Disanalah dia selesai bertapa mengganti kembali namanya menjadi Brawijaya.
Eyang Gandakusuma dikenal sebagai sinuhun yang dihormati memiliki hubungan yang sangat erat dengan Kerajan Majapajhit. Setiap kali memasuki bulan sura, Eyang Ganda Kusuma selalu mengunjungi desa Gandatapa, hingga akhirnya menetap dan bertapa didesa tersebut.
Namun sayang ketika ditelusuri areal itu tidak ditemukan bangunan candi yang menjulang, melainkan hanya ditemukan tumpukan batu. Begitupun dengan cerita Candi Rongeng tidak dtemukan, menurut warga sekitar bangunan itu telah hilang yang tersisa hanya arca tapi sudah dipindah ke museum.