Sebagai murid Sunan Kalijaga, Sunan Bayat hidup pada masa paling awal dalam proses Islamisasi Jawa pada abad ke-16. Ia adalah putra dari Ki Ageng Pandanaran I, Bupati Semarang yang pertama. Setelah Ki Ageng Pandanaran I meninggal dunia, putranya yaitu Pangeran Mangkubumi, menggantikannya sebagai bupati Semarang kedua. Menurut H.J. de Graaf dan Th. Pigeaud dalam Kerajaan-Kerajaan Islam Pertama di Jawa, dikisahkan ia semula menjalankan pemerintahan dengan baik dan selalu patuh dengan ajaran-ajaran Islam seperti halnya mendiang ayahnya. Namun, lama-kelamaan terjadilah perubahan. Ia yang dulunya sangat baik berubah menjadi sosok yang sombong, tidak mau beribadah, dan memandang rendah orang miskin (Balar Jateng dan Cermin Kudus, 2006: 181). Tugas-tugas pemerintahan sering pula dilalaikan, begitu pula mengenai perawatan pondok-pondok pesantren dan tempat-tempat ibadah.

Mengetahui hal ini, Sultan Demak, mengutus Sunan Kalijaga untuk menyadarkannya. Terdapat variasi cerita menurut beberapa babad tentang bagaimana Sunan Kalijaga menyadarkan sang bupati. Babad mengisahkan Sunan Kalijaga menyamar sebagai tukang rumput yang melamar kerja di rumah Ki Ageng Pandanaran. Saat itu, Sunan Kalijaga menyaksikan bagaimana Ki Ageng Pandanaran justru menumpuk-numpuk beras, padahal rakyat sedang dilanda kelaparan. Ketika, Sunan Kalijaga yang menyamar turut meminta beras kepada Ki Ageng Pandanaran, ia dengan ketus menjawab bahwa yang ia bawa bukan beras, tetapi pasir. Seketika, tumpukan beras itu berubah menjadi pasir. Saat menyadari kesalahannya, Ki Ageng Pandanaran memohon kepada sang pencari rumput untuk mengembalikan pasir menjadi beras kembali. Setelah semua selesai, barulah ia menyadari, sosok yang ia kira tukang rumput itu, ternyata adalah gurunya sendiri, Sunan Kalijaga. Akhirnya, sang bupati menyadari kelalaiannya, dan memutuskan untuk mengundurkan diri dari jabatan duniawi dan menyerahkan kekuasaan Semarang kepada adiknya.

Pangeran Mangkubumi, kemudian berpindah ke selatan. Didampingi oleh isterinya yang setia, ia melewati daerah-daerah seperti, Salatiga, Boyolali, Mojosongo, Sela Gringging, dan Wedi. Menurut tradisi lisan yang berkembang di masyarakat, nama-nama ini selalu dihubungkan dengan sosok Pangeran Mangkubumi. Di wilayah yang baru, ia menetap di daerah yang bernama Tembayat, sembari membangun sebuah perguruan di Gunung Jabalkat. Di wilayah ini, ia menjadi penyebar Islam yang gigih. Setelah meninggal, ia dimakamkan pula puncak gunung Tembayat. Dari nama inilah, ia lebih dikenal dengan nama Sunan Bayat.