Sekolah Menengah Kebangsaan Gudang Rasau telah ditubuhkan pada 1 Januari 2001. Pada peringkat awalnya sekolah ini menumpang di SMK Paya Besar kerana bangunan sekolah ini tidak dapat disiapkan oleh pihak kontraktor. Pengetua yang pertama menerajui sekolah ini ialah Encik Rosdi bin Ismail. Sekarang Encik Rosdi telah menjadi Pengarah Pelajaran Pahang.

​

Pada ketika itu jumlah pelajar yang mendaftar hanya seramai 76 orang dan tenaga pengajar seramai 9 orang manakala kakitangan bukan guru seramai 3 orang. Pada tahun 2002 sekolah ini menumpang di SK Mat Kilau ekoran kerja-kerja pembinaan masih lagi diteruskan. Pada ketika itu jumlah pelajar adalah seramai 191 orang yang terdiri pada pelajar Tingkatan 1 dan Tingkatan 2. Kakitangan akademik pada ketika itu seramai 13 orang manakala bukan akademik seramai 8 orang.

​

Pada tahun 2003, sekali lagi sekolah ini menumpang di SK Mat Kilau kerana bangunan sekolah masih belum disiapkan oleh pihak kontraktor. Pelajar yang diterima masuk ke sekolah ini kebanyakannya dari taraf sosio ekonomi yang sederhana dan rendah. Pada 1 September 2004, merupakan hari bersejarah bagi warga SMK Gudang Rasau kerana telah berpindah ke bangunan sendiri walaupun  dalam keadaan serba kekurangan.