Sekolah Kebangsaan Pasir Gudang 2 mula dibuka pada awal Bulan Januari 1982 dan telah dirasmikan pada 09 Mei 1999, oleh YB Dr Hj Latif Bin Hj Ahmad selaku Pengerusi Jawatankuasa, Kebudayaan Belia dan Sukan Negeri Johor.
Pada awalnya merupakan cawangan kepada SK Pasir Gudang 1 dimana satu-satunya sekolah rendah di Pasir Gudang ketika itu. Sekolah ini diasingkn dari induknya dan di kenali sebagai sekolah SKPG 2. Lokaliti sekolah ini di dalam 10/1, berhampiran dengan flat kakitangan Malaysia Marine and Heavy Engineering (MMHE) dan perumahan perjiranan 10.
Sewaktu dibuka sekolah ini hanya mempunyai sebuah bangunan 2 tingkat yang menempatkan bilik-bilik kelas, pejabat dan pusat sumber dengan kapasiti 180 orang murid, 9 Guru dan 3 kakitangan. Sekolah ini telah dipertingkatkan insfrastrukturnya dengan pembinaan tambahan dibawah projek gotong-royong pada tahun 1992 dengan 4 bilik kelas. Kemudian sekolah ini mendapat satu lagi tambahan bilik untuk digunakan sebagai bengkel kemahiran hidup manipulatif ketika itu.
Penghujung 1994 bangunan tambahan tiga tingkat telah dibina bagi menempatkan bilik-bilik kelas dan bengkel kemahiran hidup digunakan untuk sesi pembelajaran. Perubahan telah dibuat terhadap bilik-bilik selaras dengan pertambahan penduduk dan murid. Bangunan PGR telah diubahsuai untuk kelas pendidikan khas kanak-kanak bermasalah pembelajaran (KKBP).
Pada pertengahan tahun 2009, sekolah ini mendapat lagi bangunan tambahan. Bangunan tersebut setinggi 4 tingkat dan masih dalam pembinaan.