Sekolah Menengah Kebangsaan Pasir Gudang 2 ditubuhkan pada 1 Disember 1993. pada mulanya pelajar sekolah ini menumpang sementara di Sekolah Menengah Pasir Gudang 1. Proses pembinaan sekolah ni selesai pada 25 April 1995. Pelajar dan guru mula berpindah ke SMKPG2. Ketika itu hanya satu sesi persekolahan sahaja iaitu sesi pagi.
Setelah beberapa tahun ditubuhkan, keadaan persekitaran semakin berubah dan pertambahan bilangan penduduk telah menyebabkan bilangan guru dan pelajar semakin bertambah. Pada tahun 2010, SMKPG2 telah menerima pengetua baru setelah persaraan Encik Abdul Wahid bin Yahyin iaitu Puan Zainab binti Johari.
Sejak tahun 1996 sehingga kini, dua sesi persekolahan telah diwujudkan. Sekolah ini mula menerima calon PMR pada tahun 1995 dan calon SPM pada tahun 1997. Manakala calon STPM pula buat julung kalinya diterima pada tahun 2004.
Prestasi akademik sekolah terus memberangsangkan apabila pencapaian PMR dan SPM terus meningkat dari tahun demi tahun dari segi kualiti dan kuantiti. Menerusi bidang kokurikulum juga sekolah ini banyak mengikuti aktiviti di peringkat daerah, negeri dan juga kebangsaan.
SMKPG2 terus unggul dalam perkembangan prasarana yang kini mempunyai surau yang lebih selesa, dewan yang besar, Taman Herba yang menghijau, astaka pemuafakatan dan pondok rehat yang menjadi tempat istirehat dan mengulangkaji pelajaran.
Pada tahun 2004, SMKPG2 telah memenangi tempat ke-2 Anugerah Halaman Cantik anjuran PBT Pasir Gudang. Pada tahun 2005, 2006, 2007 dan 2009 pula SMKPG2 telah memenangi tempat pertama dalam pertandingan Lanskap anjuran PBT Pasir Gudang.
Selain itu, pada tahun 2004, kumpulan pertama Pra-Universiti diwujudkan. Sejak dari tahun tersebut, jumlah pelajar tingkatan 6 menunjukkan peningkatan sehingga kini. Kini, Tingkatan 6 SMKPG2 telah banyak mengalami tranformasi apabila sistem pengurusan dan pembelajaran telah dinaiktaraf sehingga setanding dengan Pra-Universiti lain.
Sehingga kini, banyak kejayaan yang telah berjaya diukir oleh SMKPG2. Pengalaman dan kejayaan yang diperoleh ini menjadi pendorong kepada warga SMKPG2 untuk berusaha lebih kuat ke arah kecemerlangan yang lebih gemilang.