Sekolah Menengah Jementah (SMJ) telah mula beroperasi pada 1 September 1968. Ia terletak di KM23, Jalan Muar, 85200 JEMENTAH, Segamat, Johor. Ketika itu SMJ mempunyai dua aliran iaitu Aliran Melayu dan Aliran Inggeris dengan nama:

i. Sekolah Menengah Rendah Kebangsaan
ii. Sekolah Menengah Rendah Jenis Kebangsaan Inggeris

 

SMJ dibina atas kelulusan Kementerian Pendidikan Malaysia dan dikelolakan oleh Jabatan Pendidikan Negeri Johor.

 

Pada tahun 1971, nama sekolah telah ditukar kepada Sekolah Menengah Jementah dan pada tahun itu juga; buat pertama kalinya Peperiksaan Sijil Rendah Pelajaran (SRP) / Lower Certificate of Education (LCE) diperkenalkan kepada pelajar.

 

Pada bulan April 1978, kali pertama kelas Tingkatan 4 dan Tingkatan 5 dimulakan.  Pada tahun 1979, kali pertama juga para pelajar mengambil Peperiksaan Sijil Pelajaran Malaysia (SPM) / Peperiksaan Malaysia Certificate Of Education (MCE). Pada tahun 1980 Peperiksaan MCE telah dimansuhkan dan digantikan dengan SPM sepenuhnya.  Pada tahun 1987, Kelas Sains Tingkatan 4 dimulakan.

 

Pada tahun 2003, Tingkatan 6 diperkenalkan di SMKJ. Pada tahun 2004 Peperiksaan Sijil Tinggi Persekolahan Malaysia (STPM) mula ditawarkan kepada pelajar Tingkatan 6 Atas. Pada tahun 2017, Tingkatan 6 tidak lagi ditawarkan di SMKJ.

 

Tahun 1992 merupakan tahun akhir Sijil Rendah Pelajaran (SRP) diadakan yang kemudiannya Penilaian Menengah Rendah (PMR) diperkenalkan oleh Majlis Peperiksaan Malaysia pada tahun 1993.

 

 

Di awal pengoperasian pada tahun 1968, sekolah ini hanya mempunyai tiga blok bangunan iaitu Blok A, Blok B dan Blok C; yang menempatkan bilik-bilik darjah, pejabat dan sebuah kantin. Bertitik tolak dari peningkatan bilangan pelajar yang semakin bertambah setiap tahun, bangunan baru iaitu Blok G dan bangunan Kemahiran Hidup telah dibina. Pada tahun-tahun berikutnya, jumlah kelas tidak lagi dapat menampung jumlah pelajar yang semakin meningkat; pihak sekolah telah memperkenalkan persekolahan dua sesi, pagi dan petang.

 

Kini, Sekolah Menengah Kebangsaan Jementah mempunyai sepuluh buah bangunan; 12 bilik darjah, 6 Makmal Sains, Bilik Guru, Pejabat, Bilik Bimbingan dan Kaunseling, Bilik SPBT, sebuah bangunan Surau, Bilik TV, Bilik Gerakan, Dewan Peperiksaan, Bilik Sumber, Perpustakaan yang lengkap dengan penghawa dingin dan Makmal Komputer. Malah bukan itu sahaja, terdapat juga 2 buah rumah guru dan sebuah rumah pengetua yang telah dibina pada 29 September 1980.

 

Pada tahun 2023, sekolah ini telah mendapat sebuah Dewan yang dibina di kawasan tapak perhimpunan berhadapan dengan Blok A dan Blok B. Ia dinamakan sebagai Dewan Gemilang.