- Sekolah ini ditubuhkan pada 2 April 1962 yang berasaskan kepada "Sekolah Aneka Jurusan" dan dikenali sebagai Sekolah Menengah Lanjutan Johor Bahru.Pada asalnya, murid-murid sekolah ini telah menumpang di Maktab Sultan Abu Bakar Johor Bahru untuk murid lelaki dan Sekolah Menengah (P) Sultan Ibrahim untuk murid-murid perempuan.
- Pada bulan Januari 1964, kompleks sekolah siap dibina dan mula menggunakan aliran bahasa pengantar Bahasa Melayu dan Bahasa Inggeris.
Pada tahun 1965, sekolah kemudiannya dikenali sebagai Sekolah Menegah Rendah, mula menerima kelas peralihan, dan pelajar aliran Bahasa Melayu pula diserapkan ke Sekolah Menengah Sultan Ismail.
- Tanggal 25 Julai 1968, sekolah ini secara rasminya dinamakan "Sekolah Menengah Aminuddin Baki", sempena nama seorang tokoh pendidikan yang terkemuka dan telah dirasmikan oleh YB. Menteri Pelajaran ketika itu iaitu Encik Mohd Khir bin Johari pada tarikh tersebut.
- Menjelang Januari 1970, Sekolah ini mula menerima pelajar Tingkatan 4 sebanyak 4 kelas. Setahun kemudian, sekolah ini mulai menjadi sekolah menengah penuh daripada Peralihan, Tingkatan 1 hingga Tingkatan 5. Bilangan kelas bertambah lagi apabila pada 22 Januari 1979, Kelas Pendidikan Khas Cacat Pendengaran telah dibuka dengan menerima seramai 6 orang pelajar-pelajar perintis yang cacat pendengaran yang ditempatkan di sebuah kelas khas dengan seorang guru terlatih
- Selaras dengan Dasar Pelajaran Kebangsaan, sekolah ini kemudiannya menjadi Sekolah Menengah Kebangsaan sepenuhnya pada Januari 1980. Pada 19 April 1986 pula, sekolah telah mengadakan Sambutan Jubli Perak yang telah dirasmikan oleh YB Datuk Abdullah Hj Ahmad Badawi, yang merupakan Menteri Pelajaran Malaysia ketika itu.
- Mulai 22 Januari 1979, sekolah ini telah memulakan kelas pendidikan khas dengan menerima seramai 6 orang murid-murid perintis yang cacat pendengaran dan di tempatkan di sebuah kelas khas dengan seorang guru terlatih yang berkenaan.