Sekolah ini ditubuhkan pada 11hb Januari 1965 dengan penggabungan beberapa Sekolah Lanjutan seperti:-
i) Sekolah Menengah Lanjutan Westlands
ii) Sekolah Menengah Lanjutan Georgetown
iii) Sekolah Menengah Lanjutan Tanjong
iv) Sekolah Menengah Lanjutan Macalister
v) Sekolah Menengah Lanjutan Jalan Kelawei
vi) Sekolah Menengah Lanjutan Glugor
Sekolah Menengah Rendah yang baru ini dinamakan Sekolah Menengah Jalan Scotland. Pada Peringkat awal bangunan ini terdiri daripada Blok A yang mengandungi 12 bilik darjah dan sebuah kantin sahaja. Seramai 726 murid (489 lelaki dan 237 perempuan) telah melaporkan diri dan ditempatkan di dalam 20 bilik darjah; 10 di bahagian pagi dan 10 lagi di bahagian petang. Guru besar yang pertama ialah En. Lim San Hoe yang dipindahkan dari Sekolah Menengah Westland pada 1hb. Januari, 1965.
Sebenarnya, sekolah ini telah bermula 6 bulan lebih awal, iaitu pada Julai 1964. Dalam bulan itu, En. Lim Chiang Choo dan murid-muridnya dari Sekolah Menengah Lanjutan Westlands bersama-sama dengan En. Khoo-Yeoh Gan Hong dan murid-muridnya dari Sekolah Menengah Lanjutan Tanjong telah berpindah ke sekolah ini. En. Lim Chiang Choo telah diberi tugas untuk mendirikan sekolah ini. Salah satu daripada tugas-tugas yang dilakukan olehnya ialah meratakan dan mengadakan padang permainan sekolah yang dulunya merupakan sebuah kebun manggis. Dia juga bertanggungjawab menebus gunas sebuah kawasan rendah. Tempat ini sekarang sudah dijadikan tempat letak basikal.
Dalam tahun 1966, 2 blok bangunan lagi disiapkan - Blok B mengandungi 12 buah bilik darjah dan Blok C yang terdiri daripada 2 buah makmal Sains, 2 buah bilik pertukangan kayu, bilik stor dan tandas. Dalam tahun ini juga, En. Lim San Hoe ditukar ke Pejabat Pelajaran Pulau Pinang dan Guru Besar yang mengambil tempatnya ialah En. Chang Chor Yew.
Tahun 1967 adalah tahun yang bersejarah bagi sekolah ini kerana dibuka dengan rasminya oleh Ketua Menteri Pulau Pinang, Tan Sri Wong Pow Nee, PMN., pada hari Jumaat 10hb. November, 1967. Pada tahun ini juga Pasukan Pengakap Sekolah dimulakan. Kumpulan pengakap yang kecil ini terdiri daripada 15 murid yang kelak menjadi pelatih-pelatih pengakap yang baru.
Dalam tahun 1968, jumlah murid sekolah ini berlipat ganda sehingga mencapai angka 1451 (dibandingkan dengan 726 murid pada tahun 1965). Dalam bulan April tahun itu, En. Chang Chor Yew ditukar ke Sekolah Heng Ee dan tempatnya diambil oleh En. Tang Gooi Fook. Setakat ini, sekolah ini adalah lebih terurus khasnya yang berkaitan dengan permainan dan kegiatan-kegiatan luar sekolah. Sekolah ini telah mengambil bahagian dalam pertandingan sukan yang diuruskan oleh Majlis Sukan Sekolah-Sekolah Pulau Pinang. Kegiatan Pandu Puteri juga diperkenalkan kepada sekolah ini dan didaftarkan sebagai kumpulan yang ke-9 di Pulau Pinang. Bahagian Kadet St. John Ambulans ditubuhkan pada akhir tahun penggal satu.
Dalam tahun 1969, bilangan guru-guru dan murid-murid di sekolah ini bertambah lagi. Jumlah murid-murid ialah 1547 dan jumlah guru-guru yang bertugas di sekolah ini ialah 60 (dibandingkan dengan 39 dalam tahun 1965). Dalam tahun ini, sekolah ini menguruskan pertandingan Merentas Desa Tahunan, Majlis Sukan Sekolah-Sekolah Pulau Pinang. Pasukan 'Ping Pong' juga mengambil bahagian dalam Pertandingan 'Ping Pong' yang diuruskan oleh Majlis Sukan Sekolah-Sekolah Pulau Pinang. Kerja untuk menambahkan lagi 4 bilik darjah dan 2 bilik darjah Sains Rumah Tangga pada Blok C bermula pada tahun ini. (Bilik-bilik tersebut telah siap pada tahun 1971). En. Tang Gooi Fook bersara pada akhir bulan April. En. Khoo Teng Chye dari Sekolah Menengah Georgetown, Pulau Pinang ditukar ke sekolah ini sebagai Guru Besar yang baru.
Tahun 1970 adalah tahun yang bersejarah bagi sekolah ini sebab dapat mengadakan Sukan Tahunan yang pertama. Sukan Sekolah ini diadakan di padang La Salle.
Di antara tahun 1971 dan 1979, sekolah ini terus berkembang dan berjaya di bawah dua orang Guru Besarnya iaitu En. Khoo Teng Chye (1969-1978) dan En. Kang Kee Heng (1979). Satu peristiwa bersejarah yang berlaku pada 1hb. Mac, 1972 apabila nama sekolah ini ditukar kepada Sekolah Haji Zainul Abidin mengambil sempena nama Allahyarham Tuan Haji Zainul Abidin iaitu seorang pendidik Melayu yang terkenal di Pulau Pinang.
Dalam tahun 1980, En. Goh Hock Aun menjadi Guru Besar sekolah ini. Beberapa kemudahan diperkenalkan kepada sekolah ini dalam tahun 1981 dan 1982 oleh En. Goh Hock Aun. Di antaranya ialah Bilik Bilik Perpustakaan, Bilik Video, Bilik Mesyuarat yang berhawa dingin, pembesaran bilik guru dan pembinaan tempat letak basikal bagi murid-murid.
Dalam tahun ini (1985), beberapa peristiwa yang penting berlaku lagi. Kali ini, sekolah menyambut ulang tahunnya yang ke-21 dan selaras dengan ini memperkenalkan tingkatan 4 untuk murid-murid yang telah lulus dalam Peperiksaan S.R.P. di sekolah ini. Ini menjadikan sekolah ini bertaraf Sekolah Menengah Penuh bermula dari Januari 1985. Mulai tahun ini juga, Majalah Sekolah yang pertama diterbitkan untuk menyambut Ulangtahun ke-21 sekolah ini.
