Pembangunan Pendidikan Politeknik dilakukan oleh Dapertemen Pendidikan dan Kebudayaan sebagai suatu proyek pemerintah yang dibiayai dengan bantuan Bank Dunia (World Bank). Pembangunan fisik awal dimulai tahun 1980, pengadaan peralatan dan program pendidikan tahap awal hampir selesai pada tahun 1982 dan program pendidikan dimulai pada tahun akademik 1982/1983 di bulan September dengan bidang Keteknikan, yaitu : Program Studi Teknik Sipil, Mesin, Elektro dan Elektronika. Sejak tanggal 20 April 1997 dengan Kepmen NO.  084/1997 Politeknik USU Medan resmi menjadi lembaga pendidikan yang mandiri dan berganti nama menjadi Politeknik Negeri Medan (POLMED) yang merupakan Perguruan Tinggi Negeri yang langsung di bawah naungan DIRJEN DIKTI DEPDIKNAS. Saat ini Kampus POLMED berlokasi di sisi Kampus Universitas Sumatera Utara (USU), dengan jalan akses masuk melalui gerbang USU.

Jurusan Teknik Sipil pada awal memiliki satu program studi yaitu Program Studi D3 Teknik Sipil yang berdiri tahun 1991 sesuai dengan Surat Keputusan Direktur Jenderal Pendidikan Tinggi Departemen Pendidikan Nasional Nomor 0313/O/1991 tanggal 6 Juni 1991. Pada tahun 2008 Program Studi di Jurusan Teknik Sipil Polmed bertambah dua yaitu Program Studi Diploma IV Teknik Perancangan Jalan dan Jembatan (D4 TPJJ) dan Program Studi Diploma IV Manajemen Rekayasa Konstruksi Gedung (D4 MRKG). Program Studi D4 TPJJ dan D4 MRKG Jurusan Teknik Sipil POLMED berdiri tanggal 28 November 2008 berdasarkan Surat Keputusan Menteri Pendidikan dan Kebudayaan Republik Indonesia nomor 4308/D/T/2008 dan telah memulai kuliah pada semester A tahun ajaran 2009/2010.