Jabatan Veterinar telah wujud seawal tahun 1888 lagi, di Pulau Pinang dengan penempatan Doktor Veterinar bertauliah di Jabatan Perubatan. Pada masa itu, tugas utama Doktor ialah memeriksa ternakan yang diimport dari luar Negara terutamanya Siam dan Kedah. Bagi melindungi Pulau Pinang daripada penyakit bawaan haiwan yang  diimport ketika itu, maka sebuah pusat  kuarantin telah dibina pada tahun 1896 dan pusat ini merupakan pusat kuarantin yang pertama di Malaysia.

Perkhidmatan Veterinar mula berkembang di negeri-negeri lain dengan pewujudan Cawangan Veterinar di Jabatan Perubatan dengan penempatan Doktor Veterinar dan Pemeriksa Veterinar. Semua Perkhidmatan Veterinar berada di bawah bidang kuasa Ketua Pegawai Perubatan yang berpusat di Singapura sehingga tahun 1930.

Pada masa itu, tugas utama pegawai yang dilantik ialah megawal wabak penyakit haiwan (epidermic). Disamping itu, satu unit Veterinary Police Force  telah ditubuhkan di Jabatan Polis di bawah  kawalan ketua polis negeri. Unit ini juga ditugaskan untuk memusnahkan anjing-anjing liar dalam usaha menghapuskan  penyakit anjing gila dan menjadi mata-mata untuk melaporkan sebarang kejadian penyakit haiwan. Walaubagaimanapun, unit ini kemudiannya dimasuhkan dan digantikan dengan atenden haiwan.

Pada tahun 1930, Perkhidmatan Veterinar telah dipisahkan dari Jabatan  Perubatan. Pemisahan ini merupakan asas kepada penubuhan Jabatan Perkhidmatan Haiwan. Kemudiaan Jabatan Perkhidmatn Haiwan  juga ditubuhkan di Majlis Kerajaan Tempatan seperti di Pulau Pinang dan Melaka. Pada tahun 1934, ibu pejabat jabatan Perkhidmatan Haiwan telah dipindahkan dari Sigapura ke Kuala Lumpur dan seterusnya pembentukan sebagai jabatan berasingan di bawah kelolaan Pengarah Penyelidikan Veterinar dan Penasihat Veterinar, sehinggalah Perang Dunia ke-2. Semasa zaman pemerintahan British, Jabatan Perkhidmatan Haiwan disusun semula dan menjadi asas organisasi sehingga kini.

Pada 16 November 1957, Allahyarham En. Johari Daud (Tan Sri Dato') telah dilantik menjadi anak watan pertama menerajui Jabatan selepas kemerdekaan negara. Peranan serta fungsi jabatan telah diperluaskan demi memenuhi aspirasi rakyat dalam sebuah negara merdeka sebagaimana termaktub dalam Perlembagaan Malaysia.

Jabatan Perkhidmatan Haiwan Malaysia ialah sebuah agensi Kerajaan Persekutuan dibawah Kementerian Pertanian Malaysia, manakala Jabatan Perkhidmatan Haiwan Negeri ditadbir di bawah kuasa Kerajaan Negeri. Sehinggalah pada tahun 2008 kini, Jabatan Perkhidmatan Malaysia telah diterajui oleh Sembilan (9) orang Ketua Pengarah. Bangunan Ibu Pejabat Jabatan Perkhidmatan Haiwan Malaysia pernah berada di Singapura sebelum berpindah ke Wisma Tani, Jalan Sultan Salahuddin, Kuala Lumpur.

Kemudian berpindah lagi ke Bangunan Chase Perdana, Jalan Semantan Off Bukit Damansara sebelum akhirnya pada Mei 2005, berpindah ke bangunan sendiri di Kementerian Pertanian  dan Industri Asas Tani Malaysia, Blok Podium Lot 4G1 dan 4G2, Presint 4, Pusat Pertadbiran Kerajaan Pesekutuan, Putrajaya sehingga pada hari ini.

Akhirnya, sebagai satu-satunya organisasi yang bertanggungjawab  ke atas kebajikan haiwan dan industri penternakan di negara ini, maka perluasan skop tanggungjawab serta peranan jabatan bagi memenuhi aspirasi sejagat telah membawa kepada penjenamaan semula Jabatan Perkhidmatan Haiwan Malaysia. Tanggal 24 Mei 2008 merupakan tarikh bersejarah buat warga jabatan khususnya dan organisasi Jabatan Perkhidmatan Haiwan umumnya apabila nama Jabatan telah ditukarkan kepada Jabatan Perkhidmatan Veterinar (JPV). Pelancaran tersebut telah disempurnakan oleh YB Dato' Mustapa bin Mohamed, Menteri Pertanian dan Industri Asas Tani Malaysia, dengan penuh bersejarah. Kini JPV lebih matang dan berkeyakinan, untuk berdiri sama tinggi dan duduk sama rendah dengan Jabatan serta Agensi Kementerian yang lain.