Seseorang yang ingin menjadi pustakawan musik harus merencanakan untuk menghabiskan banyak waktu di sekolah. Orang yang tertarik dengan jenis pekerjaan ini perlu menerima pelatihan kepustakawanan dan musik, dan keterampilan tambahan mungkin juga diperlukan, tergantung pada jenis pengaturan yang mereka inginkan untuk bekerja. Pustakawan musik bekerja untuk perguruan tinggi dan universitas, arsip musik , orkestra, stasiun radio dan TV, organisasi yang bekerja di bidang musik, dan di banyak lingkungan lainnya juga. Pekerjaan ini bisa sangat menuntut dan melibatkan seperangkat keterampilan yang luas.
Kualifikasi sebagai pustakawan musik memerlukan pemenuhan persyaratan untuk menjadi pustakawan dan menyelesaikan pelatihan tambahan untuk spesialisasi musik. Untuk menjadi seorang pustakawan, seseorang membutuhkan gelar master dalam ilmu perpustakaan atau master dalam ilmu informasi. Orang yang ingin berspesialisasi dalam musik biasanya menyelesaikan pelatihan musik sebagai bagian dari pekerjaan sarjana mereka, belajar tentang sejarah musik, teori, dan praktik. Beberapa pustakawan musik juga berasal dari latar belakang pertunjukan, meskipun hal ini tidak diperlukan untuk menjadi pustakawan musik.
Untuk menjadi pustakawan musik, mungkin perlu mengikuti kursus khusus kearsipan untuk mempelajari cara merawat benda-benda di perpustakaan musik. Selain itu, orang mungkin memerlukan pelatihan tari, film dan televisi, dan aspek seni lainnya yang dapat mengintegrasikan musik. Seseorang yang bekerja sebagai pustakawan musik untuk sebuah perusahaan opera, misalnya, membutuhkan pemahaman yang mendalam tentang opera dan pertunjukan panggung, bukan hanya keterampilan sebagai pustakawan dan pecinta musik.
Kursus dalam etnomusikologi, antropologi, dan bahkan arkeologi juga mungkin diperlukan untuk menjadi pustakawan musik. Kursus ini dimanfaatkan oleh pustakawan yang bekerja dengan musik etnik, musik awal, dan manuskrip musik dari era dan budaya lain. Karena pustakawan perlu memahami objek dalam koleksi mereka, mereka harus memiliki landasan yang menyeluruh dalam konteks budaya dan sejarah untuk objek yang mereka kerjakan. Seseorang yang mengelola kumpulan manuskrip musik Renaisans, misalnya, perlu mengetahui tentang sejarah zaman itu, tren musik yang ada pada masa itu, dan teknik kearsipan yang tepat untuk menangani dokumen dari abad ke-14 hingga ke-17.
Menjadi pustakawan musik memang membantu, tetapi juga perlu memiliki keterampilan pengorganisasian dan katalogisasi yang baik, dan kemampuan untuk mengontekstualisasikan informasi. Pustakawan musik yang baik mengetahui koleksi yang dia awasi dan rawat secara dekat, dan dapat membantu orang dengan permintaan penelitian, menemukan item tertentu, dan membuat pengaturan untuk meminjam atau memeriksa item dari perpustakaan lain.