Någon som vill bli musikbibliotekarie bör planera att tillbringa mycket tid i skolan. Människor som är intresserade av denna typ av arbete kommer att behöva få utbildning i bibliotekarie och musik, och ytterligare färdigheter kan också krävas, beroende på vilken typ av miljö de vill arbeta i. Musikbibliotekarier arbetar för högskolor och universitet, musikarkiv , orkestrar, radio- och TV-stationer, organisationer som arbetar inom musikområdet och även i många andra miljöer. Detta arbete kan vara mycket krävande och innebär en bred kompetens.
Att kvalificera sig till musikbibliotekarie kräver att man uppfyller kraven för att bli bibliotekarie och genomgår en tilläggsutbildning för att specialisera sig på musik. För att vara bibliotekarie behöver någon en master i biblioteksvetenskap eller en master i informationsvetenskap. Människor som vill specialisera sig på musik slutför vanligtvis musikutbildning som en del av sitt grundutbildningsarbete och lär sig om musikhistoria, teori och praktik. Vissa musikbibliotekarier kommer också från en bakgrund av framförande, även om detta inte krävs för att bli musikbibliotekarie.
För att bli musikbibliotekarie kan det vara nödvändigt att gå specialkurser i arkivering för att lära sig ta hand om föremålen i ett musikbibliotek. Dessutom kan människor behöva utbildning i dans, film och tv och andra aspekter av konsten som kan integrera musik. Någon som arbetar som musikbibliotekarie för ett operabolag behöver till exempel en djup förståelse för opera och scenframträdande, inte bara kunskaper som bibliotekarie och musikälskare.
Kurser i etnomusikologi, antropologi och till och med arkeologi kan också vara nödvändiga för att bli musikbibliotekarie. Dessa kurser används av bibliotekarier som arbetar med etnisk musik, tidig musik och musikmanuskript från andra tidsepoker och kulturer. Eftersom bibliotekarier behöver förstå föremålen i sina samlingar måste de ha en grundlig förankring i det kulturella och historiska sammanhanget för föremålen de arbetar med. Den som förvaltar en samling renässansmusikmanuskript behöver till exempel känna till epokens historia, musikaliska trender som fanns under denna period och korrekt arkivteknik för att hantera dokument från 14- till 17-talen.
Det hjälper att ha en passion för musik för att bli musikbibliotekarie, men det är också nödvändigt att ha goda förmåga att organisera och katalogisera, och en förmåga att kontextualisera information. En bra musikbibliotekarie känner till de samlingar han eller hon övervakar och vårdar intimt, och kan hjälpa människor med forskningsförfrågningar, lokalisering av specifika föremål och göra arrangemang för att låna eller granska föremål från andra bibliotek.