Musikbibliotekarier kan sägas systematisera sin passion för musik. Utöver denna grundläggande generalisering kan emellertid en musikbibliotekaries uppgifter variera mycket och dikteras av vilken typ av institution där bibliotekarien arbetar. Några av de vanligaste arbetsgivarna för musikbibliotekarier inkluderar offentliga och akademiska bibliotek, och, i mindre grad, musikförlag, musikkonservatorier och media som TV- eller radiostationer.
En musikbibliotekarie vid ett offentligt eller akademiskt bibliotek kan ägna mycket av sin tid åt att organisera institutionens musiksamling, som kan innehålla föremål som böcker, manuskript och ljud- och videoinspelningar. Dessutom kan han eller hon söka nytt material för att förbättra befintliga samlingar och hjälpa biblioteksägare att söka och använda samlingens material effektivt. När det gäller akademiska institutioner i synnerhet kan en musikbibliotekarie undervisa i klasser eller seminarier i ämnen som musikkatalogisering eller manuskriptbevarande, och kan också utföra och publicera originalforskning inom musikområdet.
Musikbibliotekarskapet är dock på intet sätt begränsat till traditionella biblioteksmiljöer. Musikförläggare anställer ibland musikbibliotekarier för att redigera material för publicering och för att katalogisera arkivmaterial. En musikbibliotekarie på ett konservatorium kan vara ansvarig för att köpa eller hyra noter som krävs för studentframträdanden. Radio- och tv-stationer förlitar sig ofta på en musikbibliotekarie för att bygga en samling musik som kan användas för att förbättra programmeringen, och producenter kan samarbeta med sin stationsbibliotekarie för att välja musik som passar deras programbehov. Beroende på stationens karaktär kan den bosatta musikbibliotekarien också bli ombedd att hämta inspelade föreställningar för att sändas i sin helhet.
Uppenbarligen kräver denna typ av bibliotekarie djup kunskap om musikområdet. Således har många musikbibliotekarier kandidatexamen inom områden som musikvetenskap, kompletterade med kurser inom andra områden inom humaniora, vilket gör att de kan förstå på vilket sätt musik passar in i konstens bredare sammanhang. Ofta har de förstahandserfarenhet som musikalartist. I allt högre grad anställer biblioteken endast kandidater med avancerade kvalifikationer; som sådan har många musikbibliotekarier också en magisterexamen i biblioteksvetenskap.
Musikbiblioteksföreningen (MLA) grundades 1931 för att ge karriärinformation och stöd till musikbibliotekarier. Dessutom anordnar MLA olika workshops som gör det möjligt för musikbibliotekarier att kommunicera med kamrater från andra institutioner. Personer som söker information om utbildning av musikbibliotekarier och anställningsmöjligheter kan kontakta MLA för hjälp.