I litteraturen syftar termen formelgenre på en kategori av litterära verk där skönlitterära beståndsdelar är så lika från ett verk till ett annat, att de verkar följa en förutbestämd formel. Formelgenre skiljer sig från litterär genre. En litterär genre är helt enkelt en kategori i litteraturen där verken kännetecknas av likhet i form, stil eller ämne. Likheter inom ett eller två av dessa områden gör att ett litterärt verk passar in i en eller annan kategori, eller genre. Ett litterärt verk sägs dock vara formelartat, eller en del av en formelgenre, när denna likhet är så anmärkningsvärd att läsaren kan känna att han eller hon har läst verket tidigare.
Inom en formelgenre är handlingslinjerna, karaktärerna, inställningarna, stilen och andra delar av fiktion så lika från ett verk till ett annat att verket ofta kan verka original eller förutsägbart. Detta ses inte nödvändigtvis i ett negativt ljus. Enligt vissa litterära åsikter kan ett verk bara vara ett godtagbart exempel på sin genre om det följer vissa riktlinjer eller förväntningar som är förknippade med den genren. Verket kan bara tyckas passa inom en litterär genre om det innehåller vissa förutbestämda skönlitterära inslag.
Till exempel är en romansk roman inte en romansk roman utan någon form av kärleksaffär, som vanligtvis präglas av vissa händelser och känslor. Paret träffas och blir kära. Kanske blir de åtskilda, längtar efter att vara tillsammans igen, övervinner hinder som hindrar dem från att vara tillsammans, och hela tiden är läsaren medveten om hur dessa händelser får karaktärerna att känna sig. I slutändan återförenas älskare på ett eller annat sätt, och det är oftast där handlingen slutar.
Alla de ovan nämnda elementen kanske inte ingår i varje romantisk handlingslinje, men dessa är typiska, förutsägbara och därför formulerade delar av en romantisk handling. Ju fler delar av skönlitteratur som ett litterärt verk har gemensamt med andra i sin genre, desto mer anses det vara formellt. Till exempel, om en grupp litterära verk delar samma miljö, stil, karaktärstyper och liknande händelser som ingår i handlingslinjen, kan verken kallas formel. Tanken är att dessa verk skrevs i enlighet med en formel som avgjorde det totala resultatet.
Ett litterärt verk som anses vara en del av en formelgenre kan kallas ett verk av formelfiktion. Denna term används ofta i populärkulturlitteraturkritik. Det innebär att handlingen i en berättelse har återanvänts, eller att karaktärerna i berättelsen inte är original, utan snarare vanliga karaktärer som har skrivits tidigare. Inom den litteraturkritiska sfären anses att kalla ett verk för en formelfiktion vanligtvis vara något ärekränkande, eftersom det antyder att författaren var okreativ och overoriginal.
Skönlitterära verk som starkt och tydligt uppvisar egenskaperna hos sin genre kan benämnas formelfiktion. Detta är ofta fallet med verk av fantasy fiktion, där element som drakar, magi, häxor, trollformler och trolldrycker nästan säkert finns. Ett annat exempel på en formelfiktion, eller ett verk som hör till en formelgenre, kan vara en västerländsk berättelse. En formelrik western kommer inte bara att ha hästjakt och skjutningar, utan kommer sannolikt också att innehålla en stadssheriff med bågben som skyddar stadsborna från en bandit som förolämpar andra cowboys medan de är fulla i en saloon. Detta kommer att leda till en duell mitt i den dammiga staden vid lunchtid. Dessa element är det som gör ett verk till en del av den västerländska litterära genren, men när de upprepas eller överanvänds blir verket ett exempel på formelgenre.