En coset är en specifik typ av delmängd av en matematisk grupp. Till exempel kan man betrakta mängden av alla integralmultiplar av 7, {… -14, -7, 0, 7, 14 …}, som kan betecknas som 7Z. Att lägga till 3 till varje tal genererar mängden {… -11, -4, 3, 10, 17 …}, som matematiker beskriver som 7Z + 3. Denna senare uppsättning kallas coset av 7Z som genereras av 3.
Det finns två viktiga egenskaper hos 7Z. Om ett tal är en multipel av 7, så är dess additiv invers också. Den additiva inversen av 7 är -7, den additiva inversen av 14 är -14, och så vidare. Att addera en multipel av 7 till en annan multipel av 7 ger en multipel av 7. Matematiker beskriver detta genom att säga att multiplerna av 7 är ”stängda” under additionsoperationen.
Dessa två egenskaper är varför 7Z kallas en undergrupp av heltal under addition. Endast undergrupper har cosets. Mängden av alla kubiktal, {… -27, -8, -1, 0, 1, 8, 27 …}, har inte medsatser på samma sätt som 7Z eftersom den inte är stängd under addition: 1 + 8 = 9 och 9 är inte ett kubiktal. På liknande sätt har mängden av alla positiva jämna tal, {2, 4, 6, …}, inga bimängder eftersom den inte innehåller inverser.
Anledningen till dessa bestämmelser är att varje nummer ska finnas i exakt en coset. I fallet med {2, 4, 6, …} är 6 i coseten genererad av 4 och är i coseten genererad av 2, men dessa två coset är inte identiska. Dessa två kriterier räcker för att säkerställa att varje element är i exakt en coset.
Cosets finns i vilken grupp som helst, och vissa grupper är mycket mer komplicerade än heltal. En användbar grupp som man kan tänka sig är uppsättningen av alla sätt att flytta en ruta utan att ändra regionen den täcker. Om en kvadrat roteras 90 grader, finns det ingen uppenbar förändring i formen. På samma sätt kan den vändas vertikalt, horisontellt eller tvärs över endera diagonalen utan att ändra området som kvadraten täcker. Matematiker kallar denna grupp D4.
D4 har åtta element. Två element anses vara identiska om de lämnar alla hörn på samma plats, så att rotera kvadraten medurs fyra gånger anses vara detsamma som att inte göra någonting. Med detta i åtanke kan de åtta elementen betecknas e, r, r2, r3, v, h, dd och dd. ”e” hänvisar till att göra ingenting, och ”r2” anger att göra två rotationer. Vart och ett av de fyra sista elementen hänvisar till att vända kvadraten: vertikalt, horisontellt eller längs dess uppåt- eller nedåtlutande diagonaler.
Heltalen är en Abelisk grupp, vilket betyder att dess operation uppfyller den kommutativa lagen: 3 + 2 = 2 + 3. D4 är inte Abelsk. Att rotera en fyrkant och sedan vända den horisontellt flyttar inte hörnen på samma sätt som att vända den och sedan rotera den.
När man arbetar i icke-kommutativa grupper använder matematiker vanligtvis en * för att beskriva operationen. Ett litet arbete visar att att rotera kvadraten och sedan vända den horisontellt, r * h, är samma sak som att vända den över dess nedåtgående diagonal. Således r * h = dd. Att vända kvadraten och sedan rotera den motsvarar att vända den över dess uppåtgående diagonal, så r * h = du.
Beställning spelar roll i D4, så man måste vara mer exakt när man beskriver cosets. När man arbetar i heltal är frasen ”coset av 7Z genererad av 3” entydig eftersom det inte spelar någon roll om 3 läggs till till vänster eller höger om varje multipel av 7. För en undergrupp av D4 kommer dock olika ordningsföljder att skapa olika cosets. Baserat på beräkningarna som beskrivits tidigare, r*H, är den vänstra coseten av H genererad av r—lika med {r, dd} men H*r är lika med (r, du}. Kravet att inget element ska finnas i två olika coset gäller inte när man jämför höger cosets med vänster cosets.
De högra cosets av H matchar inte dess vänstra cosets. Inte alla undergrupper av D4 delar denna egenskap. Man kan betrakta undergruppen R för alla rotationer av kvadraten, R={e, r, r2, r3}.
En liten beräkning visar att dess vänstra cosets är samma som dess högra cosets. En sådan undergrupp kallas en normal undergrupp. Normala undergrupper är extremt viktiga i abstrakt algebra eftersom de alltid kodar extra information. Till exempel, de två möjliga bisatserna av R motsvarar de två möjliga situationerna ”fyrkanten har vänts” och ”rutan har inte vänts.”