Systemteori är vanligtvis den tvärvetenskapliga studien av komplexa strukturer som kan förekomma i naturen, samhället eller vetenskapen. Exempel på komplexa strukturer kan variera kraftigt, med allt från myrkolonier till politiska partier till språk. Systemteoretiker kan analysera hur sådana system bildas, hur de fungerar eller vad som är det avsedda målet med ett system.
Området systemteori uppstod som en följd av biologiska studier. Efter analysen av ekologiska system i naturen, tillämpade systemteoretiker systemets grundläggande logik på icke-ekologiska fenomen. Pionjärer inom området, såsom den ungerske vetenskapsmannen Bela H. Banathy, hävdade att en tydlig definition av begreppet system är en integrerad del av att etablera grunderna för all vetenskap, samtidigt som man avgör möjligheten för dess tillväxt.
Många systemteoretiker har försökt utveckla en allmän teori som skulle förklara funktionen hos alla tänkbara system. Detta tillvägagångssätt skulle förklara system så olika som en bikupa eller en regering enligt samma allmänna principer och lagar. En sådan hypotes drar slutsatsen att det finns en grundläggande logikintegral i alla system.
Enligt debatten i den akademiska litteraturen om vad som exakt utgör ett system, har många olika synsätt på systemteori föreslagits. Vanligtvis har nyckelegenskaperna hos ett system identifierats som förhållandet mellan uppfattade enskilda delar för att bilda en holistisk enhet. Detta tillvägagångssätt definierar konsistensen av ett system enligt enhetliga uppsättningar av relationer och beteendemönster, även känt som ett slutet system. Till exempel utgörs systemet av en myrkoloni av olika beteendemönster hos de specifika myror som är dess medlemmar. Dessa olika beteenden kommer i sin tur att vara relaterade till varandra, vilket ger uppfattningen om en övergripande homogenitet hos ett system definierat i termer av dess konsekventa funktion.
Vissa akademiker motsätter sig föreställningen om det slutna systemet med konceptet om det öppna systemet. De hävdar att definitionen av alla stängda system innebär en minskningsfel som förenklar ett systems natur. Däremot betonar öppna systemteoretiker att många gånger kan system definieras i termer av vad de utesluter, i motsats till vad de inkluderar, eller att delar, som inte ses som en del av ett system, kan integreras i det.
Begrepp som emergens är också en viktig del av systemteorin. Emergence beskriver fenomenet hur en enkel uppsättning relationer mellan delar kan skapa något helt heterogent till dessa delar. Vanliga exempel på framväxt inkluderar Internet och aktiemarknaden.