Kaosteori hänvisar till beteendet hos vissa rörelsesystem, såsom havsströmmar eller befolkningstillväxt, för att vara särskilt känsliga för små förändringar i startförhållanden som resulterar i drastiskt olika utfall. Till skillnad från vad den antyder i vardagsspråk, betyder kaosteorin inte att världen är metaforiskt kaotisk, och den hänvisar inte heller till entropi, genom vilken system naturligt tenderar mot oordning. Kaosteorin förlitar sig på den osäkerhet som är inneboende i mätningar, precisionen i förutsägelser och det icke-linjära beteendet hos till synes linjära system.
Före kvantmekaniken var kaosteori den första ”konstiga” idén om fysiken. År 1900 tänkte Henri Poincaré på förhållandet mellan värden vid olika tidpunkter i ett system vars allmänna beteende kunde förutsägas exakt, till exempel en planet i omloppsbana. Han insåg att en mätning, som position, hastighet eller tid, aldrig kan fastställas exakt eftersom varje instrument som möjligen kunde utvecklas skulle ha en gräns för dess känslighet. Det vill säga, ingen mätning är oändligt exakt.
Poincaré visste att rörelse beskrivs deterministiskt av en serie ekvationer som exakt kan förutsäga saker som var en boll kommer att hamna om den rullas nerför en ramp. Han teoretiserade dock att en liten skillnad i initiala förhållanden, baserad på nästan obetydliga variationer i ett mått som massa, skulle kunna resultera i två helt olika makroskopiska utfall långt, långt fram i tiden. Denna teori kallades dynamisk instabilitet, och senare forskare bekräftade sanningshalten i hans idéer.
Kaosteorin studerar därför hur organiserade, stabila system inte alltid kan ge meningsfulla förutsägelser för en mycket senare tid, även om kortsiktigt beteende närmare följer förväntningarna. Faktum är att alla förutsägelser som den ger kan vara så mycket divergerande att de inte är bättre än gissningar. Det är kontraintuitivt att ett mer exakt värde inte skulle ge en mer exakt utdata.
Snöbollseffekten av en minuts förändring i inflytelserika omständigheter kallas fjärilseffekten. Denna metafor antyder att en fjäril som flaxar med vingarna, ett nästan omärkligt inflytande, skulle kunna bidra till utvecklingen av en orkan på andra sidan jordklotet. Edward Lorenz gjorde de första datorsimuleringarna på 1960-talet som visade dynamisk instabilitet med faktiska ekvationer och data.
Initiala förhållanden kan inte härledas från senare förhållanden, och inte heller tvärtom, i flera viktiga system, såsom atmosfärstryck och havsströmmar som bidrar till väder och klimat. Detta är inte bara ett scenario i verkligheten, ett resultat av något som för få termometrar i havet. Kaosteori är en verifierbar, matematiskt konsistent teori som visar att ibland allt mer exakta mätningar inkopplade i ekvationer inte ger allt mer exakta förutsägelser, utan snarare så extremt divergerande värden att de är praktiskt taget oanvändbara.
Vissa fysiker arbetar med kopplingar mellan denna skenbara slumpmässighet och storskalig struktur. De undersöker mönster i globalt klimat, massfördelning av galaxer i superkluster och populationsvariation på en geologisk tidsskala. De antar att på en makroskopisk nivå har vissa typer av organisation och konsekvens endast möjliggjorts genom kaosteorins oordning och inkonsekvens.