Vem som exakt uppfann teleskopet är en lite luddig fråga. Sedan tidigare nedtecknad historia har människor lekt med enkla linser gjorda av bergkristall (kvarts), och det verkar som om det grundläggande konceptet med ett teleskop kändes igen 1230 eller tidigare. I slutet av 13-talet uppfanns konvexa linser för att korrigera långsynthet, medan konkava linser för närsynthet uppfanns 1451 av Nicholas of Cusa. Eftersom ett grundläggande teleskop bara är en kombination av en konvex och konkav lins i ett monteringsrör fanns den grundläggande möjligheten. Faktum är att olika skrifter från slutet av 16-talets England antyder att teleskop kan ha utvecklats och använts där av åtminstone ett fåtal individer.
Ändå var det inte förrän 1608 i Nederländerna som teleskopen tog fart. Äran för att ha uppfunnit teleskopet går traditionellt till tre personer: Hans Lippershey och Zacharias Janssen, glasögonmakare som arbetar tillsammans i staden Middleburg, och Jacob Metius från Alkmaar. Strax efter detta började teleskop tillverkas i större antal och spreds över Europa som nyhet. Således är 1608 det officiellt erkända året för teleskopet som uppfanns. Dessa tidiga teleskop förstorade bara avlägsna objekt med en faktor på cirka tre.
När teleskopen fortfarande var extremt nya, 1609, hörde den snart känd italienske astronomen och fysikern Galileo Galilei talas om det grundläggande driftskonceptet bakom teleskopet när han besökte staden Venedig. Så fort han återvände hem till Padua byggde han omedelbart en, helt enkelt genom att sätta ihop en konvex och konkav lins i ett rör. Han gjorde en förbättrad version och visade den för herren av Venedig, Leonardo Donato, som var mycket imponerad. Galileo blev därefter bosatt för livet på sin lektorat, och hans lön fördubblades.
Galileo förbättrade teleskopet tills det hade en förstoringseffekt på trettiotre diametrar. Han använde sedan sitt teleskop för att upptäcka Jupiters månar, fläckar på solen, Venus faser och månens kullar och dalar. Dessa upptäckter gjorde honom känd till denna dag, och därför kallas teleskop av denna design fortfarande galileiska teleskop.
Den andra stora typen av teleskop, det reflekterande teleskopet, uppfanns av den engelske lantmätaren Leonard Digges i mitten av 16-talet, men det var relativt opraktiskt och blev aldrig utbrett på hans tid. Det lämnades upp till Isaac Newton, den store fysikern, som 1669 konstruerade det första praktiska reflekterande teleskopet.