Kdo je natančno izumil teleskop, je nekoliko nejasno vprašanje. Že pred zabeleženo zgodovino so se ljudje igrali s preprostimi lečami iz kamnitega kristala (kremena), in zdi se, da je bil osnovni koncept teleskopa prepoznan leta 1230 ali prej. V poznem 13. stoletju so izumili konveksne leče za odpravo daljnovidnosti, medtem ko je konkavne leče za kratkovidnost leta 1451 izumil Nikolaj Kuzanski. Ker je osnovni teleskop le kombinacija konveksne in konkavne leče v montažni cevi, je osnovna možnost obstajala. Pravzaprav različni spisi iz Anglije iz poznega 16. stoletja namigujejo, da je teleskope morda razvilo in uporabljalo vsaj nekaj posameznikov.
Toda šele leta 1608 na Nizozemskem so teleskopi zares vzleteli. Zasluge za izum teleskopa so tradicionalno trije ljudje: Hans Lippershey in Zacharias Janssen, izdelovalca očal, ki skupaj delata v mestu Middleburg, in Jacob Metius iz Alkmaarja. Kmalu zatem so se teleskopi začeli proizvajati v večjem številu in se kot novost razširili po Evropi. Tako je 1608 uradno priznano leto izuma teleskopa. Ti zgodnji teleskopi so oddaljene predmete povečali le za približno trikrat.
Ko so bili teleskopi še izjemno novi, leta 1609, je kmalu slavni italijanski astronom in fizik Galileo Galilei med obiskom mesta Benetke slišal za osnovni koncept delovanja teleskopa. Takoj, ko se je vrnil domov v Padovo, ga je takoj zgradil, preprosto tako, da je konveksno in konkavno lečo združil v cev. Naredil je izboljšano različico in jo pokazal gospodu Benetk Leonardu Donatu, ki je bil zelo navdušen. Galileo je bil nato doživljenjsko nastanjen na predavatelju, njegova plača pa se je podvojila.
Galileo je izboljšal teleskop, dokler ni imel povečevalne moči triintrideset premerov. Nato je s teleskopom odkril Jupitrove lune, lise na Soncu, faze Venere ter hribe in doline Lune. Ta odkritja so ga zaslovela še danes, zato se teleskopi te zasnove še vedno imenujejo galilejevi teleskopi.
Drugo večjo vrsto teleskopa, odsevni teleskop, je izumil angleški geodet Leonard Digges sredi 16. stoletja, vendar je bil razmeroma nepraktičen in v njegovem času nikoli ni postal razširjen. To je bilo prepuščeno Isaacu Newtonu, velikemu fiziku, ki je leta 1669 konstruiral prvi praktični odsevni teleskop.