Ker jeziki za sabo ne puščajo fosilov, je težko določiti točen čas nastanka človeškega jezika. Nekateri znanstveniki dvomljivo poskušajo uganiti prefinjenost komunikacije primatov na podlagi kompleksnosti takratne industrije orodij. Morda nikoli ne bomo zagotovo vedeli, kdaj je jezik nastal, dokler ne bomo mogli uporabiti ohranjene DNK starodavnih homonidov, da jih poustvarimo in opazujemo njihove jezikovne sposobnosti.
Namesto da bi se razvijal nenadoma, je verjetno, da se je jezik, kot ga poznamo, razvil v daljšem časovnem obdobju. Nekateri znanstveniki verjamejo, da je pojav dvonožja pred 3.5 milijoni let prinesel anatomske spremembe, kot je glasilni trakt v obliki črke L, ki bi razširil obseg možnih zvokov. Ali so primati v tem času dejansko uporabljali to anatomijo za ustvarjanje bolj prefinjenih zvokov, ni znano. Ti “manjkajoči členi” so zdaj vsi izumrli.
Raziskave lobanj homonidov so pokazale, da so imeli neandertalci pred približno 400,000 leti hipoglosalni kanal, podoben velikosti kot pri sodobnih ljudeh. Hipoglosalni kanal je kostni kanal, ki vodi živčna vlakna, povezana s proizvodnjo govora, čeprav so nekatere študije odkrile nedokončno povezavo med velikostjo tega kanala in govornimi zmožnostmi. Neandertalci so imeli bistveno bolj izpopolnjeno industrijo orodja kot prejšnji homonidi in so imeli velike možgane. Mnogi znanstveniki sumijo, da so imeli neandertalci neko rudimentarno obliko jezika, in pogojno verjamejo, da je sodobni jezik nastal pred približno 400,000 leti.
Čeprav natančen čas nastanka jezika ostaja neznan, je bil zagotovo v uporabi pred 200,000 leti, ko so se sodobni ljudje razvili v Afriki. Ti ljudje so bili anatomsko moderni, vendar so se obnašali podobno kot nekateri enostavnejši homonidi, ki so bili pred njimi do približno 100,000 let. Po približno 50,000 letih je majhna skupina ljudi zapustila Afriko. Nekateri znanstveniki trdijo, da ta odhod pomeni, da so ljudje dosegli določen prag v svoji zmožnosti komuniciranja, zaradi česar so lahko odšli, čeprav je ta hipoteza precej dvomljiva.
Večina znanstvenikov verjame, da ves sodobni jezik izvira iz enega samega vira, namesto da se je razvil neodvisno na vseh celinah. Če je tako, je moralo izvirati iz vira vsaj tako daleč nazaj kot skupni prednik vseh živih ljudi. Vsi sodobni ljudje so predniki “mitohondrijske Eve”, ženske, ki je živela v Afriki pred približno 150,000 leti. Sodobni jezik lahko izvira iz tega obdobja ali pa je novejši. Pred približno 70,000 leti je človeška vrsta doživela hudo populacijsko ozko grlo, ko je bilo skupno število posameznikov lahko le 2,000. Iz tega obdobja morda izvira tudi svetovni jezik.