Tako kot večji veliki možgani imajo tudi mali možgani dve polobli. Hemisfere malih možganov se nahajajo na obeh straneh majhnega območja, imenovanega vermis, ki ločuje obe polobli po sredini. Vsaka hemisfera malih možganov je nadalje razdeljena na pet rež. Globoke gube v malih možganih ločijo deset reženj. Mali možgani, ki se nahajajo na spodnjem zadnjem delu možganov, sedijo pod velikimi možgani in za mostom.
Od zunanjosti se hemisfere malih možganov razlikujejo po tesnih, vzporednih gubah. To se razlikuje od velikih možganov, ki imajo velike površinske gube, ki se zdijo zvite. Skorja malih možganov je pravzaprav ena neprekinjena plast možganskega tkiva, ki je tesno zložena nase. Čeprav možganske hemisfere predstavljajo le deset odstotkov volumna možganov, vsebujejo več nevronov kot preostali možgani. To je mogoče zaradi tesno zložene narave malih možganov.
Globoko v vsaki hemisferi malih možganov se nahajajo globoka jedra. Vsi odhodni signali se pošljejo skozi ta jedra. Skorja možganskih hemisfer ocenjuje dohodna sporočila, ki prenašajo senzorične in druge podatke iz velikih možganov. Ta del možganov usklajuje fino uravnavanje gibanja, ko se sprejemajo senzorična sporočila in pošiljajo signali mišicam. Poškodbe malih možganov povzročajo pomanjkanje koordinacije in časa gibov ter druge težave, vključno z govornimi težavami.
Mali možgani so funkcionalno razdeljeni na tri dele. Pontocerebelum je sestavljen iz večine skorje malih možganov. Poškodba tega dela malih možganov se običajno kaže kot pomanjkanje koordinacije na isti strani telesa kot poškodba. Za poškodbo ali bolezen vestibulocerebeluma je značilna omotica in neusklajena hoja. Če je spinocerebelum poškodovan zaradi alkohola, poškodbe ali bolezni, postane hoja pri hoji osupljiva in drža je prizadeta.
Več motenj prizadene mali možgani. Spinocerebelarna ataksija je degenerativno genetsko stanje, za katero je značilna progresivna izguba koordinacije. Znanih je več kot deset različnih vrst spinocerebelarne ataksije, odvisno od specifične genske mutacije. Raziskave so pokazale povezavo med avtizmom in zmanjšanjem velikosti možganskih hemisfer. Možganske kapi in možganske poškodbe vplivajo tudi na delovanje malih možganov in povzročijo pomanjkanje nadzora gibanja.