大林旧名“大莆林”,此地名之由来有两种说法,一种说法系指本地在开垦初期乃为广大的森林地带,故有此称;另一种说法为往昔此地有来自潮州府大埔之林地的移民,而有此称。后来才改为“大林”。
在清康熙年间由薛大有率众来此垦拓居住,居民祖先多从福建、漳泉二州及广东渡海远来,陆续发展成聚落,政府设衙门于此,天主教堂、商店铺愈来多,相当的繁荣。1920年台湾地方改制,于本地设置“大林庄”,1943年10月1日升格为“大林街”,隶属台南州嘉义郡管辖。战后初期设置台南县嘉义区大林镇,1950年行政区域调整改为嘉义县大林镇至今。