公园是了为纪念明代文学家、抗倭英雄唐荆川先生而建,园内有唐荆川先生墓、荆川读书处等纪念性景点。园内古迹众多,其中唐氏宗祠原位于市区青果巷224号,后移建于此。该祠为唐氏大宗祠,存硬山式木结构门屋三间,明抬梁式楠木厅三间,宽10米,进深6檩9.5米,厅后有享堂上下三间,壁间嵌有元代大书法家倪瓒等书条石刻,为明末清初建筑。
荆川先生读书处也叫陈渡草堂,系明代江南古典园林建筑群,包括五言楼、春池馆、压溪榭、赖云阁和回廊、假山、清溪、小桥等楼堂庭院。读书处为荆川先生早年告病辞官,归里后潜心读书的地方。他在此闭门谢客,教诲门生,为学主张不尚空谈,务求实在。