据南宋嘉泰《会稽志》：“在城东北。”乾隆《绍兴府志》：“《山阴县志》：在江桥边，故以小名。”

旧时绍兴民间有联曰：“小江桥，桥洞圆，圆如镜，镜照山会两县；大善塔，塔顶尖，尖如笔，笔写五湖四海。”及言绍兴城内古小江桥与古大善塔相映成趣之美。

系南北向单孔半圆形石拱桥。全长23米，宽3.90米，净跨5.80米。拱券分节并列砌筑。桥上设栏，望柱粗矮，栏板形似靠背式石凳。