お茶の水は、井の頭池の西端にうっそうとした木立に囲まれ、かっては地下水が湧き出ていた。江戸時代に著された「江戸名所図会」によると、徳川家康がこの地を訪れ、点茶の水をくんだところからその名が付いたとされている。(神田川の源流)
江戸川(現、 神田川)の治水事業は沿岸の人々にとって、永年の願いである。明治43年 (1910)の大洪水の後、大井玄洞翁は、人々の願い実現に努力し、大正2年護岸改修に着工させ、同8年に完成させた。人々は、翁の功績をたたえ、永くその徳を伝えるために、昭和3年(1928)、江戸川公園内の当所に胸像を建てた。
渓谷風の景観をなしている。対岸を湯島台、手前を駿河台というが、もとは神田山と呼ばれるひと続きの丘陵である。慶長8年(1603)征夷大将軍となった徳川家康は、神田山の南を切り崩し、前島の洲崎を埋め立てて町屋を達成した。その後、元和2年(1616)に神田山西麓を流れて平川(現在の日本橋川)に合流する小石川・江戸川の治水対策と、江戸城北部の防備強化のために、平川の三崎町と堀留(九段中坂下)間を閉塞し、三崎橋から流れを東に導き、水道橋一お茶の水橋一万世橋一和泉橋一浅草橋一隅田川に至る堀割の神田川を開削した。