冬期に豆腐を屋外に放置してしまった事から偶然に製法が発見されたといわれている。
俗に高野山で製造される凍り豆腐が、精進料理の一つとして全国に広まったものとされるが、実際には、東北地方にも凍み豆腐（しみどうふ）と呼ばれる同じ製法の保存食がある。

中国にも同様の食品があるので中国より伝来した可能性も高い。
寒さの厳しい地方では、場所に限らず偶然の産物として発見され、普遍的に生産されてきた食品と見られる。
高野豆腐と呼ばれるに至ったのは、江戸時代に於いて高野山の土産物として珍重されたからとも言われている。江戸時代に於いては最も流通した物がその販売地、販売者の地名を冠することがあり、これもその一つである。
高野豆腐の名称は現在では全国に広まっているがもとは関西圏で広く用いられていた名称で、甲信越、東北、北海道では凍み豆腐、凍り豆腐と呼ばれていた。
甲信越、東北、北海道で作られる伝統的な製法の凍り豆腐は、藁で数個ずつ豆腐を連ねて軒先に吊るして作るのでその形から連豆腐とも呼ばれている。
大阪ではちはや豆腐という呼び名もある。
古くは氷豆腐と表記される事もあった。
日本農林規格(JAS)では、凍り豆腐が正式な名称となっている。
寒冷地で発達した食品であることから、現在でも長野県が日本最大の生産地である。
また食感が肉に似ている事から精進料理などに良く使われている。