産業革命によって、「男性は外で働き、女性は家で家事をする」という性別的分業が明治時代にできあがったといわれる。女性は家事をすることが求められたため、第二次世界大戦前の当時において女子教育を行う学校とされていた高等女学校や旧制女子専門学校では、家政学が取り入れられていた。女子大学でも、現在の大妻女子大学や実践女子大学といった家政学を学ぶ教育機関が多かった。（中には、現在の日本女子大学や津田塾大学のように外国語を学ぶための女子教育を行う学校もあった。）
また、義務教育修了後の進学（高等小学校や、旧制中学校または高等女学校）が少なかったため、女性の高等教育の就学率は、低かった。
旧制高等学校は、学校教育法の施行以前に、「ジュニア･カレッジ」として、短期大学に相当する学校としての存続を模索したが、連合国軍総司令部 (GHQ/SCAP) に認められず頓挫した。学校教育法施行後、大学への編入学が1990年代まで制限されたため、旧制高校復活ともいえる専門教育準備のための一般教育系学科を置く短期大学の設置はなく、わずかに学芸学部の2年課程や専門課程を欠いた医学部進学課程（医進）の設置が見られた程度である。
学校教育法が施行されて、それまでの分岐型の教育システムから6・3・3制の単線型学校体系に統一された。1950年には、短期大学が開学し、女性は20代半ばまでに結婚するのが一般的であった上に女性向けの学科が多かったのも背景にあり、女性の進学先として短期大学は定着した。女性の高等教育への進学機会を与え、地域の家庭科や英語科、国語科の教員を輩出した。
女性は25歳までに結婚し、男性を支えるという前提で雇用体系が組まれていたため、女性の仕事には、男性の補佐的な仕事が多く、短期大学でない通常の大学に進学しても就職先が少なかった。（当時の男性中心の考え方において25を過ぎると価値が無くなる事を揶揄して、25歳までの結婚をクリスマスケーキと呼称することもあった。）そのため、教員職を除き、女性が民間企業に就職する場合は、短期大学を卒業するのが一般的であった。
1985年に男女雇用機会均等法が制定され、「一般職」と「総合職」という2つの形態の職種が生まれると、女子大学や短期大学は、女子の役職である一般職に就職しやすいためにバブル期には、女子の進学先の定番となり、平成6年には在学者数がピークを向えた。
バブル景気が終わり平成不況によって経費削減を迫られた上に、1996年に法改正によって派遣社員が増加したため、大企業を中心に男女区別なく総合職のみに限定して採用を行う企業や、事務のみの一般職を廃止して地域内での移転に留めるのみで仕事を行う地域総合職が、銀行や証券会社を中心に設けられたため、短期大学の人気が低迷した。
また、女性の高学歴志向やキャリア志向、結婚退社の考えがなくなって晩婚化が進み、女性が通常の大学を卒業して、総合職や地域総合職に就くことが一般化した。その上、少子化や大学の増設（その大部分は短大の4年制大学への改組）によって、現在では女性も通常の大学に進学することが一般的になっている。
その結果、短期大学の数は平成に入って以降、激減している。但しその大部分は4年制大学への改組である。女子短大であれば共学化も共に行うケースが多い。純粋に短期大学の閉学となる場合は同一学校法人に4年制大学が既に存在する場合がほとんどである。大学全入時代が到来しているのに大学の開設が相次ぐのはかかる短大からの改組が多いからである。4年制大学への改組に当たっては校名も共に変更することが多く、一般人には単なる大学の新増設としか写っていないだけなのである。
学生数の減少で、高等教育においては、大学崩壊、大学倒産などが警戒され始め、短期大学ではその懸念が特に強い。日本の短期大学を今後どのように発展させるかが、文部科学省の中央教育審議会の大学部会などでも話題になり始めている。アメリカ合衆国のコミュニティ・カレッジが、現行の日本の短期大学にその性質がよく似ているので、それに類した、教養や資格取得のための短期の一般教育や専門教育を行い、卒業者の大学への編入学枠を広げるという方向性についてなどが検討されている。
なお、1990年代に増加した、看護学、工学の学科を置く短期大学は、看護師取得に必要な要件の変更や工場技術者の資質向上へのニーズから、通常の大学への改組が相次いでいる。
また、娘を持つ親は自分の子供を都市部の大学に出したくない傾向にあることと、共学化や工学系の学科が増えたことから、地方の短期大学の中には志願者が微増したところもみられるが、全体的には、短期大学の志願者は減っている。
また、かつては国立の短期大学である筑波技術短期大学があったが、四年制大学に昇格し、筑波技術大学となった。