1872年（明治5年）8月3日の学制発布により始まった日本の近代教育制度において、初等教育は当初、小学校尋常科という名称の学校で行われ、1873年（明治6年）1月15日に設置された官立の東京師範学校附属小学校（現在の筑波大学附属小学校）を皮切りに、1875年には、ほぼ現在並みの約2万4千校の小学校が全国各地に設置された[4]。

ただし、国の正式な学制によらないものも含めると、1869年に京都の町衆の寄付等により設立された上京第二十七番組小学校（現在の京都市立京都御池中学校）と下京第十四番組小学校（のちの京都市立修徳小学校）が日本初の近代小学校とされている（番組小学校）。

また、「小学校」の名称は貞享2年（1685年）、長崎県の対馬藩において家臣の子弟を教育するために設置された学校が小学校と名付けられ、名称における発祥であるとされている。初等教育制度自体は寺子屋など発祥が地域の育成制度によるものなど自然発生的な側面があり、明治以降の近代教育制度も当然それらを継承して設立されたものが多い。

しかし、1874年（明治7年）の段階で、小学校への就学率は男児46%、女児17%、総計平均で32%に過ぎず、3人に1人しか小学校に通っていない状況であった。1890年（明治23年）になっても小学校数は2万6千校、就学率は49%と増えてはいるものの、ほぼ全員が就学していると言えるようになるのは明治の終りのことであった[5]。

1886年（明治19年）の小学校令で、尋常小学校（尋常科）と高等小学校（高等科）が設置された。このときの尋常小学校（義務教育）の修業年数は4年間であり、その後に高等小学校の4年間の課程があった。1900年（明治33年）に小学校令が改正され、高等小学校の課程は「2年または4年」とされた。その後、何回かの変遷を経て、澤柳政太郎文部次官の下、1907年（明治40年）に尋常小学校が6年間、高等小学校が2年間となった。

1936年（昭和11年）の統計では、尋常小学校を卒業した者のうち、旧制中等教育学校（旧制中学校・高等女学校・実業学校）に進学する者は21%、まったく進学しない者（就職等）は13%、高等小学校に進学する者は66%だった[6]。

第二次世界大戦下となる1941年（昭和16年）4月からの初等教育は、国民学校という名称の学校で行われた。国民学校には、6年間の初等科のほかに、初等科を修了した者が進学できる修業年限2年の高等科の制度が設けられていた。国民学校の初等科は、1947年（昭和22年）4月1日の学校教育法の施行とともに順次廃止され、戦後の新制学校である現行の小学校に移行した。

第二次世界大戦前には、夜間小学校（小学校の夜間授業）があったが、現在はなく、夜間中学校がその役目を担っている。

2007年（平成19年）8月30日に、中央教育審議会の小学校部会は、小学校の授業時間について、国語や算数などの主要教科と体育の時間を全体として30年ぶりに10%増やすことにした。総合的な学習の時間は週1回削減し、高学年（5年、6年）で外国語の授業を週1回設ける。
小学校における教育の目標

小学校における教育は、学校教育法（昭和22年法律第26号）の第30条第1項により、必要な程度において義務教育として行われる普通教育の目標（学校教育法第21条各号に掲げる目標）を達成するように行われるものとされている。

また、同条の第2項では、「生涯にわたり学習する基盤が培われるよう、基礎的な知識及び技能を習得させるとともに、これらを活用して課題を解決するために必要な思考力、判断力、表現力その他の能力をはぐくみ、主体的に学習に取り組む態度を養うことに、特に意を用いなければならない」とされている。

平成19年法律第98号（2008年〔平成20年〕4月1日施行）による学校教育法の改正前は、同法の第18条に、小学校における教育の目標が次のように規定されていたが、改正後は小学校個別で目標を列挙することをやめ、「義務教育として行われる普通教育の目標（学校教育法第21条）」に修正の上で改めて規定された。
学校内外の社会生活の経験に基き、人間相互の関係について、正しい理解と協同、自主及び自律の精神を養うこと。

郷土及び国家の現状と伝統について、正しい理解に導き、進んで国際協調の精神を養うこと。

日常生活に必要な衣、食、住、産業等について、基礎的な理解と技能を養うこと。

日常生活に必要な国語を、正しく理解し、使用する能力を養うこと。

日常生活に必要な数量的な関係を、正しく理解し、処理する能力を養うこと。

日常生活における自然現象を科学的に観察し、処理する能力を養うこと。

健康、安全で幸福な生活のために必要な習慣を養い、心身の調和的発達を図ること。

生活を明るく豊かにする音楽、美術、文芸等について、基礎的な理解と技能を養うこと。


各教科

1年生?6年生：国語（書写を含む）、算数、音楽、図工、体育、道徳

1年生?2年生：生活

3年生?6年生：社会、理科

5年生?6年生：家庭


道徳 - イギリスでは、これを総合学習のように大綱化して、the Personal Social and Health Education (PSHE) -「健康教育」という科目にしている。ただし、行動の善悪や価値観については、宗教という科目が宗派別に設けられている。これはヨーロッパの国々もほぼ同じ。

健康教育は、WHOも青少年教育の課題としてプログラム作成などをしている。

特別活動 - 第二次世界大戦前は、正規の教育課程に含まれなかったものの、戦後教育課程の中に含められるようになったもの。

学級活動（略　学活）、児童会活動、クラブ活動、学校行事


総合的な学習の時間

宗教（私立学校のみ、学校によっては「礼拝」「聖書」という）

教科用図書

おおむね6歳から12歳ごろの時期は、理解力や判断力はまだ十分ではないが、6年間に人間が生きる上で大切な読み書き、計算などの能力を反復練習し、習熟しなければならないと考えられている。また、小学校の児童が学ぶ教科や単元には、しつけとしての意味合いがあるものも多い。この事情からも、小学校で使用される教科用図書（教科書）は、原則として敬体（…です、…ます、…ました、…ましょう）で表記されている（ただし、理科は例外）。また、本文の書体には教科書体（楷書体の一種）を使っているのも特色である。
日本の小学校の環境

小学校の通学距離については、おおよそ4km以内を目安と政令で定められている[7]。

高度経済成長期の小学校は、児童の人数も多く、一定のエリアにほぼ必ず存在する公的施設として、地域家庭との密接な関係を基にした社会の基本的なインフラとしての役割を果たしていた。その内容として校庭や学校施設の積極的な地域への開放などが進められてきた。また、1960年代から1980年代にかけての、高度経済成長期から安定成長期の頃には小学校独特の文化があり、下記のような1969年放映の「ジャンケンケンちゃん」のオープニングの歌詞にその文化を示すものが列挙されている。

ランドセル - 半ズボン - 名札 - 通学帽 - 通学班 - 緑のおばさん - 給食 - 体操着 - 鼓笛

しかし、バブル崩壊後（特に2000年以降）では、社会から学校を守る、あるいは社会と学校の間の距離感を適切にコントロールすることに保護者や社会の関心が移らなければならない状況にあり、また、上記にあるような半ズボン、名札、通学帽、緑のおばさんなどの高度経済成長期の小学校の文化も次第に衰退した。その背景には、2001年の大阪教育大附属池田小事件以降、学校への侵入や登下校に際して児童が犯罪に巻き込まれる例が目立つことや、広い意味でのプライバシーの意識の高まりなどが挙げられる。