1954年以来、アラバマ州モンゴメリーのバプティスト派教会牧師も兼ねていたが、1955年12月モンゴメリーで発生したローザ・パークス逮捕事件に抗議して、モントゴメリー・バス・ボイコット運動を指導する。11ヶ月後に裁判所から呼び出しがあり、運動中止命令かと思っていた所、連邦最高裁判所からバス車内人種分離法違憲判決（法律上における人種差別容認に対する違憲判決）を勝ち取る。これ以降、アトランタでバプティスト派教会の牧師をしながら、全米各地で公民権運動を指導した。
キング牧師の提唱した運動の特徴は徹底した「非暴力主義」である。インド独立の父、マハトマ・ガンディーに啓蒙され、また自身の牧師としての素養も手伝って一切抵抗しない非暴力を貫いた。一見非暴力主義は無抵抗で弱腰の姿勢と勘違いされがちだが、キング牧師のそれは「非暴力抵抗を大衆市民不服従に発展させる。そして支配者達が『黒人は現状に満足している』と言いふらしてきた事が嘘であることを全世界中にハッキリと見せる」という決して単なる弱腰姿勢ではなかった。1963年8月、ワシントン大行進にて、“I Have a Dream”の演説を行うキング
事実その後のデモの中で、丸腰の黒人青年に警察犬をけしかけ襲わせている警官や、警棒で滅多打ちにする警官、高圧ホースで水をかける警官などの姿が映し出され、世論は次第にそれらの暴力に拒絶反応を示していった。
公民権運動にあたっては、主として南部諸州における人種差別的取扱いがその対象となった。通常、差別的取り扱いには、州法上の法的根拠が存在し、運用を実際に行う政府当局ないしは警察なども公民権運動には反対の姿勢をとることが多かったことから、公民権運動は必然的に州政府などの地域の権力との闘争という側面を有していた。合衆国においては、州と連邦との二重の統治体制が設けられている中で、連邦政府ないしは北部各州は南部各州の州政府に比れば人種差別の撤廃に肯定的であり、州政府ないしは州兵に対し、連邦政府が連邦軍兵士を派遣して事態の収拾を図るケースも見られた。
なおキング自身も、1963年4月12日にアラバマ州バーミングハムで行われた抗議デモの際自らバーミングハム市警に逮捕され、4月19日まで拘置所の独居房に投獄されたこともある。
この年に行われたワシントン大行進において、リンカーン記念堂の前で有名な“I Have a Dream”（私には夢がある）で始まる演説を行い、人種差別の撤廃と各人種の協和という高邁な理想を簡潔な文体と平易な言葉で訴え、広く共感を呼んだ。
当該箇所の演説は即興にて行われたものといわれるが、その内容は高く評価され、1960年に就任したジョン・F・ケネディ大統領の就任演説と並び、20世紀のアメリカを代表する名演説として有名である。
勝利ホワイトハウスで公民権法施行の文書に署名するリンドン・B・ジョンソン大統領（後列中央がキング）
キングを先頭に行われたこれらの地道かつ積極的な運動の結果、アメリカ国内の世論も盛り上がりを見せ、ついにリンドン・B・ジョンソン政権下の1964年7月2日に公民権法（Civil Rights Act）が制定された。これにより、建国以来200年近くの間アメリカで施行されてきた法の上における人種差別が終わりを告げることになった。
なお、公民権法案を議会に提出したのはジョンソン大統領が副大統領であったジョン・F・ケネディ政権時代のことである。そのためケネディ大統領は黒人社会から絶大な支持を受け、一方で南部支配（白人の保守派）層からは敵意にも似た批判を浴びることになっていく。また、ケネディ大統領を継いだジョンソン大統領は、人種差別を嫌う自らの信条のもと、キングとともにこれを推進し公民権法の早期制定に持ち込んだ。
なお、公民権運動に対する多大な貢献が評価され、「アメリカ合衆国における人種偏見を終わらせるための非暴力抵抗運動」を理由に、キングに対し1964年度のノーベル平和賞が授与されることに決まった（受賞は12月10日）。これは史上最年少の受賞であり、黒人としては3人目の受賞である。「受賞金は全てのアフリカ系アメリカ人のものだ」とコメントした。ただし、当時の全てのアフリカ系アメリカ人がキングに同意していたわけではなく、一部の過激派はマルコムXを支持し、キングの非暴力的で融和的な方針に反発した。
上記のように、暴力的手法を含む強行的な手段による人種差別の解決を訴え、同時期に一気に支持を得て台頭し始めていたマルコムXが1965年2月に暗殺されると、マルコムXとはその手段において相当の隔絶があったにも関わらず、「マルコムXの暗殺は悲劇だ。世界にはまだ、暴力で物事を解決しようとしている人々がいる」と語っていた。しかし、その数年後、彼自身も暗殺されてしまう事になる。
一時期は公然とキング牧師の姿勢を批判し、演説の中で非暴力抵抗を笑いものにしていた事さえあったマルコムXだったが、暗殺の前年には、自らの過激な思想の中核をなしていたブラック・モスリムのネーション・オブ・イスラム教団と手を切っていた。
また、新たな思想運動のステップを登るべく、「なんとかキング牧師と会って話がしたい」と黒人社会学者ケニス・クラークの仲介で会談を持とうと模索している矢先のできごとであった。キング牧師はそのためにマルコムXの暗殺を特に嘆いていた。
