コネリーは2006年にアメリカン・フィルム・インスティチュート（AFI：American Film Institute）の生涯功労賞を受賞したのを機に、俳優業引退を宣言した[15]。

その後は引退を楽しみ[16]、2007年に1989年の『インディ・ジョーンズ/最後の聖戦』で演じたヘンリー・ジョーンズ役で『インディ・ジョーンズ/クリスタル・スカルの王国』への出演オファーを受けたが、検討した結果出演しないと正式に発表[17]、同作ではコネリーが演じたヘンリーは既に死亡したという設定になり、写真のみが劇中で使用された。2010年、『007 スカイフォール』で監督のサム・メンデスも、当初キンケイド役にコネリーを考えていたが、実現はしなかった[18][19]。

晩年は認知症を患っており、苦しんでいたことが妻によって語られている[20][21]。コネリーは2020年10月30日深夜から31日早朝にかけて滞在先の大西洋の島国バハマの自宅で没した[1][22][23]。また、この逝去に関しイーオン・プロダクションズのウェブサイト上で発表がなされており、同社広報担当者によれば、金曜の終わりから土曜の早朝にかけ息を引き取っている所を家族によって確認された[24]。後にTMZが取得した死亡診断書によれば、コネリーは肺炎、老衰、そして心房細動による呼吸不全で死亡したとされており、死亡日時は10月31日午前1時半となっている[25]。
私生活ダイアン・シレント

コネリーは1962年に女優のダイアン・シレント（英語版）[26]と結婚し、後に俳優となる息子ジェイソン・ジョセフ・コネリー[27]をもうけるが、1973年に離婚した。1975年にはフランス系モロッコ人画家のミシュリーヌ・ロクブリュヌ（Micheline Roquebrune）[28][29]と再婚している。Micheline Roquebrune
人物と思想キルトを着たコネリー（ワシントンD.C.、2004年）

コネリーは2000年にイギリス女王エリザベス2世からナイトの称号を与えられたが、スコットランドの分離独立を主張するスコットランド国民党の熱烈な支持者でもある。授与式には、民族衣装キルトで正装して現れた。なお、コネリーは「スコットランドが独立するまで私は死んでもスコットランドに帰らない」とまで明言している[6]。

コネリーの引退の理由について、友人のマイケル・ケインはコネリーが脇役かつ年老いた役柄を演じたいとは思っていないことが理由だとしている[30]。また、ロード・オブ・ザ・リングシリーズのガンダルフ役のオファーを受け[31]、同シリーズの原作本を読み、送られてきた脚本も読んだがガンダルフというキャラクターを理解できず出演を固辞し、同シリーズの成功を見極められなかったことが引退につながった、との見方もある[32]。

コネリーは自身がプレーしていたサッカーを愛し、特にグラスゴー・レンジャーズの大ファンとして知られていた[33]。
その他

元妻ダイアン・シレントは、数十年もたった2005年になって出版した自伝[34]の中で、11年間の結婚期間中、肉体的・精神的に虐待されてきたと暴露した[35]。