『007』シリーズ以外にもコネリーは様々なジャンルの映画にも意欲的に出演し、アルフレッド・ヒッチコック作品の『マーニー』やオードリー・ヘプバーンと共演した『ロビンとマリアン』など多くの作品に出演した。1987年には『アンタッチャブル』で主人公を助ける警官役の演技が称賛され、アカデミー助演男優賞やゴールデングローブ賞 助演男優賞を受賞した。1998年にブロードウェイで『'Art'』を製作し、トニー賞 演劇作品賞を受賞する。

その後、コネリーは『ロード・オブ・ザ・リングシリーズ』のガンダルフ役のオファーを受けるも、スクリプトを理解できなかったため断った[14]。受け入れていれば4億5000万ドルもの報酬を受け取れていた。同様の理由で『マトリックス』のアーキテクトも断っている。

コネリーは2006年にアメリカン・フィルム・インスティチュート（AFI：American Film Institute）の生涯功労賞を受賞したのを機に、俳優業引退を宣言した[15]。

その後は引退を楽しみ[16]、2007年に1989年の『インディ・ジョーンズ/最後の聖戦』で演じたヘンリー・ジョーンズ役で『インディ・ジョーンズ/クリスタル・スカルの王国』への出演オファーを受けたが、検討した結果出演しないと正式に発表[17]、同作ではコネリーが演じたヘンリーは既に死亡したという設定になり、写真のみが劇中で使用された。2010年、『007 スカイフォール』で監督のサム・メンデスも、当初キンケイド役にコネリーを考えていたが、実現はしなかった[18][19]。

晩年は認知症を患っており、苦しんでいたことが妻によって語られている[20][21]。コネリーは2020年10月30日深夜から31日早朝にかけて滞在先の大西洋の島国バハマの自宅で没した[1][22][23]。また、この逝去に関しイーオン・プロダクションズのウェブサイト上で発表がなされており、同社広報担当者によれば、金曜の終わりから土曜の早朝にかけ息を引き取っている所を家族によって確認された[24]。後にTMZが取得した死亡診断書によれば、コネリーは肺炎、老衰、そして心房細動による呼吸不全で死亡したとされており、死亡日時は10月31日午前1時半となっている[25]。
私生活ダイアン・シレント

コネリーは1962年に女優のダイアン・シレント（英語版）[26]と結婚し、後に俳優となる息子ジェイソン・ジョセフ・コネリー[27]をもうけるが、1973年に離婚した。1975年にはフランス系モロッコ人画家のミシュリーヌ・ロクブリュヌ（Micheline Roquebrune）[28][29]と再婚している。Micheline Roquebrune
人物と思想キルトを着たコネリー（ワシントンD.C.、2004年）

コネリーは2000年にイギリス女王エリザベス2世からナイトの称号を与えられたが、スコットランドの分離独立を主張するスコットランド国民党の熱烈な支持者でもある。授与式には、民族衣装キルトで正装して現れた。なお、コネリーは「スコットランドが独立するまで私は死んでもスコットランドに帰らない」とまで明言している[6]。

コネリーの引退の理由について、友人のマイケル・ケインはコネリーが脇役かつ年老いた役柄を演じたいとは思っていないことが理由だとしている[30]。また、ロード・オブ・ザ・リングシリーズのガンダルフ役のオファーを受け[31]、同シリーズの原作本を読み、送られてきた脚本も読んだがガンダルフというキャラクターを理解できず出演を固辞し、同シリーズの成功を見極められなかったことが引退につながった、との見方もある[32]。

コネリーは自身がプレーしていたサッカーを愛し、特にグラスゴー・レンジャーズの大ファンとして知られていた[33]。
その他

元妻ダイアン・シレントは、数十年もたった2005年になって出版した自伝[34]の中で、11年間の結婚期間中、肉体的・精神的に虐待されてきたと暴露した[35]。1965年にはシレントが「酔っぱらって」帰宅したところ、コネリーに殴られたという[36][37]。

2008年、またもシレントは元夫を中傷し、コネリーが一人息子のジェイソンに対して自立して生計を立てるよう、8千5百万ポンドの財産のうち1ペニーたりとも相続させないと言ったと語った[38]。しかし、コネリーはこれを否定して息子との関係は良好であると語り、暴力疑惑についても争う用意があることを明らかにした。また、離婚した際にジェイソンおよびシレントの娘の教育費として「8万5千ポンドの信託財産」を設けたが、今日では「当然もっと増えている」はずだと主張した[39]。ジェイソン本人もシレントの意見を全面否定し、父は暴君ではなく父が稼いだ金をどうしようと父次第だと述べた[40]。しかしシレントはコネリーが34歳のとき、セラピーにおいて当時は合法だったLSDを使い、それが虐待を引き起こしたと中傷した[41]。