嘉永6年（1853年）、ペリー艦隊が来航（いわゆる黒船来航）し開国を要求されると、老中首座の阿部正弘は幕府の決断のみで鎖国を破ることに慎重になり、海防に関する意見書を幕臣はもとより、諸大名、町人から任侠の徒にいたるまで広く募集した。これに勝も海防意見書を提出した。勝の意見書は阿部正弘の目にとまることとなる。そして幕府海防掛だった大久保忠寛（一翁）の知遇を得たことから念願の役入りを果たし、勝は自ら人生の運をつかむことができた。
その後、長崎の海軍伝習所に入門した。伝習所ではオランダ語がよく出来たため教監も兼ね、伝習生と教官の連絡役も果たした。長崎に赴任してから数週間で聞き取りもできるようになったと本人が語っている。そのためか、引継ぎの役割から第一期から三期まで足掛け5年間を長崎で過ごす[8]。
この時期に当時の薩摩藩主島津斉彬の知遇をも得ており、後の海舟の行動に大きな影響を与えることとなる。
万延元年（1860年）、咸臨丸で太平洋を横断しアメリカ・サンフランシスコへ渡航した。旅程は37日であった[9]。この米国渡航の計画を起こしたのは岩瀬忠震ら、一橋派の幕臣である。しかし彼らは安政の大獄で引退を余儀なくされたため、木村摂津守が軍艦奉行並となり、勝は遣米使節の補充員として乗船した。
米海軍からは測量船フェニモア・クーパー号船長のジョン・ブルック大尉が同乗した。通訳ジョン万次郎、木村の従者福澤諭吉も乗り込んだ。咸臨丸の航海を、勝も福澤も「日本人の手で成し遂げた壮挙」と自讃しているが、実際には日本人乗組員は船酔いのためにほとんど役に立たず、ブルックらがいなければ渡米できなかったという説がある[10]。
福澤の『福翁自伝』には木村が「艦長｣、勝は「指揮官」と書かれているが、実際にそのような役職はなく、木村は「軍艦奉行並」、勝は「教授方取り扱い」という立場であった。アメリカ側は木村をアドミラル（提督）、勝をキャプテン（艦長）と呼んでいた。アメリカから日本へ帰国する際は、勝ら日本人の手だけで帰国することができた。
帰国後、蕃書調所頭取・講武所砲術師範等を回っていたが、文久2年（1862年）の幕政改革で海軍に復帰し、軍艦操練所頭取を経て軍艦奉行に就任。神戸は、碇が砂に噛みやすく、水深が比較的深いので大きな船も入れる天然の良港であるから、神戸港を日本の中枢港湾（欧米との貿易拠点）にすべしとの提案を、大阪湾巡回を案内しつつ14代将軍徳川家茂にしている[11]。
勝は神戸に海軍塾を作り、薩摩や土佐の荒くれものが出入りしたが、勝は官僚らしくない闊達さで彼らを受け容れた[12]。さらに、神戸海軍操練所も設立している。
後に神戸は東洋最大の港湾へと発展していくが、それを見越していた勝は付近の住民に土地の買占めを勧めたりもしている。勝自身も土地を買っていたが、後に幕府に取り上げられてしまっている。
勝は「一大共有の海局」を掲げ、幕府の海軍ではない「日本の海軍」建設を目指すが、保守派から睨まれて軍艦奉行を罷免され、約2年の蟄居生活を送る。勝はこうした蟄居生活の際に多くの書物を読んだと言う[13]。
勝が西郷隆盛と初めて会ったのはこの時期、元治元年（1864年）9月11日、大阪においてである。神戸港開港延期を西郷はしきりに心配し、それに対する策を勝が語ったという。西郷は勝を賞賛する書状を大久保利通宛に送っている
慶応2年（1866年）、軍艦奉行に復帰、徳川慶喜に第二次長州征伐の停戦交渉を任される。勝は単身宮島の談判に臨み長州の説得に成功したが、慶喜は停戦の勅命引き出しに成功し、勝がまとめた和議を台無しにしてしまった。勝は時間稼ぎに利用され、主君に裏切られたのである。憤慨した勝は御役御免を願い出て江戸に帰ってしまう。
明治元年（1868年）、官軍の東征が始まると、勝は幕府に呼び戻され、徳川家の家職である陸軍総裁として、後に軍事総裁として旧幕府方を代表する役割を担う。官軍が駿府城にまで迫ると徹底抗戦を主張する小栗忠順に対し、早期停戦と江戸城の無血開城を主張、ここに歴史的な和平交渉が始まる。
先ず3月9日、山岡鉄舟が駿府で西郷隆盛と会談して基本条件を整えた。続く13日と14日には勝が西郷と会談、江戸城開城の手筈と徳川宗家の今後などについての交渉を行う。結果、江戸城下での市街戦という事態は回避され、江戸の住民150万人の生命は戦火から救われた。
この会談の後も戊辰戦争は続くが、勝は旧幕府方が新政府に抵抗することには反対だった。一旦は戦術的勝利を収めても戦略的勝利を得るのは困難であることが予想されたこと、内戦が長引けばイギリスが支援する新政府方とフランスが支援する旧幕府方で国内が二分される恐れがあったことなどがその理由である。
余談だが、勝は交渉が完全に決裂した時は新政府軍もろとも江戸に火を放つ焦土戦術の準備もしていたと言う。その時に備え、将軍の亡命や江戸住民の避難の準備も整えていたが、無血開城によりこの最終手段は実行されなかった。
維新後も勝は旧幕臣の代表格として外務大丞、兵部大丞、参議兼海軍卿、元老院議官、枢密顧問官を歴任、伯爵を授予された。[14]。
