7年戦争でクックは、1759年のケベック包囲戦に加わった。そこで地理調査及び海図作成の才能を発揮したクックはセントローレンス川河口の測量と海図作成を任され、包囲戦の趨勢を決したウルフ将軍の奇襲上陸作戦の成功に大いに寄与することになった。
ニューファンドランド島の入り組んだ海岸の地図を作成するなど、1760年代にはクックの能力は平時の役にも活かされた。1763年と1764年に北西部、1765年と1766年にブリン半島とレイ岬の間の南岸、1767年に西岸をクックは測量した。クックの5年にわたる調査によって、ニューファンドランド島の海岸線の大規模かつ正確な地図が初めて製作された。クックにとっても実地調査に精通する機会となるとともに、イギリス海軍省とイギリス王立協会に注目されるきっかけとなった。
ニューファンドランド島での奮闘を終えた、まさにその時、クックは記した。
「これまでの誰よりも遠くへ、それどころか、人間が行ける果てまで私は行きたい」。
1766年、王立協会はクックを金星の日面通過の観測を目的に南太平洋へ派遣する。クックは海軍大尉に任命され三檣帆船エンデバー号の指揮を委ねられた。エリート出身ではないクックの大尉昇任は異例のことであった。エンデバー号はウィトビーで造船された石炭運搬船で、大きな積載量、強度、浅い喫水、どれを取っても、暗礁の多い海洋や多島海を長期間航海するにはうってつけの性能を備えていた。クックは1768年にイギリスを出帆し、ホーン岬を回って太平洋を横断して西へ進み、天体観測の目的地であるタヒチに1769年4月13日に到着した。日面通過は6月3日で、クックは小さな居館と観測所の建造を行った。
観測を担当したのは、王室天文官（グリニッジ天文台長）ネヴィル・マスケリンの助手、天文学者チャールズ・グリーンであった。観測の目的は、金星の太陽からの距離をより正確に算出するための測定であった。もしこれが成功すれば、軌道の計算に基づいて、他の惑星の太陽からの距離も算出できるはずであった。金星の日面通過の観測当日、クックはこう記している。
「6月3日土曜日。本日は期待通り観測に好適な日和となり、雲一つなく、空気は完璧に澄んでおり、金星の日面通過の全経路の観測にはあらゆる好条件が備わっていた。金星を取り巻く大気あるいは薄暗い影があまりによく見えたので、金星と太陽の接触、とくに第2接触の時刻の観測がきわめて困難になってしまった。ソランダー博士とグリーンと私は同時に観測したが、それぞれが観測した接触時刻は思っていたよりもかなりずれていた」
残念なことに、グリーン、クック、ソランダーがそれぞれ別に行った観測は誤差の期待範囲を越えていた。観測器具の解像度が未だ足りなかったのである。観測結果は別の場所で行なわれた結果と後に比較検討されたが、やはり期待したような正確な観測結果ではなかった。
天体観測が終了するとすぐに、クックは航海の後半についての秘密指令を開封した。それは、海軍省の追加命令にしたがって、伝説の南方大陸 (テラ・アウストラリス、Terra Australis) を求めて南太平洋を探索せよ、という指令であった。金星観測（しかもエンデバー号のような目立たない小さな船で）を隠れ蓑にすれば、イギリスにとって今航海は、ライバルのヨーロッパ諸国を出し抜いて南方大陸を発見し伝説の富を手に入れる絶好の機会となろう、と王立協会は考えたのである。この説のとくに熱心な信奉者が王立協会会員のアレキサンダー・ダルリンプルであった。ニュージーランドのクック海峡
南太平洋の地理にきわめて詳しいトウパイアというタヒチ人の助力を得て、1769年10月6日クックはヨーロッパ人として史上2番目に（1642年のアベル・タスマン以来）ニュージーランドに到達した。クックは、いくつかの小さな誤り（バンクス半島を島としたり、スチュアート島を南島の一部と考えるなど）はあるものの、ニュージーランドの海岸線のほぼ完全な地図を作製した。また、ニュージーランドの北島と南島を分ける海峡（クック海峡）を発見した（アベル・タスマンは見落としていた）。
クックは航路を西に取り、伝説の南方大陸の一部をなしているのか否かを確かめる目的で、ヴァン・ディーメンズ・ランド (今日のタスマニア) を目指した。しかし、エンデバー号は暴風で北寄りに流され、1770年4月20日金曜日、後にクックがヒックス岬と命名した陸地を目撃するまでそのまま航行した。計算によればタスマニア島はそこより南に位置しているはずだったが、南西に伸びる海岸線が目撃されたことから、この陸地はタスマニア島に繋がっているのではないか、とクックは疑った。この岬はオーストラリア大陸の南東海岸に位置し、結果として、クックの探検隊はオーストラリア大陸の東海岸に到達した史上初のヨーロッパ人となった。
クックが発見した陸標は、ビクトリア州南東岸のオーボストとマラクータのほぼ中間の岬であるとされる。1843年に行われた調査ではクックの命名が無視されたか見過ごされたため、岬には別の名前が命名されていたが、オーストラリア発見200年記念祭の折に、公式にヒックス岬と名称回復された。
エンデバー号は海岸線に沿って北上を続け、クックは測量と陸標の命名を次々に行った。1週間余り過ぎた頃、一行は大きな浅い入り江に入り、砂丘に覆われた低い岬の沖に停泊した。そここそ、4月29日に、クック一行がオーストラリア大陸に初めて上陸した、現在ではカーネルとして知られている場所である。多くのエイが見られたために、この入り江はクックによってアカエイ湾と命名されたが、後に植物学者湾と改称され、最終的には、博物学者のジョセフ・バンクス、ヘルマン・スペーリング、ダニエル・ソランダーによって採集された例を見ない貴重な植物標本を記念してボタニー湾（植物学湾）となった。
