1894年6月15日にベルリンにおいてプロイセン王国のベルリン天文台長ヴィルヘルム・フェルスターから万国測地学協会 (IAG) の「万国天文台」設置計画について照会があり、1895年に日本政府がこれを承諾する。万国測地学協会 (IAG) において地軸変動の規則性等を研究するために「万国天文台」を設置する計画で、その一つを日本国内に設置するものであった[15]。

1896年9月30日に開会した万国測地学協会 (IAG) 第11回委員総会（ベルリン）において、日本政府は国内に設置する「万国天文台」は日本政府が造営し、台長は日本の天文学者、台員は日本政府職員を充てる等の条件を提出し[16]、総会に出席した田中舘愛橘の論述があり決議でこれを全て承認した[17][18]。

1897年に日本政府は「万国測地学協会天文台」（万国観測所）の設置位置を調査するために調査委員を岩手県水沢地方に派遣し、地図調製、気象観測、地質調査をさせた[19][20]。さらに、日本国内に設置する緯度観測所の位置調査や万国測地学協会 (IAG) との交渉に関する体制の強化を図るため、1898年4月27日に測地学委員会を設置した。測地学委員会は文部大臣の監督に属した[21][注釈 2]。

1898年10月の万国測地学協会 (IAG) 第12回総会（シュトゥットガルト）に、万国測地学協会委員の理学博士田中舘愛橘と弟子の測地学委員会臨時委員木村栄が参列した。万国緯度観測事業で世界の6か所に置く国際緯度観測所の一つは、田中舘愛橘が調査結果を報告した岩手県胆沢郡水沢町またはその附近に決定した[18][20][25][26]

1899年4月10日、万国緯度観測事業に関する日本政府と万国測地学協会 (IAG) との条約の締結を閣議決定した。条約にはウァンシャッフ氏天頂儀（ワンシャフ製眼視天頂儀）、良好なる恒星時クロノメートルなどの観測所の設備が列挙された。万国緯度観測事業の継続期限は仮に1899年7月1日から約8か年間とする計画であるが、まずは5か年間に限って観測してその後の総会で決めることとし、また1906年以後に万国測地学協会に関する条約の更新に合わせて延長の可否を決めることとなる[25][27]。

同年9月22日に臨時緯度観測所（りんじいどかんそくじょ[28]、英: International Latitude Observatory, Mizusawa[29]）を設置した[20][27][3]。臨時緯度観測所は文部大臣の管理に属し緯度変化の観測に関する事務を掌り、所長は文部大臣の指揮監督を承けるとともに、観測に関しては測地学委員会委員長の指揮を承けるとされた。同月30日に技師木村栄に臨時緯度観測所長を命じた[27]。

同年12月11日に臨時緯度観測所で緯度変化観測を開始する。この日が創立記念日となる[27]。

臨時緯度観測所の天頂儀室は同年12月20日に竣工し、事務所（木村榮記念館の建物）は1900年3月31日に竣工した[27][28][30][31]。