ロケットエンジンの性能の重要な2つのパラメータは、比推力と推力重量比である。空気と重力の中を推重比の良いエンジンで一気に加速して軌道高度まで駈け登る能力と、比推力の良いエンジンで水平方向へ加速して軌道速度を得る能力の両方を、ひとつのエンジンでまかなわなければならないところに単段式の難しさがある。一般に、軽い推進剤（たとえば水素）は、比推力では有利だが推重比は不利で、重い推進剤はその逆、というトレードオフがある。
ロケットエンジンの比推力の上限は、推進剤の種類により決定され、最も高性能な推進剤は液体水素と液体酸素の組み合わせである。この場合の理論上の比推力は約460秒であるが、実際にはより低い値となる。その理由はいくつかあるが、SSTOでは特にノズルと大気圧の関係が問題になる。
ロケットエンジンの噴射ガスは、ノズル内で膨張・加速し、出口に向かって圧力が低下する。真空中ではできるだけ膨張・加速するよう長いノズルが望ましいが、大気中では圧力が大気圧を下回ると逆流が起きるため、ノズルを長くできない。このため、離陸時に使用するロケットエンジンはノズルを短くせざるを得ず、大気圏外では高性能を発揮できない。
そこで、ノズルの長さを変更できるエンジンが考えられる。ノズルを分割して先端部分を格納しておき、大気圏外では展開して長くするのである。この方法は、エンジンノズルを小さく格納する目的では実用化されている。
また、ノズルをベル型ではなく円錐状とし、そこに外側から噴射ガスを吹き付けるようにした型式のものをスパイクノズルと呼ぶ。スパイクノズルでは、噴射ガスは円錐状のノズル（スパイク）に沿って流れながら膨張するが、大気圏内では大気により小さく広がり、真空中では大きく広がるため、膨張が自然に最適化される。
スパイクノズルを円錐状ではなく壁状とし、複数のエンジンを連続的に取り付けられるようにしたものをリニアスパイクエンジンと呼ぶ。リニアスパイクエンジンはアメリカで試作されたが、これを使用する予定だった機体 (X-33) の開発が中止されたため実用化に至っていない。
低高度では密度が大きく推重比的に有利なケロシンを燃焼し、高高度では比推力の大きい水素の燃焼に切り替える三液推進系の開発も行われている。
空気吸い込みエンジンスペースプレーン X-30（想像図）
液体水素と液体酸素の組み合わせでは、液体酸素の重量が全体の2/3以上を占めるため、空気中の酸素を利用するエンジンを利用できれば比推力を大幅に向上させたのと同じ効果がある。
そこで、ジェットエンジンを使用する方法が考えられる。一般的なターボジェットエンジンの最大速度はマッハ3程度（秒速1km程度）であり、まったく足りない。そこで超音速に達してからは、衝撃波を利用して空気を圧縮し、燃料を混合して噴射するラムジェットエンジンを使用する。とくに、エンジン内の流速を超音速としたラムジェットエンジンをスクラムジェットエンジンと呼ぶ。これを使用して、大気圏内でできるだけ加速し、大気圏外に出てからはロケットエンジンを使用するのである。このような機体は通常の滑走路から水平に離陸できるため、特に宇宙航空機（スペースプレーン）と呼ばれる。
ただし、現状、ジェットエンジンの推重比はロケットの比ではない。
スペースプレーンは理想的な宇宙往復手段と考えられたため、1980年代以降盛んに研究が行われている。しかし、肝心のスクラムジェットエンジンの開発は難航しており、2007年現在でも実用化の目処は立っていない。また、ジェットエンジン・スクラムジェットエンジン・ロケットエンジンの3種類のエンジンを使い分けるため、整備を複雑にし、重量を増加させる。仮にスクラムジェットエンジンの開発に成功しても、スペースプレーンは大気圏外に出てからロケットエンジンで加速する方が効率的であり、またロケットエンジンは離陸時にも使用可能であるからジェットエンジンは必要なく、結局ただのロケットの方が合理的であるとの意見もある。
もうひとつの方法としては、空気液化サイクルエンジン (Liquefied Air Cycle Engine, LACE) がある。これは、超音速飛行で圧縮された空気を液体水素で冷却して液体空気にし、これを酸化剤としてロケットエンジンに供給するものである。燃料タンクには凍結した水素と液体水素の混合物（スラッシュ水素）を入れておき、空気液化で加熱された水素を戻して融解させ、液体になった水素をエンジンや空気液化装置に供給する。低速時と大気圏外では、ロケットエンジンは液体酸素を使用する。この方法では、エンジン本体はロケットエンジンのみとなり、スクラムジェットエンジンを使用するよりは簡素化される。しかし、空気を瞬時に液化したり、スラッシュ水素で燃料を供給する方法は基礎研究段階であり、実用化の目処は立っていない。 爆轟(デトネーション)を利用したものがデトネーションエンジンである。上記のロケットエンジン、空気吸い込みエンジンで発生する燃焼反応では燃料が完全に燃えきらないのに対し、このエンジンは超音速で発生する爆轟によって着火をおこなうため従来エンジンより効率が25％程度も向上[1]するメリットがある。
デトネーションエンジン
