詳細は命令 (コンピュータ)、機械語をそれぞれ参照
コンピュータの命令は人間の言語に比べるとずっと貧弱である。コンピュータは限られた数の明確で単純な命令しか持っていないが、曖昧さは全くない。多くのコンピュータで使われている命令の典型的な例としては、「5番地のメモリの中身をコピーしてそのコピーを10番地に書け」とか「7番地の中身を13番地の中身に加算して結果を20番地に書け」とか「999番地の中身が0なら次の命令は30番地にある」といったものである。
コンピュータの内部では命令は二進コード、つまり2を底とする計数法で表現される。例えば、インテル系のマイクロプロセッサで使われるあるコピー命令のコードは10110000である。ある特定のコンピュータがサポートする特定の命令セットをそのコンピュータの機械語（machine language）と呼ぶ。
実際には、人間がコンピュータへの命令を機械語で直接書くことは通常はなく、高水準のプログラミング言語を使う。プログラミング言語で書かれた命令が、インタプリタやコンパイラと呼ばれる特別なコンピュータプログラムによって自動的に機械語に翻訳されて実行される。プログラミング言語の中にはアセンブリ言語（低水準言語）のように、機械語に非常に近いレベルで対応付けられるものもある。逆に Prolog のような高水準言語は計算機の実際の演算の詳細とは完全に切り分けるという絶対原理に基づいている。
ハード全体についての詳細はコンピュータの5大装置を参照
メモリは番地を付けられたセルの列で、各々のセルには小さな量の情報が格納される。この情報はある場合にはコンピュータに何をすべきかを教える命令である。また、セルにはコンピュータが命令を実行する対象となるデータも格納される。全てのセルはこのどちらかを格納し、ある時はデータを、またある時は命令を格納する。
一般的には、メモリセルの中身はいつでも書き換えられる。すなわち石板というよりは落書き帳に近い。
各セルのサイズとセルの数はコンピュータごとに大きく異なる。また、メモリを実装する技術も時代とともに大きく変化してきた。最初は電磁リレーが、続いて水銀の入った管（水銀遅延線）やバネに音波を通す方法が使われた。次には永久磁石の配列（磁気コアメモリ）やトランジスタが使われた。現在では1つの半導体チップの上に数百万個のコンデンサとトランジスタを集積した集積回路（DRAM）が主に使われている。
詳細は演算論理装置を参照
算術論理演算ユニット (ALU) は算術演算（加算・減算など）のような基本的な演算やAND、OR、NOTといった論理演算、比較演算（2つのバイトの中身が等しいかどうかの比較など）、シフト演算などを行う装置である。コンピュータの中で真の仕事（情報処理）を行う部分と言える。
詳細は制御装置を参照
制御ユニットはメモリの中でどのバイトがコンピュータが現在実行中の命令を格納しているかを追いかけ、どの命令を実行すべきかをALUに教え、実行に必要な情報をメモリから受け取り、実行結果を適切なメモリ位置に運ぶといった仕事をする。一度これらの仕事を終えると、制御ユニットは次の命令に飛ぶ。（次の命令は普通、次のメモリ番地に位置しているが、命令がジャンプ命令の場合には別の場所にある。）
メモリを参照する際に、現在の命令はメモリ内で関連する番地を指定するために様々なアドレッシングモードを使う場合がある。コンピュータのマザーボードの中には2つまたはそれ以上のプロセッサをサポートするものもある。コンピュータサーバでは2つまたは複数のプロセッサを使うのが一般的である。
詳細は入出力を参照
入出力（Input/Outputを略してI/Oとも言う）はコンピュータが外の世界から情報を得たり、計算結果を外に送り返したりすることを可能にするためのものである。外部から見て、コンピュータに情報を送ることを入力、逆にコンピュータから情報を得ることを出力という。
入出力には、入出力インタフェースを介して、入出力装置（I/O装置）が接続される。入出力装置としては例えば、キーボード、マウス、スキャナ、モニタやプリンタ、磁気ディスク装置、光学ドライブ装置、ネットワークインタフェースなどといった馴染み深いものから、3次元ディスプレイやデータグローブといったものまで、幅広いものが存在する。
入出力装置は、主として入力を得るためのもの（キーボード、スキャナなど）、出力するためのもの（モニタ、プリンタなど）、入力と出力を兼ね備えたもの（磁気ディスク装置、インタフェースなど）に大別することができる。
詳細はコンピュータ・アーキテクチャを参照
現代のコンピュータではALUと制御ユニットを中央処理装置 (CPU ;central processing unit) と呼ばれる一つの集積回路にまとめている。典型的には、コンピュータのメモリは数個の小さな集積回路の形で CPU の近くに配置する。コンピュータの質量の圧倒的大部分を占めているのは電源装置のような付属システムかあるいは入出力装置である。
大型のコンピュータでは、上記のようなモデルとは違って複数のCPUと制御ユニットが同時に動いているものもある。さらに、主に研究用途や科学計算に使われるコンピュータでは上に書いたモデルとは大きく異なっている。しかしこういったタイプのコンピュータはプログラミングの方式が標準化されていないため、商用目的の機種にはほとんど見られない。
詳細はプログラム (コンピュータ)を参照