computer という語は元々は算術計算を行う人を指す言葉だった。この用法は（アメリカやイギリスでは非常に稀になりつつあるが）今でも有効である。オックスフォード英語辞典第2版 (OED2) では、この語が機械的な計算装置を指す言葉として使われた最初の年を1897年と記している。1946年までには、異なるタイプの計算機を区別するために、OED2によってcomputerに付く修飾語句がいくつか導入されている。これらの修飾語の中には analogue、digital、electronicといった語が含まれている。しかし様々な引用文から、1946年以前にこれらの語が既に使われていたことは明らかである。
computer の定義や訳、その他の詳細な語源はWiktionaryの ⇒Computerの項目を参照のこと。
1940年代に最初の実用デジタルコンピュータが登場して以来、コンピュータに使われる技術は劇的に変化してきたが、すべてのコンピュータはチューリングマシンの原理で動作している。チューリングマシンはあらゆる計算可能な数を計算することのできるプログラミング機械である。電子計算機の「計算」とはALU機能のことではなく、あらゆる計算という意味である。
チューリングマシンは非常に素直に動作する。チューリングマシンは命令とデータをメモリから取り出す (fetch)。取り出した命令を実行し、内部状態を変更し、結果をメモリに格納し、次の命令を取り出す。「停止」の命令に遭遇するまでこの手順が繰り返される。チューリングマシンでは命令とデータを区別せず、単なる入力記号列としている。
実際のコンピュータはチューリングマシンの入力記号列のうちプログラムとなる命令列と、データとなる書き換え可能な入出力列を区別している。また計算結果を利用するため、I/O機構が追加されている。I/O機構はプログラムの入れ替えにも使われる。実際のコンピュータはチューリングマシンと異なり、メモリをランダムアクセスすることで実行効率を向上している。しかし、究極的な計算能力（あらゆる計算可能な数を計算することができる）は変わらない。
コンピュータは次の4つの主要な部分からなるとされる。すなわち、算術論理ユニット (Arithmetic and Logic Unit, ALU)、制御回路、記憶装置（メモリ）、入出力装置（まとめて I/O と呼ぶ）である。これらの部分はバスと呼ばれる導線の束で相互に接続され、通常はタイマまたはクロックによって動作する（別のイベントが制御回路を動作させる場合もある）。
詳細は命令 (コンピュータ)、機械語をそれぞれ参照
コンピュータの命令は人間の言語に比べるとずっと貧弱である。コンピュータは限られた数の明確で単純な命令しか持っていないが、曖昧さは全くない。多くのコンピュータで使われている命令の典型的な例としては、「5番地のメモリの中身をコピーしてそのコピーを10番地に書け」とか「7番地の中身を13番地の中身に加算して結果を20番地に書け」とか「999番地の中身が0なら次の命令は30番地にある」といったものである。
コンピュータの内部では命令は二進コード、つまり2を底とする計数法で表現される。例えば、インテル系のマイクロプロセッサで使われるあるコピー命令のコードは10110000である。ある特定のコンピュータがサポートする特定の命令セットをそのコンピュータの機械語（machine language）と呼ぶ。
実際には、人間がコンピュータへの命令を機械語で直接書くことは通常はなく、高水準のプログラミング言語を使う。プログラミング言語で書かれた命令が、インタプリタやコンパイラと呼ばれる特別なコンピュータプログラムによって自動的に機械語に翻訳されて実行される。プログラミング言語の中にはアセンブリ言語（低水準言語）のように、機械語に非常に近いレベルで対応付けられるものもある。逆に Prolog のような高水準言語は計算機の実際の演算の詳細とは完全に切り分けるという絶対原理に基づいている。
ハード全体についての詳細はコンピュータの5大装置を参照
メモリは番地を付けられたセルの列で、各々のセルには小さな量の情報が格納される。この情報はある場合にはコンピュータに何をすべきかを教える命令である。また、セルにはコンピュータが命令を実行する対象となるデータも格納される。全てのセルはこのどちらかを格納し、ある時はデータを、またある時は命令を格納する。
一般的には、メモリセルの中身はいつでも書き換えられる。すなわち石板というよりは落書き帳に近い。
各セルのサイズとセルの数はコンピュータごとに大きく異なる。また、メモリを実装する技術も時代とともに大きく変化してきた。最初は電磁リレーが、続いて水銀の入った管（水銀遅延線）やバネに音波を通す方法が使われた。次には永久磁石の配列（磁気コアメモリ）やトランジスタが使われた。現在では1つの半導体チップの上に数百万個のコンデンサとトランジスタを集積した集積回路（DRAM）が主に使われている。
詳細は演算論理装置を参照
算術論理演算ユニット (ALU) は算術演算（加算・減算など）のような基本的な演算やAND、OR、NOTといった論理演算、比較演算（2つのバイトの中身が等しいかどうかの比較など）、シフト演算などを行う装置である。コンピュータの中で真の仕事（情報処理）を行う部分と言える。
詳細は制御装置を参照
制御ユニットはメモリの中でどのバイトがコンピュータが現在実行中の命令を格納しているかを追いかけ、どの命令を実行すべきかをALUに教え、実行に必要な情報をメモリから受け取り、実行結果を適切なメモリ位置に運ぶといった仕事をする。一度これらの仕事を終えると、制御ユニットは次の命令に飛ぶ。（次の命令は普通、次のメモリ番地に位置しているが、命令がジャンプ命令の場合には別の場所にある。）
メモリを参照する際に、現在の命令はメモリ内で関連する番地を指定するために様々なアドレッシングモードを使う場合がある。コンピュータのマザーボードの中には2つまたはそれ以上のプロセッサをサポートするものもある。コンピュータサーバでは2つまたは複数のプロセッサを使うのが一般的である。
詳細は入出力を参照
入出力（Input/Outputを略してI/Oとも言う）はコンピュータが外の世界から情報を得たり、計算結果を外に送り返したりすることを可能にするためのものである。