国鉄の英文字略称が「JNR」(Japanese National Railways)であったことから、「国有」を表すNを除いて「JR」とした、と説明されることも多いですが、実際には「NR」（Nは日本の頭文字）などの案も検討されました。
国民の間で広く使われていた「国鉄」という呼び名にかわるものを考える過程でアルファベット略号案が浮上し、「JR」に落ち着いたものと考えられています。
ロゴデザインは東京オリンピックポスター、トヨタロゴ、アサヒビールロゴ等を考案した日本デザインセンターが担当しました。
JR、NR共にシンプルなものから遊びの要素が強いものまで数種のデザイン案が作られましたが、選考会で「誰にでもわかりやすい」という理由から現在のシンプルなロゴに落ち着きました。