全体

「7月にカエサル、8月にアウグストゥスが自分の名前を付けたので2か月ずれた」という説がありますが俗説だそうです。自分の名前を付けたという点は正しいですが、「ずれた」というのはおかしいです。
元々、7月は「Quintilis」であり、これは「5番目の月」という意味です。カエサルが変える前から既にずれていました。

実は、紀元前753年、ローマ暦では1番目の月(現在の3月)から10番目の月(現在の12月)まで10か月しかありませんでした。暦は農耕に使われるため、(農耕を行わない)現在の1月と2月に相当する部分が空白でも問題なかったのです。
その後、紀元前713年に空白期間に1月と2月が挿入されましたが、その他の月の名前は変えなかったので、ずれてしまいました。

各月

January

ラテン語Januarius

ラテン語「Janus 神の月」の意; 旧年と新年と両方にまたがる月であることから(研究社)

ローマ神話にはヤヌスという「物事の始まりと終り」を司る神がいたそうです。

February

ラテン語Februarius

ラテン語「厄払いの儀式(の月)」の意(研究社)

古代イタリアにはFebruusという神がいたそうです。

March

ラテン語Martius

ラテン語「軍神 Mars の月」の意(研究社)

April

ラテン語Aprilis

ラテン語「アフロディテの(月)」から(研究社)

ギリシャ神話にはアフロディーテという女神がいたそうです。

May

ラテン語Maius

ラテン語「Maia (繁殖・成長の女神の名)の月」の意(研究社)

ローマ神話にはマイアスという豊穣の女神がいたそうです。

June

ラテン語Junius

ラテン語「Junoの(月)」の意(研究社)

古代ローマにはジュノーという結婚や出産の女神がいたそうです。

July

ラテン語Julius

Julius Caesar の生まれた月で，その名から(研究社)

7月の元の名前は「Quintilis」(5番目という意味)でしたが、ローマ皇帝ユリウス・カエサル(英語名ジュリアス・シーザー)が紀元前45年にユリウス暦を制定する際に自分の名前からとって「July」に変えたそうです。

August

ラテン語Augustus

AUGUSTUS Caesar の名にちなむ; 元来「8 月」は October であった(研究社)

8月の元の名前は「Sextilis」(6番目という意味)でしたが、ローマ皇帝アウグストゥスが紀元前8年にユリウス暦を修正する際に自分の名前からとって「August」に変えたそうです。

September

ラテン語Septem

ラテン語「7 番目の月」の意; 古代ローマでは 1 年は 3 月から始まったことから(研究社)

「Septem」は7番目という意味です。「seven」はここから来ています。

October

ラテン語Octo

ラテン語「8 番目の月」の意; 古代ローマでは 3 月から 1 年が始まったことから(研究社)

「Octo」は8番目という意味です。8本足のタコは「octopus」です。

November

ラテン語Novem

ラテン語で「9 番目の月」の意; 古代ローマでは一年は 3 月から始まったことから(研究社)

「Novem」は9番目という意味です。「nine」はここから来ています。

December

ラテン語Decem

ラテン語「10 月」の意; 古代ローマでは 1 年を 10 か月とし，3 月を始めとしたことから(研究社)

「Decem」は10番目という意味です。デシリットルなどの「deci-」はここから来ています。「decade」は10年という意味です。