1919年英國科學家盧瑟福（E.Rutherford）用天然放射源中能量為幾個MeV、速度為2×10厘米/秒的高速α 粒子束（即氦核）作為“炮彈”，轟擊厚度僅為0.0004厘米的金屬箔的“靶”，實現了人類科學史上第一次人工核反應。利用靶后放置的硫化鋅熒光屏測得了粒子散射的分布，發現原子核本身有結構，從而激發了人們尋求更高能量的粒子來作為“炮彈”的愿望。
靜電加速器（1928年）、回旋加速器（1929年）、倍壓加速器（1932年）等不同設想幾乎在同一時期提了出來，并先后建成了一批加速裝置。
1932年美國科學家柯克羅夫特（J.D.Cockcroft）和愛爾蘭科學家沃爾頓（E.T.S.Walton）建造成世界上第一臺直流加速器——命名為柯克羅夫特-沃爾頓直流高壓加速器，以能量為0.4MeV的質子束轟擊鋰靶，得到α 粒子和氦的核反應實驗。這是歷史上第一次用人工加速粒子實現的核反應，因此獲得了1951年的諾貝爾物理獎。
1933年美國科學家凡德格拉夫（R.J.van de Graaff）發明了使用另一種產生高壓方法的高壓加速器——命名為凡德格拉夫靜電加速器（右圖）。
以上兩種粒子加速器均屬直流高壓型，它們能加速粒子的能量受高壓擊穿所限，大致在10MeV。
奈辛（G.Ising）于1924年，德維羅（E.Wideroe）于1928年分別發明了用漂移管上加高頻電壓原理建成的直線加速器，由于受當時高頻技術的限制，這種加速器只能將鉀離子加速到50keV，實用意義不大。但在此原理的啟發下，美國實驗物理學家勞倫斯（E.O.Lawrence）1932年建成了回旋加速器，并用它產生了人工放射性同位素，為此獲得了1939年的諾貝爾物理獎。這是加速器發展史上獲此殊榮的第一人。
由于被加速粒子質量、能量之間的制約，回旋加速器一般只能將質子加速到25MeV左右，如將加速器磁場的強度設計成沿半徑方向隨粒子能量同步增長，則能將質子加速到上百MeV，稱為等時性回旋加速器。
為了對原子核的結構作進一步的探索和產生新的基本粒子，必須研究能建造更高能量的粒子加速器的原理。1945年，前蘇聯科學家維克斯列爾（V.I.Veksler）和美國科學家麥克米倫（E.M.McMillan）各自獨立發現了自動穩相原理，英國科學家阿里芳特（M.L.Oliphant）也曾建議建造基于此原理的加速器——穩相加速器。
自動穩相原理的發現是加速器發展史上的一次重大革命，它導致一系列能突破回旋加速器能量限制的新型加速器產生：同步回旋加速器（高頻加速電場的頻率隨倍加速粒子能量的增加而降低，保持了粒子回旋頻率與加速電場同步）、現代的質子直線加速器、同步加速器（使用磁場強度隨粒子能量提高而增加的環形磁鐵來維持粒子運動的環形軌跡，但維持加速場的高頻頻率不變）等。
自此，加速器的建造解決了原理上的限制，但提高能量受到了經濟上的限制。隨著能量的提高，回旋加速器和同步回旋加速器中使用的磁鐵重量和造價急劇上升，提高能量實際上被限制在1GeV以下。同步加速器的環形磁鐵的造價雖然大大減少，但因橫向聚焦力較差，真空盒尺寸必須很大，造成磁鐵的磁極間隙大，依然需要很重的磁鐵，要想用它把質子加速到10GeV以上仍是不現實的。