由于位于北海道的中枢位置，江别在北海道的早期历史中，融合了北海道西南部的“惠山文化”和北海道东部的文化，约在公元2世纪产生了“江别文化”，并有许多特有的土器。此外，也发验有许多约在公元7世纪至公元9世纪左右时期所兴建的“江别古坟群”，此为日本所发现位于最北方的古坟；因为与日本东北地方北部的古坟形式相似，因此被认为是当时本州和北海道已经有交流的重要依据。
和人最早在此的开发是在1867年，立花由松在此设置了“通行屋”供旅客休息。并在1871年，来自陆前国远田郡马场谷地村（现在的宫城县远田郡涌谷町）的21户共76名人集体迁移至此进行开垦，开始有大量的移民进入。
由于设置了许多屯田兵村，以及国营幌内铁路江别站的营运，成为石狩川水运和铁路的运输中心，因此现在的市区的逐渐成形，并开始发展工业。