肇東有一段美麗的傳說。在很早以前,有一個拉駱駝的南方人走到這裡,他走南闖北,獨具慧眼,認為這裡是一塊風水寶地。于是每到夏季,他都帶上行李和吃糧來這裡尋寶。有一天,他發現一棵很大的草,根部有鋤杆那麼粗,于是将其當作寶物帶走了。消息傳開後,周圍的人都聞訊而來,但是誰也沒有挖到大草,而隻挖到一些細小的草。因為這些小草根部味道甘甜,故得名為甜甘草,于是人們将此地稱之為甜草崗,也就是肇東。
肇東開發于遼、金時代,始建于1735年。清代,系郭爾羅斯後旗遊牧地。清光緒年間出放蒙荒,墾民漸稠。1906年2月1日,黑龍江将軍奏準,設置肇州廳的同時,于昌五城設肇東分防經曆。翌年委任官員,至1908年肇東分防經曆正式到任。