中国象棋出现的年代甚早。
民间相传象棋是始创于韩信。韩信被吕后监禁，本欲著作兵法，但被禁止，于是取纸笔发明一种“纸上谈兵”的游戏与狱卒玩，棋盘中以鸿沟为界（楚河汉界），韩信被杀死之后，狱卒退隐，并把此种游戏定名为“象棋”。
在中国能确认属于象棋类游戏的棋类是唐代宝应象棋。唐代至宋朝时逐渐演变现在的中国象棋。明朝方以智《通雅》: “象棋始于唐，周武之《象经》，非今之象戏也。”
在北宋时期，象棋有大象戏与小象戏。据朝鲜李圭景说法《象戯图法》记载小象戏没有象，而有弩这兵种，其他则是将、士、马、车、炮、卒（另一方写成步）。
之后象棋更平民化，不少文人雅士都喜爱下象棋，下象棋者更成为一种职业。北宋末至南宋时，已成为现代象棋的形式，将帅待在九宫底，棋子有用陶瓷或铜质，后者称为象棋钱，为花钱的一种，有图有文，钱文写将、士、象、马、炮、车、卒，并无帅、仕、相、㐷、炮、伡等异体字区分，下棋时可能是一方执字面，一方执图面；若两面全字的棋钱可能以涂朱砂等方式从颜色上区分。南宋晚期陈元靓所著的《事林广记》中，记载了最早的两局完整的象棋棋谱和最古老的排局“二龙出海势”。
元朝至明朝初期，象棋的发展处于低潮。明朝中叶起，象棋再度发展起来，并跨越明、清两代，盛况持续约三百年。
在象棋的棋局中，“车”常被认为攻击最强，但大家留意下这里说的“车”，都会惯读“居”音，为什么会这样？
就要“车”字在古汉语中的读音说起。
世界上类似中国象棋的两军对抗棋盘游戏，起源于公元6世纪，印度笈多王朝的“恰图兰卡”，后来辗转传到波斯及欧洲，演化成今天的国际象棋。至于有据可考的中国象棋起源，可以追溯到唐朝时波斯象棋传入，经宋人改造才变成今天样子。
在印度的“恰图兰卡”中就有“战车”的棋子；在中国象棋中的“车”，亦表示“战车”。古籍中提到，“车”字本身有两种发音，明确显示了“车”字，可会读成“居”，东汉学者刘熙着有专门探求事物名源的《释名》，载：“古者曰车声如居，所以居人也。今曰车音尺遮反舍也。”
另外，三国时期著名史学家韦昭云：“车，古皆音尺奢反，后汉以来始有居音。”
其实，早在《诗经》时代，当“车”字特指一种载人交通工具或战争载具时，便已经与“琚”、“且”等字音押韵。随着汉语语音的发展，“车”字在现代都普遍读作“车”，只有在中国象棋以及好像诸如“车师”（音作居师）、“莎车”（音作莎居）等古代外文地名译名中，还勉强保留一丝古音痕迹。