“＋”、“－”出现于中世纪。据说，当时酒商在售出酒后，曾用横线标出酒桶里的存酒，而当桶里的酒又增加时，便用竖线条把原来画的横线划掉。于是就出现用以表示减少的“－”和用来表示增加的“＋”。
1489年，德国数学家魏德曼在他的著作中首先使用“＋”、“－” 这两个符号表示剩余和不足，1514年荷兰数学家赫克把它用作代数运算符号。后来又经过法国数学家韦达的宣传和提倡，才开始普及，直到1630年，才得到大家的公认。
乘号“×”是18世纪美国数学家欧德莱最先使用的，表示增加的另一种方法，把“ ” 转动 45 ° 角，这样乘号“x” 也就面世了。另一乘号“•”是数学家赫锐奥特首创的。
除号“÷”，最初这个符号是作为减号在欧洲大陆流行，奥屈特用“：”表示除或比。也有人用分数线表示比，后来有人把二者结合起来就变成了“÷”。瑞士的数学家拉哈的著作中正式把“÷”作为除号。
等号“=",英国数学家列科尔德，16世纪他用了两条平行而又等长的短直线，用来表示两数相等，就是现在的等号“="。
