在14世纪前，人们在计算加减乘除时，都借助于文字.
最早使用现在的加号和减号是15世纪后德国数学家魏德美,“ ”号是由拉丁文“et”（“和”的意思）演变而来的。意大利科学家塔塔里亚用意大利文“plu”（加的意思）的第一个字母表示加，最后都变成了“ ”号.“－”号是从拉丁文“minus”（“减”的意思）演变来的，简写m，最后都变成了“－”.到了十五世纪，德国数学家魏德美正式确定：“ ”用作加号，“－”用作减号。立即被数学界所接受，根据创造者的意思：在一条横线上加一竖，借以表示加，在“ ”上去一竖借以表示减.
乘号现在通用两种。一个是“×”，最早是英国数学家奥屈特1631年提出的；一个是“·”，最早是英国数学家赫锐奥特首创的。德国数学家莱布尼茨认为：“×”号象拉丁字母“X”，加以反对，而赞成用“·”号。他自己还提出用“п”表示相乘.可是这个符号现在应用到集合论中去。到了十八世纪，美国数学家欧德莱确定，把“×”作为乘号.他认为“×”是“ ”斜起来写，是另一种表示增加的符号。1631年,英国的奥特雷德在其著作中第一次用"×"表示两数相乘,即现代乘号的意义,直到现在.
“÷”最初作为减号，在欧洲大陆长期流行。直到1631年英国数学家奥屈特用“：”表示除或比，另外有人用“－”（除线）表示除。后来瑞士数学家雷恩在1659年出版的一本《代数学》书中首先使用的.正式将“÷”作为除号.除法运算中所使用的符号"÷"被称为雷恩记号.
十六世纪法国数学家维叶特用“=”表示两个量的差别.可是英国牛津大学数学、修辞学教授列考尔德觉得：用两条平行而又相等的直线来表示两数相等是最合适不过的了，于是等于符号“=”就从1540年开始使用起来.等号"="也叫做列考尔德符号,是列考尔德在1557年出版的一本中第一次使用.
