在古代社会，当时的数学还不发达，还没出现小数点。但是生活中，常常会出现用到小数点的地方，比如劳动人民在称米的时候，是以“斗”“石”为基本单位的，即1斗、1石，当遇到半斗、半石的时候，就将半的部分降一格写，略小于整数部分。比如说如果要写3斗半，就写成 斗，这非常不方便。
在魏晋期间，出现了位伟大的数学家刘徽，他在计算圆周率的过程中，用到尺、寸、分、厘、毫、秒、忽等7个单位；对于忽以下的更小单位则不再命名，统称为“微数”。
到宋、元时代，教学家杨辉在《日用算法》记有两句换算的口诀：
一求，隔位六二五；二求，退位一二五。
用现在的数学形式来表达，即 1/16= 0.0625； 2/16 = 0125。这里的“隔位”、“退位”就是指小数点位置的意义，小数点概念得到了进一步的普及和更明确的表示。
直到1 7世纪中叶，英国数学家耐普尔为了方便，用个逗号“，”作为整数部分和小数部分的分界点，比如“1.5”记作是“1，5”，但是，这样写容易和文字叙述中的逗号相混淆，只是当时还没有发现更好的方法，在接下来的一百年间一直采用这种方法。
在18世纪后期，印度数学家研究分数时，首先使用小圆点“•”来隔开整数部分和小数部分，直到这个时候，小数点才算是真正诞生了。
但第一个把小数的形式写成现在世界普遍使用的形式的人是德国伟大的数学家维新，他在自己的著作《星盘》一书中明确规定使用小数点作为整数部分与小数部分之间的分界符。
当然，现在的小数点的表现形式是世界通用的，但在一些国家，小数点的写法和位置还不是完全一样。主要表现有两种：
中国、美国的小数点写在整数和小数两部分中间偏下位置，即个位的右下方。
英国以及整个欧洲的小数点的形式和位置则写在两部分中间，比如1. 5写成1•5。
随着所学知识量的增多，我们将来有可能会接触一些外国数学资料，多知道一些关于各国小数点的写法知识，是非常有必要的。
