祖氏家族在当时负责掌管历法，因此祖冲之自小就受到了良好的教育。在他五六岁的时候，父亲让他背诵《论语》，可是背了整整一个月，也只背下十来句，甚至还丢三落四的。
原来，祖冲之的兴趣全都用在研究数学、天文历法上了。他“专攻数术，搜炼古今”，把从古代到6世纪时候的所有天文观测记录和相关书籍，都搜罗来当做参考。他对圆周率的研究开始得很早，后来几乎达到如痴如醉的地步。
相传，有一天，夜已经很深了，祖冲之翻来覆去怎么也睡不着。他一直在想着白天所读的《周髀算经》，书上说：圆的周长是直径的三倍。这个说法对吗？第二天，天刚蒙蒙亮，他就把妈妈叫醒，要了一根绳子，跑到大路上，等候着马车。不一会儿，一辆马车从远处驶来。祖冲之喜出望外，急忙跑过去，请求驾车人允许自己量马车的轮子。驾车人很奇怪，想看看这个小孩子到底想要干什么，就答应了。祖冲之先用绳子绕车轮一圈儿，然后再把被绕的绳子折成同样长的三段，再用其中一段量车的直径，总觉得这绳子比直径长。他思前想后，却仍然毫无头绪。
后来，祖冲之一直苦苦地钻研了三十多年，直到他四十多岁的时候，才终于解开了这个迷，推算出圆周率在3.1415926和3.1415927之间。
