战国时，楚国有个人乘船渡江，船到江心，他一不小心把佩戴的宝剑从剑鞘（qiào）滑出，掉在江中。他赶紧伸手去抓，已经来不及了。眨眼之间，宝剑在滔滔的江中沉没。同船的人对此都感到非常惋惜，但那楚人并不着急，说：“掉了就掉了，让我做个记号再说。”说罢，掏出一把小刀，在船舷(xián)上刻了一道印子。船上的人不理解他的意思，问道：“你这是干什么呀？”楚人得意地说：“这是我宝剑掉落的地方，所以要做个记号。”船上的人仍然不理解他这样做的意思，还以为他是在开玩笑，也就不再议论这件事了。
船靠岸后，楚人根据船上刻的记号，下到水里去捞剑。捞了半天，哪里还见宝剑的影子？他爬上船看着刻在船舷上的印子，自言自语地说：“我的宝剑就是在这里掉下去的呀，我还刻了记号呢，怎么会找不到的呢？”船上的人这才理解了他在船舷上刻印子的原因，都觉得他这样做非常可笑。剑掉入江中后，船已经开走，可是剑不会移动。像这样去找剑，不是非常糊涂吗？
这个故事讽刺了那些因循(xún)守旧，不知根据实际加以变通的人。后人概括出“刻舟求剑”的成语，用来比喻拘泥固执，不知变通的人。