小剑是脱胎于矛形刺柄及短匕首，始源于商朝以前，形极为短小，仅有短平茎，而无管筒。古人用此剑插腰，可割可刺，抵御匪寇与野兽。到了周代，尤其是春秋、战国时期，已成为主要短兵器，士类必有之配备。连冯谖与汉初的韩信，虽然贫至无食，也仍然随身携带。著名的有干将、莫邪、龙泉、太阿、纯钧、湛卢、鱼肠、巨阙等。