據太平記記載：

鎌倉幕府的初代執權北條時政經常被夢中出現的小鬼折磨，雖然請了陰陽師來做法事，但是卻沒有作用。有一天夜裡，有個老年人出現在他的夢中，自稱是「太刀國綱」，並說「我因為被髒的人手握過而無法從生鏽的鞘中拔出，如果北條大人想早點懲辦妖怪的話，就請快擦掉我身上的銹吧」。北條時政於是心領神會，擦淨了被稱為國綱的太刀。那時時政的房裡有個火盆的腳用銀做成鬼的樣子，與在他夢中出現的鬼十分相似。在旁邊立着的刀突然向火盆倒下，切掉了那個鬼形台腳的頭。從那以後，騷擾時政的小鬼不再出現了。據說因為這個事件，北條時政為這柄刀起名叫「鬼丸」。