すでに1869年(明治2年)ころから廃刀の議論はおこなわれていた。明治2年3月、
公議所がひらかれたとき、制度寮撰修
森有礼は佩刀禁止を提議した。はやく蛮風をのぞくべしというものであったが、
王政復古からまもないころであったから、公議所の公議人らは反対意見で、廃刀をもって武士の精神をなくし、皇国の元気を消滅させるものとして否決された。明治3年(
1870年)には庶民の帯刀を禁止、明治4年
8月9日(
1871年9月23日)には士族の帯刀・脱刀を自由とする
散髪脱刀令を発していた。そして、3月28日、廃刀令の発布をみた。
太政官布告として布告された本法は、その後も長らくこの状態を保っていたが、時間の経過につれ、次第にこの規定の実効性が喪失していくこととなった。実行性が喪失していった過程として、以下の事項があげられる。