1927年9月秋收起义后，毛泽东率领工农红军向井冈山进发。当时正是红薯收获的季节，行军路上的战士们又累又饿，有人看见红薯，扒出来就吃，老乡对此颇有意见。针对部队出现的新问题，毛主席制定了“三大纪律”。

    行动听指挥，不拿群众一个红薯，打土豪要归公，三大纪律奠定了中国工农红军统一纪律的基础。1928年，部队到达桂东县沙田镇后，毛泽东又严肃地向部队提出了六个要注意的问题：一上门板，二捆铺草，三说话要和气，四买卖要公平，五借东西要还，六损坏东西要赔，这就是最初的“六项注意”。

    一年后，根据形势的发展和部队的实践经验，毛泽东又将三大纪律改为“一切行动听指挥”“不拿群众一针一线”“一切缴获要归公”，六项注意也逐步修改补充为八项注意。红军老战士张星点说，三大纪律八项注意就是红军的一部宪法。

    为方便战士们牢记军纪条文，1935年10月，红15军团政治部秘书长程坦与时任宣 传科科长刘华清商量，最终将《三大纪律八项注意》填入鄂豫皖苏区流行的民歌《土地革命已经成功了》的曲调，并模仿九字一句的写法，将纪律条文改编成朗朗上口的九字节歌词。

    由于歌词好记，旋律明快，这支严明纪律的军歌很快就在部队中传唱开来，成为人民军队胜利之师、文明之师的生动写照，人民军队的好作风也随着清脆嘹亮的歌声代代相传，历久弥新。