这个念头一冒出来，曹操就不由自主去想这个事情，他就开始权衡利弊。
曹操心想：“把蔡瑁、张允以军法处置，能够消除手下将领的怨气，说不定还真的能够提升士气，并且还能够震慑荆州其他降将，可谓一举两得。”
蔡瑁、张允两人跪在堂下，被曹操呵斥几声以后，吓得连头都不敢抬起。
半天没有听到曹操说话，心里不由犯了嘀咕，偷眼一看，刚好看到曹操脸色变化不定，似乎有什么难以决断之事。
蔡瑁猛然想起上次战败以后，曹操让他们戴罪立功的话语，心里升起不妙的感觉，就在此时，曹操已然做出决定，决定借机除掉蔡、张二人。
曹操也不拖泥带水，拿出那封假书信扔到蔡瑁面前，讥讽地说道：“尔等军若练熟，吾首级献于周郎矣！”蔡张二人不知就里，惊慌不能回答。
曹操既然想杀他们，也不给辩解的机会，喝武士推出斩之。须臾，献人头于帐下。
众将见曹操突然杀了张、蔡二人，多数都是惊愕，也有不少人幸灾乐祸，心中暗喜，都进来询问缘由。
曹操虽然故意中计，但却也不能明着说出，只得对众将说道：“他二人丧师辱国，怠慢军法，吾故斩之。”众皆嗟呀不已。
曹操南征之前，曾经在玄武池操练水军，就是用毛玠、于禁为主将，这次就以二人为水军都督，以代蔡、张二人之职。