正在领兵北伐魏国，还没到淮河，听到孙綝继位消息，立即带兵返回，并与前线大臣联名上书，推举滕胤为丞相，以防孙綝大权在握。孙綝自然不会同意，但他表面上对这两位元老级长辈尊重，上表改任滕胤为大司马，要他镇守武昌，远离朝廷。其实是孙綝借此支开滕胤，防止他与吕据联手对付他。滕胤拒绝离开建业，决定与吕据联手推翻孙綝。
这时，孙綝也在做两手准备，一面攻打吕据，一面拉拢滕胤，滕胤没有等到吕据讨伐孙綝之时，却听到吕据无力抵抗、溃不成军，士兵劝其降魏，吕据说：“我耻为叛臣。”随即自杀。孙綝听说吕据自杀，集结军队向滕胤进攻，滕胤及其他数十名将士战败被杀。其后孙綝下令诛灭滕胤、吕据三族，孙权的五名顾命大臣纷纷毙命了。
直到孙休即位后，才下诏说：“诸葛恪、滕胤与吕据原来是无罪，而是受到孙峻与孙綝兄弟所残害，我为此感到痛心，希望都能为他们改葬，并加以祭祀，因为他们而牵连流放者，都可以回来。”吕据等人被追复原职，才得到平反。