张国焘在中国共产党第一次全国代表大会上被选为中央局成员，任组织主任。连续出席了中共一大至六大会议。
1924年5月21日，张国焘在北京被北洋军阀政府逮捕后变节自首，出狱后隐瞒变节行为。在第一次国共合作时期，曾当选为国民党中央候补执行委员。1928年7月在中共六届一中全会上当选为中共中央政治局委员。会后任中共驻共产国际代表留驻苏联莫斯科。1931年1月起任中共中央政治局常委。1931年春回国后进入鄂豫皖根据地，担任鄂豫皖中共中央分局书记兼军委主席，后领导创建川陕革命根据地。
1935年6月，在红军长征途中，他反对北上，并拥兵自重，非法另立“中央”。1936年被迫取消自立“中央”后，任中共中央西北局书记。红军到达陕北后，于1937年8月任陕甘宁边区政府副主席、代主席。
1938年4月，他乘祭黄帝陵之机只身逃出陕甘宁边区，投入国民党特务集团。1938年4月18日中共中央决定开除其党籍。后曾任国民党国民参政会第二、三、四届参政员。抗日战争胜利后，一度出任国民党政府行政院善后救济总署江西分署署长。
1948年冬，蒋家王朝在中国大陆的统治已风雨飘摇，张国焘只好带全家逃往台北。此时的他已经大大贬值，“军统”冷眼，“政府”也不拿他当回事。没有工作，没有收入，生活艰难。他在台北租了个房子，也被当局强行征作他用。
台北落魄，他在1949年冬带妻子和三个儿子迁往既非共产党统治又非国民党统治的香港。以办《中国之声》杂志维持生计。后参与炒卖黄金，赢少赔多，始胜终输，日子愈加艰难。
1953年，国内一片欣欣向荣。张国焘曾致信毛泽东、刘少奇和周恩来，表示愿意回国“鞠躬尽瘁，以赎前愆”。但由于他不愿按照中央要求写一份像样的检讨，总结自己在历史上的错误而未能成行。
这年7月，美国驻香港领事馆找上门来，受美国国会和美国情报局委托，先后20次约谈张国焘，了解中国共产党内部高层人士之间的历史情况。由于是付费访谈，张国焘有求必应。
1958年，国内建设如火如荼，张国焘受到鼓舞，再次萌发回国的念头。报告送到毛泽东办公室，毛泽东批示“应劝张国焘割断他与美国人的关系，如能做到此点，可考虑给予个人生活方面的补助。毛注。”张国焘由于没有接受毛泽东的建议，也就再次未能成行。
1961年，美国堪萨斯大学派人找到张国焘，约他写以参与中国共产党活动为主要内容的回忆录。以此后四年中，张国焘写下了约100万字的《我的回忆》。在此期间，美国堪萨斯大学每月给他2000港币作为研究费用。
“文化大革命”开始后，一度波及香港。有着叛徒罪名和一系列历史旧账的张国焘十分害怕。其时，他的长子和三子都在加拿大的多伦多，一个研究数学，一个当工程师。所以他准备迁居加拿大。1968年，他和妻子杨子烈迁到多伦多。由于儿子们经济收入有限，他们的到来大大增加了负担。所以，到多伦多不久，他们就申请进入一个免费的养老院。
1976年，79岁的张国焘突然中风，右半身瘫痪。因妻子杨子烈也年事已高，不能照料，便将他转入一所官办的免费老人病院。
1979年12月2日晚，张国焘在翻身时，被子毛毯掉在了地上，他无力捡起，寄希望于护士查房时能帮他一把。但这个老人病院条件较差，护理人员很少，不能及时发现病人的意外情况。3日晨发现时，张国焘已冻死床上，时年82岁。
张国焘晚年，因晚景惨淡，不时求助国共两党，都受到一定关照。
1955年，张国焘通过香港友人向中国政府提出，希望能把他的二儿子安排到广州学医。后经周恩来总理批准，张国焘的二儿子在广州的中山医学院学习五年，毕业后先在香港行医，后到美国纽约当医生。
1976年，时在加拿大的张国焘贫病交加。通过友人致函时任台湾“行政院长”的蒋经国，希望在经济上给一些接济。20年代末30年代初，时在苏联的蒋经国被王明打成“托派”，准备流放。作为中共驻共产国际首席代表的张国焘，据理力争，全力交涉，最终改流放为到列宁格勒军事学院旁听，以进行思想改造。后来蒋经国回国，张国焘亲自到机场迎接。重庆时期，蒋经国曾多次到张国焘居处造访，据说两人无话不谈。所以，蒋经国得知张国焘在加拿大的困境后，很快命人送去1万美元作医疗费。
