根据法国兴业资产管理公司委托普华永道做的中国企业年金市场调查，截至到2004年3月份，在474亿的企业年金规模中，有69％即 327亿元由垄断性行业中的大型国企建立。其余由发达地区的地方国企和外企建立，其中92亿元分布在上海和深圳。而中小企业最为密集的江浙地区，企业年金数量和规模都相当少。可以说，我国的中小企业目前基本上还没建立企业年金。
中小企业发展企业年金遇到的主要障碍有：第一，企业资金不足，现金流不稳定。即使是经营较好的中小企业，由于有扩大规模的需求，资金短缺问题也一直是困扰其发展的最重要因素。为职工建立企业年金，意味着增加一块长期成本支出。目前基本养老保险已经占企业工资成本的30％左右，在税收优惠政策尚未最终确定的情况下，这些企业可能并不愿建立企业年金。同时，中小企业面临激烈的市场竞争，效益波动性大。在效益好的年份，企业可能愿意并且有能力为职工缴费，在效益差的年份，企业可能无力缴费。
第二，企业生命周期短，员工流动性大。我国68％的中小企业生命周期不到5年。企业一旦破产，企业年金计划自然就中止，目前的法规没有明确规定企业破产后计划资产如何处理，如果不允许职工取出账户资产，必然造成不断增加的"死账户"，增加管理机构的成本。此外，中小企业员工的频繁跳槽带来员工账户的频繁流动，给受托人、账户管理人之间的系统对接带来更高要求。
第三，员工规模小，年金基金资金积累较慢，建立年金计划成本相对较高。相对于大企业而言，中小企业年金基数少、积累慢，一方面过多地消耗企业资源，另一方面不可避免将降低企业和法人受托机构的参与热情。
第四，员工利益的代理缺位，内部表决制度缺失。年金计划合同的制订实际上是一个集体协商过程，必须有制度来保证职工发表意见的渠道。大部分中小企业属于非国有经济，基本没有建立工会和员工代表大会，这就很难规范职工行使表决权的程序。
第五，税收优惠制度的缺失。这是我国建立企业年金制度最根本的障碍。研究国外所有成熟私营养老金计划可以总结出一个结论，促进这些国家第二支柱快速发展的主要动力是税收优惠。这个问题已经被广泛讨论过，但目前在税收制度上还没有任何突破。
我国中小企业建立企业年金遇到的这些障碍，有些是我国的特殊国情，而有些问题也曾经是很多国家建立私营养老金计划时会面对的问题。美国和欧洲私营养老金计划体系的制度安排可以提供可借鉴的经验。
