甲公司所在地因暴雨引发山洪，受此影响，甲公司当月没有进行纳税申报，甲公司主管税务机关认为，甲公司应向税务机关提出申请，经税务机关核准后才能延期申报，遂决定处以甲公司2000元罚款，甲公司不服拟提起税务行政复议，则下列说法中错误的有( )。