労働保険事務組合が事業主から交付を受けた金銭を政府に納付しないときは、政府は、当該事務組合に対する滞納処分を先に行い、それでもなお徴収できない残額がある場合に限って、その残額を事業主から徴収することができる。

正しい。徴収法35条1項は、事業主が交付した金額の限度で労働保険事務組合が政府に対する納付の責めに任ずると定め、同条3項は、事務組合に対して滞納処分をしてもなお徴収すべき残余がある場合に限り、その残余の額を事業主から徴収できるとしている。追徴金・延滞金についても、その徴収に事務組合の責めに帰すべき理由があるときは、その限度で事務組合が納付の責めに任ずる（同条2項）。