首先，可以搜集配偶在外与人同居的证据。此表明配偶对婚姻具有过错。这样在离婚时，是可以向配偶索要离婚过错赔偿金的。其次，如果这个债务由配偶一方举借，你不知情，同时这个债务未用于夫妻共同生活，则这个债务应为对方个人债务，由其一方单独偿还。