根据我国现行法律规定，结合司法实践，如果一方有充足的证据证明另一方在婚姻关系存续期间，与他人同居或保持不正当关系，则可依据婚姻法第四十六条之规定追究对方的过错赔偿责任，并可主张过错方在分割财产时予以少分甚至不分。但实际生活中，当事人很难搜集或者有意识的保存有力证据证明该行为。因此，作为无过错方，如果发现对方有过错行为，应当注意保存相关证据，以利于维护自身的合法权益。
【法律依据】
根据《婚姻法》第四十六条，有下列情形之一，导致离婚的，无过错方有权请求损害赔偿：
（一）重婚的；
（二）有配偶者与他人同居的；
（三）实施家庭暴力的；
（四）虐待、遗弃家庭成员的。