谅解书只是从轻处罚的参考依据,并不是有谅解书了就必须放人。一般情况下，刑事案件被告人犯罪事实清楚，情切轻微的，检察可以不起诉，如果双方达成协议，被害人谅解了，自检察院作出不起诉决定之日起，被告人就可以释放。
但如果被告人的情节达不到不起诉条件的，如双方当事人达成协议，并取得被害人谅解的，人民检察院可以建议人民法院对被告人从轻或减轻处罚。
法律依据
《刑事诉讼法》第二百八十九条 双方当事人和解的，公安机关、人民检察院、人民法院应当听取当事人和其他有关人员的意见，对和解的自愿性、合法性进行审查，并主持制作和解协议书。