行政复议不仅审查具体行政行为的合法性，也审查具体行政行为的适当性。A有误。
当事人提出行政复议，必须是在行政机关已经作出行政决定之后，否则不存在复议问题。B有误。
行政复议原则上采用书面审查办法。C正确。
当事人只要认为具体行政行为侵害其合法权益，即可申请行政复议，D有误。
行政复议的结论一经作出即具有法律效力。公民、法人或其他组织对行政复议决定不服的，可以依照《行政诉讼法》的规定向人民法院提起行政诉讼，但是法律规定行政复议决定为最终裁决的除外。E正确。