根据行政处罚法的规定，有权实施行政处罚的机关有三类：
1. 具有法定行政处罚权的行政机关，这类机关主要是依法履行外部行政管理职能，依法得到明确授权，代表国家在某一领域内行使行政管理权限的行政机关，包括各级以及、工商、税务、土地、审计、卫生等部门。
2. 法律、法规授权的具有管理公共事务职能的组织，如工商所、税务所、派出所等行政机关的派出机构依相应法律、法规享有一定的行政处罚权，但是必须在授权法规定的行政处罚的种类、幅度范围内实施行政处罚。超过授权法规定的处罚种类、幅度、数额的，该行政处罚无效。例如，《税收征收管理法》第四十九条规定，税务所可对个体工商户及未取得营业执照而从事经营的单位、个人实施罚款数额在一千元以下的行政处罚。
3. 受行政机关委托行使一定行政处罚权的受托组织，根据行政管理的实际的需要，行政机关依照法律、法规、规章的规定，可以在其法定权限内符合法定条件的组织实施行政处罚。例如，《治安管理处罚法》规定在农村没有派出所的地方，对违反治安管理行为处以警告、五十元以下罚款的，可以由机关委托乡(镇)裁决。
此外，对于行政处罚的执行，应当遵守以下原则：
1. 当事人自觉履行原则；
2. 行政复议和行政诉讼期间，行政处罚决定不停止执行原则；
3. 作出罚款决定的行政机关应当与收缴罚款的机构分离，但是依照行政处罚法的规定可以当场收缴罚款的除外；
4. 当事人逾期不履行行政处罚决定的，作出行政处罚决定的行政机关可以采取加处罚款、拍卖查封或扣押的财物、划拨冻结的存款、申请人民执行等措施。