DNC Deep Learning Drive 数控机床驱动-立哥开发

package deepDriver.dl.aml.dnc;

/**
*Copyright  2008-2021 Jacky Zong . All rights reserved.
* 你应该把武术当做享受，
* 只追求技巧
* 痛苦地练习，不是武术的真谛
*/

import deepDriver.dl.aml.math.MathUtil;

public class DNC {
    
    DNCConfigurator cfg;
    
    DNCBPTT bptt;
    
    
    public DNC(DNCConfigurator cfg) {
        super();
        this.cfg = cfg;
        bptt = new DNCBPTT(cfg);
    }
    
     
    int maxSteps = 0;
    boolean isFlexL = false;
    long ft = 0;
    long bt = 0;
    
    boolean resetM = false;
    double mv = 0;

    public void train(ITxtStream is) {         
        int allCnt = 0;
        double lastAvgErr = 0;
        for (int i = 0; i < cfg.trainingLoop; i++) {
            int cnt = 0;
            int correctCnt = 0;
            double err = 0;
            is.reset();            
            while (is.hasNext()) {
                if (resetM) {
                    mv = cfg.m;
                    cfg.m = 0;
                }
                long t1 = System.currentTimeMillis();
                is.next();
                double [][] x = is.getSampleTT();
                if (x == null) {
                    System.out.println("Finished "+i+" epochs.");
                    break;
                }
                bptt.setxSteps(x.length);
                if (maxSteps < x.length) {
                    maxSteps = x.length;
                }
                int [] pos = is.getTargetPos();
                bptt.prepareEnv();
                double [][] result = new double[x.length][];
                for (int j = 0; j < x.length; j++) {
                    result[j] = bptt.forward(x[j], pos, x.length);                    
                }                
                ft = ft + System.currentTimeMillis() - t1;
                t1 = System.currentTimeMillis();
                
                if (pos == null) {
                    if (is.getTarget() != null) {
                        cnt ++;
                        allCnt ++;
                        double [] ta = is.getTarget()[0];                    
                        bptt.backWard(is.getTarget(), pos);
                        err = err + bptt.getError();
                        bptt.updateWws();
                        if (MathUtil.check(result[result.length - 1], ta)) {
                            correctCnt ++;
                        } 
                    }
                } else {
                    result = cfg.controller.getRss();
                    bptt.backWard(is.getTarget(), pos);
                    bptt.updateWws();
                    err = err + bptt.getError();                    
                    for (int j = 0; j < pos.length; j++) {
                        cnt ++;
                        allCnt ++;
                        if (MathUtil.check(result[j], is.getTarget()[j])) {
                            correctCnt ++;
                        }
                    }
                }
                bt = bt + System.currentTimeMillis() - t1;
                    
                if (cnt % 100 == 0) {
                    System.out.println(allCnt+" are tested, and "+cnt+" in this epoch," +
                            "error is "+err/(double)cnt+" ,and "+(double)correctCnt/(double)cnt
                            +", and ft="+ft+", bt="+bt+", ft/(ft + bt)="+(double)ft/(double)(ft + bt));
//                    bptt.summary();
                    ft = 0;
                    bt = 0;
                }
                
                if (resetM) { 
                    cfg.m = mv;
                    resetM = false;
                }
                
            }
            
            if (allCnt > 0) {
                    double avgErr = err/(double)cnt;
                    
                    if (lastAvgErr == 0) {                         
                    } else if (allCnt % cfg.ldecayLoop == 0 || (isFlexL && lastAvgErr < avgErr)) { 
//                    } else if (allCnt % cfg.ldecayLoop == 0) {
                        if (cfg.l >= cfg.ml) {
                            cfg.l = cfg.l/2.0;
                            cfg.m = cfg.m/2.0;
                        } else {
                            cfg.m = 0;//no need m any more
                        }
                        resetM = true;
                    }
                    lastAvgErr = avgErr;
                }
            
            System.out.println(allCnt+" are tested, and "+cnt+" in this epoch," +
                    "error is "+err/(double)cnt+" ,and "+(double)correctCnt/(double)cnt);
                
            System.out.println("Max Steps "+maxSteps);
            System.out.println("The learning rate is: "+cfg.l);
        }
    }

    public boolean isFlexL() {
        return isFlexL;
    }

    public void setFlexL(boolean isFlexL) {
        this.isFlexL = isFlexL;
    }
    
    

    
    
}