Azkaban重新编译，解决：Could not connect to SMTP host: smtp.163.com, port: 465【2022年01月10日】

Azkaban配置文件修改465端口一直报错，如下：

javax.mail.MessagingException: Could not connect to SMTP host: smtp.163.com, port: 465, response: -1
        at com.sun.mail.smtp.SMTPTransport.openServer(SMTPTransport.java:1960)
        at com.sun.mail.smtp.SMTPTransport.protocolConnect(SMTPTransport.java:642)
        at javax.mail.Service.connect(Service.java:295)
        at azkaban.utils.JavaxMailSender.connect(JavaxMailSender.java:34)
        at azkaban.utils.EmailMessage.connectToSMTPServer(EmailMessage.java:220)
        at azkaban.utils.EmailMessage.retryConnectToSMTPServer(EmailMessage.java:230)
        at azkaban.utils.EmailMessage.sendEmail(EmailMessage.java:213)
        at azkaban.utils.Emailer.sendEmail(Emailer.java:220)
        at azkaban.utils.Emailer.alertOnSuccess(Emailer.java:153)
        at azkaban.executor.ExecutionControllerUtils.alertUserOnFlowFinished(ExecutionControllerUtils.java:140)
        at azkaban.executor.ExecutionFinalizer.finalizeFlow(ExecutionFinalizer.java:97)
        at azkaban.executor.RunningExecutionsUpdater.updateExecutions(RunningExecutionsUpdater.java:130)
        at azkaban.executor.RunningExecutionsUpdaterThread.run(RunningExecutionsUpdaterThread.java:54)
2022/01/08 15:09:01.807 +0800 ERROR [EmailMessage] [Azkaban] Connecting to SMTP server failed, attempt: 4

最受用的感触

  这段时间搭建了离线数仓，调度器用的是Azkaban,在最后的环节中，遇到了Azkaban报警邮件发不出的问题。为了解决这个问题，花去了半天时间：

1）阿里云22端口未开放：

因为我的hadoop集群环境是在阿里云上搭建的，经过查资料获悉阿里云为了安全把22端口禁用了。官方给出的替换方案是用465端口

2）直接修改Azkaban的配置文件为465端口：

我通过查看Azkaban-web源码，确实支持配置文件修改端口，那我加上端口重新起，重新执行任务，谁知道还是报错。

mail.port=465

3）通过javaMail排除邮箱的问题

开始排查，开始怀疑我的163邮箱有问题，随手写了个javaMail，经过测试邮箱没问题

package com.sonkwo.javamail;

import javax.mail.Session;
import javax.mail.Transport;
import javax.mail.internet.InternetAddress;
import javax.mail.internet.MimeMessage;
import java.io.FileOutputStream;
import java.io.OutputStream;
import java.util.Date;
import java.util.Properties;

public class TestJavaMail {
    // 发件人的 邮箱 和 密码（替换为自己的邮箱和密码）
    // PS: 某些邮箱服务器为了增加邮箱本身密码的安全性，给 SMTP 客户端设置了独立密码（有的邮箱称为“授权码”）,
    //     对于开启了独立密码的邮箱, 这里的邮箱密码必需使用这个独立密码（授权码）。
    public static String myEmailAccount = "[email protected]";
    public static String myEmailPassword = "xxxxxxx";

    // 发件人邮箱的 SMTP 服务器地址, 必须准确, 不同邮件服务器地址不同, 一般(只是一般, 绝非绝对)格式为: smtp.xxx.com
    // 网易163邮箱的 SMTP 服务器地址为: smtp.163.com
    public static String myEmailSMTPHost = "smtp.163.com";

    // 收件人邮箱（替换为自己知道的有效邮箱）
    public static String receiveMailAccount = "[email protected]";

    public static void main(String[] args) throws Exception {
        // 1. 创建参数配置, 用于连接邮件服务器的参数配置
        Properties props = new Properties();                    // 参数配置
        props.setProperty("mail.transport.protocol", "smtp");   // 使用的协议（JavaMail规范要求）
        props.setProperty("mail.smtp.host", myEmailSMTPHost);   // 发件人的邮箱的 SMTP 服务器地址
        props.setProperty("mail.smtp.auth", "true");            // 需要请求认证

        // PS: 某些邮箱服务器要求 SMTP 连接需要使用 SSL 安全认证 (为了提高安全性, 邮箱支持SSL连接, 也可以自己开启),
        //     如果无法连接邮件服务器, 仔细查看控制台打印的 log, 如果有有类似 “连接失败, 要求 SSL 安全连接” 等错误,
        //     打开下面 /* ... */ 之间的注释代码, 开启 SSL 安全连接。
        /*
        // SMTP 服务器的端口 (非 SSL 连接的端口一般默认为 25, 可以不添加, 如果开启了 SSL 连接,
        //                  需要改为对应邮箱的 SMTP 服务器的端口, 具体可查看对应邮箱服务的帮助,
        //                  QQ邮箱的SMTP(SLL)端口为465或587, 其他邮箱自行去查看)
        final String smtpPort = "465";
        props.setProperty("mail.smtp.port", smtpPort);
        props.setProperty("mail.smtp.socketFactory.class", "javax.net.ssl.SSLSocketFactory");
        props.setProperty("mail.smtp.socketFactory.fallback", "false");
        props.setProperty("mail.smtp.socketFactory.port", smtpPort);
        */

        // 2. 根据配置创建会话对象, 用于和邮件服务器交互
        Session session = Session.getDefaultInstance(props);
        session.setDebug(true);                                 // 设置为debug模式, 可以查看详细的发送 log

        // 3. 创建一封邮件
        MimeMessage message = createMimeMessage(session, myEmailAccount, receiveMailAccount);

        // 4. 根据 Session 获取邮件传输对象
        Transport transport = session.getTransport();

        // 5. 使用 邮箱账号 和 密码 连接邮件服务器, 这里认证的邮箱必须与 message 中的发件人邮箱一致, 否则报错
        //
        //    PS_01: 成败的判断关键在此一句, 如果连接服务器失败, 都会在控制台输出相应失败原因的 log,
        //           仔细查看失败原因, 有些邮箱服务器会返回错误码或查看错误类型的链接, 根据给出的错误
        //           类型到对应邮件服务器的帮助网站上查看具体失败原因。
        //
        //    PS_02: 连接失败的原因通常为以下几点, 仔细检查代码:
        //           (1) 邮箱没有开启 SMTP 服务;
        //           (2) 邮箱密码错误, 例如某些邮箱开启了独立密码;
        //           (3) 邮箱服务器要求必须要使用 SSL 安全连接;
        //           (4) 请求过于频繁或其他原因, 被邮件服务器拒绝服务;
        //           (5) 如果以上几点都确定无误, 到邮件服务器网站查找帮助。
        //
        //    PS_03: 仔细看log, 认真看log, 看懂log, 错误原因都在log已说明。
        transport.connect(myEmailAccount, myEmailPassword);

        // 6. 发送邮件, 发到所有的收件地址, message.getAllRecipients() 获取到的是在创建邮件对象时添加的所有收件人, 抄送人, 密送人
        transport.sendMessage(message, message.getAllRecipients());

        // 7. 关闭连接
        transport.close();
    }

    /**
     * 创建一封只包含文本的简单邮件
     *
     * @param session 和服务器交互的会话
     * @param sendMail 发件人邮箱
     * @param receiveMail 收件人邮箱
     * @return
     * @throws Exception
     */
    public static MimeMessage createMimeMessage(Session session, String sendMail, String receiveMail) throws Exception {
        // 1. 创建一封邮件
        MimeMessage message = new MimeMessage(session);

        // 2. From: 发件人
        message.setFrom(new InternetAddress(sendMail, "某宝网", "UTF-8"));

        // 3. To: 收件人（可以增加多个收件人、抄送、密送）
        message.setRecipient(MimeMessage.RecipientType.TO, new InternetAddress(receiveMail, "XX用户", "UTF-8"));

        // 4. Subject: 邮件主题
        message.setSubject("打折钜惠", "UTF-8");

        // 5. Content: 邮件正文（可以使用html标签）
        message.setContent("XX用户你好, 今天全场5折, 快来抢购, 错过今天再等一年。。。", "text/html;charset=UTF-8");

        // 6. 设置发件时间
        message.setSentDate(new Date());

        // 7. 保存设置
        message.saveChanges();

        return message;
    }
}

 

 4）运维排除阿里云465端口的问题

我反馈给运维的同学说我的163邮箱没问题，随后他就写了程序测试465端口确实能发出邮件。这样就断定是Azkaban组件的问题，修改了465端口后没有生效。

5）下定决心，编译Azkaban

一想到重新编译软件，感觉要下载很多包，要报很多错误，有很大的挫败感。但是想想，现在也没有其他办法了，试试呗。

6）编译完成，感觉很有收获

没想到Azkaban编译时如此的简单，当编译成功的时候也是下班的时间点，很是激动，那就让我们开始吧。

1.基础环境准备

1）下载源码

因为github下载很慢，所以我再码云上找了一份源码下载的。

[xxx@xxx software]$ git clone https://gitee.com/leechi78/azkaban.git

2）查看该版本azkaban对应的gradle版本为gradle-5.0-all.zip

[xxx@xxx software]$ cd azkaban

[xxx@xxx azkaban]$ cat ./gradle/wrapper/gradle-wrapper.properties

# # Copyright 2018 LinkedIn Corp. # # Licensed under the Apache License, Version 2.0 (the "License"); you may not # use this file except in compliance with the License. You may obtain a copy of # the License at # # http://www.apache.org/licenses/LICENSE-2.0 # # Unless required by applicable law or agreed to in writing, software # distributed under the License is distributed on an "AS IS" BASIS, WITHOUT # WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. See the # License for the specific language governing permissions and limitations under # the License. # distributionBase=GRADLE_USER_HOME distributionPath=wrapper/dists # To change gradle version, use (rather than changing the line below): # ./gradlew wrapper --gradle-version= # # e.g. # ./gradlew wrapper --gradle-version=5.0 # distributionUrl=https\://services.gradle.org/distributions/gradle-5.0-all.zip zipStoreBase=GRADLE_USER_HOME zipStorePath=wrapper/dists

3）下载gradle

wget https://services.gradle.org/distributions/gradle-5.0-all.zip

xxx@xxx wrapper]$ cd /opt/software/azkaban/gradle/wrapper xxx@xxx wrapper]$ cp /opt/software/gradle-5.0-all.zip ./

4）解压到指定目录

[xxx@xxx software]$ unzip -o gradle-5.0-all.zip -d /opt/module/

5）配置环境变量

[xxx@xxx ~]$ sudo vim /etc/profile.d/my_env.sh

添加

# GRADLE_USER_HOME export GRADLE_USER_HOME=/opt/module/gradle-5.0 export PATH=$PATH:$GRADLE_USER_HOME/bin

使配置生效

[xxx@xxx ~]$ source /etc/profile

2.修改配置文件

1）修改配置文件 gradle-wrapper.properties 中的 distributionUrl 属性，指明使用本地的 gradle

[sonkwo@sonkwo-bj-data001 azkaban]$

vim ./gradle/wrapper/gradle-wrapper.properties

distributionUrl=distributionUrl=gradle-5.0-all.zip zipStoreBase=GRADLE_USER_HOME

2）若未安装Git，则安装；否则，免安装。

[xxx@xxx software]$ yum install git

3）在 azkaban-common/src/main/java/azkaban/utils/EmailMessage.java中的sendEmail()方法里，加入如下代码：

[xxx@xxx azkaban]$ vim azkaban-common/src/main/java/azkaban/utils/EmailMessage.java

Security.addProvider(new com.sun.net.ssl.internal.ssl.Provider()); final String SSL_FACTORY = "javax.net.ssl.SSLSocketFactory"; props.setProperty("mail.smtp.socketFactory.class", SSL_FACTORY); props.setProperty("mail.smtp.socketFactory.fallback", "false"); props.setProperty("mail.smtp.socketFactory.port", "465");

[xxx@xxx azkaban]$ vim azkaban-common/src/main/java/azkaban/jobExecutor/ProcessJob.java

3.编译

1）开始编译

[xxx@xxx azkaban]$ ./gradlew build installDist -x test

2）编译报错

[xxx@xxx azkaban]$ ./gradlew build installDist -x test Downloading file:/opt/software/azkaban/gradle/wrapper/gradle-5.0-all.zip ........................................................................................................................... Unzipping /opt/module/gradle-5.0/wrapper/dists/gradle-5.0-all/8subxm1j4sfxdrf9xyahjxjyp/gradle-5.0-all.zip to /opt/module/gradle-5.0/wrapper/dists/gradle-5.0-all/8subxm1j4sfxdrf9xyahjxjyp Set executable permissions for: /opt/module/gradle-5.0/wrapper/dists/gradle-5.0-all/8subxm1j4sfxdrf9xyahjxjyp/gradle-5.0/bin/gradle Welcome to Gradle 5.0! Here are the highlights of this release:  - Kotlin DSL 1.0  - Task timeouts  - Dependency alignment aka BOM support  - Interactive `gradle init` For more details see Gradle 5.0 Release Notes Starting a Gradle Daemon (subsequent builds will be faster) Configuration on demand is an incubating feature. > Task :az-exec-util:linkMainExecutable FAILED > Task :az-core:compileJava Note: Some input files use unchecked or unsafe operations. Note: Recompile with -Xlint:unchecked for details. > Task :azkaban-web-server:restliTemplateGenerator SLF4J: Failed to load class "org.slf4j.impl.StaticLoggerBinder". SLF4J: Defaulting to no-operation (NOP) logger implementation SLF4J: See SLF4J Error Codes for further details. FAILURE: Build failed with an exception. * What went wrong: Execution failed for task ':az-exec-util:linkMainExecutable'. > Could not find Linker 'g++' in system path. * Try: Run with --stacktrace option to get the stack trace. Run with --info or --debug option to get more log output. Run with --scan to get full insights. * Get more help at Gradle | Search for Help with Gradle Deprecated Gradle features were used in this build, making it incompatible with Gradle 6.0. Use '--warning-mode all' to show the individual deprecation warnings. See Command-Line Interface BUILD FAILED in 2m 27s 19 actionable tasks: 19 executed

sudo yum install gcc gcc-c++

2）重新编译

[xxx@xxx azkaban]$ ./gradlew build installDist -x test

4.获取安装包

1）获取azkaban-exec-server.tar.zip安装包

[xxx@xxx distributions]$ cd /opt/software/azkaban/azkaban-exec-server/build/distributions

2）获取azkaban-web-server.tar.zip安装包

[xxx@xxx distributions]$ cd /opt/software/azkaban/azkaban-web-server/build/distributions

3）获取azkaban-db.tar.zip安装包

[xxx@xxx distributions]$ cd /opt/software/azkaban/azkaban-db/build/distributions

5.搭建Azkaban

略

6.测试发送报警邮件

验证完成