最近学习部署的时候,想到深度学习里面通常用的部署方法是flask
做服务端,然后使用nginx
做负载均衡,貌似也能做内网穿透。不过我不太懂负载均衡,只想利用本地电脑搭建一个简单的服务器,实现外部调用API服务的功能。所以本文会介绍到的内容有:
flask
服务端与客户端的通信ngrok
简单地做内网穿透,使得非同一个局域网的电脑能够通过公网IP访问服务国际惯例,参考博客:
flask官方文档
ngrok官方入口
ngrok的官方文档
Flask
服务端和客户端基于flask
写一个上传文件的功能,不管你传输的是图像还是文字,都可以用这个代码接收,然后处理完毕再返回一些信息,比如深度学习的预测结果或者状态信息之类的。
本博客不介绍flask
的使用方法,可以去flask官方快速入门章节看到非常详细的教程。
仿照flask官方上传文件的例子,直接写如下内容:
@app.route('/upload',methods=['POST'],strict_slashes=False)
def api_upload():
file_dir=os.path.join(basedir,app.config['UPLOAD_FOLDER'])
if not os.path.exists(file_dir):
os.makedirs(file_dir)
f=request.files["myfile"] # 从表单的myfile字段获取文件,myfile为该表单的name值
fname = request.form["name"]
if f and allowed_file(fname): # 判断是否是允许上传的文件类型
f.save(os.path.join(file_dir,fname)) #保存文件到upload目录
print(url_for('uploaded_file',filename=fname))
return jsonify({
"succeed":'True',"msg":"upload succeed"})
else:
return jsonify({
"succeed":'False',"msg":"upload failed"})
这里的操作是:
/upload
访问此服务【注】
额外说一句,有时候我们要修改函数内容,就不得不重启服务,但是如果我们使用
app.run(debug=True,host='0.0.0.0',port=5555)
将debug
设置为True
,就可以不用重启服务,每次修改保存完毕后,服务会自动重启。
有时候会出现一句话:
WARNING: This is a development server. Do not use it in a production deployment.
Use a production WSGI server instead.
改成:
serve(app, host="0.0.0.0", port=5555) #product
就没有这个warning
了
官方新建了一个html
作为服务端,我们也可以使用python
写一个客户端
实现的功能就是:
如果想要访问你的服务的人和你在同一个局域网,可以通过ipconfig
先看看自己的ip
地址,以下内容均假设我的是192.168.3.10
这样就在服务端写一个html
的入口,用户访问这个端口的时候,显示一个上传界面,然后进行通信
@app.route('/test/upload')
def upload_test():
return render_template('upload.html')
但是需要注意,这个html
存在一个名为templates
文件夹中
<form id="form1" method="post" action="/upload" enctype="multipart/form-data">
<div>
<input id="File1" type="file" name="myfile"/>
<input id="name" type="text" name="name"/>
<input type="submit">提交input>
div>
form>
打开服务端以后,直接在电脑上输入http://192.168.3.10:5555/test/upload
就可以进入传输界面
基本就是POST
通信方法
def upload_file(file_path):
file_bin = open(file_path,'rb').read()
upload_content = {
"myfile":file_bin}
upload_name = {
"name":os.path.basename(file_path)}
r = requests.post(REST_API_URL,data=upload_name,files=upload_content).json()
if(r['succeed']):
print("success")
else:
print("failed")
这里有一个REST_API_URL
参数,代表的是访问服务器的地址、端口、入口,所以本文的
REST_API_URL = 'http://192.168.3.10:5555/upload'
ngrok
内网穿透有时候用户和你不在同一个局域网是无法通过上述ip访问到你的服务的(如果用"0.0.0.0"可以让用户访问你的服务,则无需穿透),所以需要将内网提供服务的端口映射到外网,网上有很多内网穿透的工具和教程,我只是Google
了一下ngrok
,然后进入第一个网址,看着像官方的,然后引入眼帘的就是这样一张图
就是这么简单,直接去下载你电脑对应的可执行文件,然后直接输入
ngrok http 5555
pause
这就是将内网的5555
端口映射到了http://48a7fd5eedbb.ngrok.io
,比如上面的那个html
网页,我们可以通过任意一台联网电脑访问,访问地址为
http://48a7fd5eedbb.ngrok.io/test/upload
做算法的,能简单的快速验证提供API能力就行啦,至于什么服务分发,交给开发折腾就行。我问了一下身边的大佬,虽然网上说nginx
可以做服务穿透,但是它经常用于服务分发,比如有100个用户访问同时同一个服务,部署在一台电脑上可能会炸了,或者造成等待,那么我们可以通过nginx
把这些请求分发到不同服务器上去计算。后续有时间再研究。
完整的python
脚本实现放在微信公众号的简介中描述的github中,有兴趣可以去找找,同时文章也同步到微信公众号中,有疑问或者兴趣欢迎公众号私信。