让照片开口讲话,让视频人物对口型

代码地址:https://github.com/Rudrabha/Wav2Lip
我用的python版本是3.10

1. 安装ffmpeg
windows:https://www.gyan.dev/ffmpeg/builds/ffmpeg-git-full.7z解压后bin目录添加到环境变量。
Ubuntu:apt-get install ffmpeg
2. 安装依赖

 pip install -r requirements.txt

直接安装,使用cpu处理音视频文件,处理速度较慢
或者(有显卡的)删除requirements.txt里面的torch、torchvision,从https://pytorch.org/get-started/locally下载gpu版本
让照片开口讲话,让视频人物对口型_第1张图片
让照片开口讲话,让视频人物对口型_第2张图片
执行命令

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu117

3. 下载人脸切割处理模型

下载https://www.adrianbulat.com/downloads/python-fan/s3fd-619a316812.pth放入Wav2Lip-master\face_detection\detection\sfd目录并且重命名为s3fd.pth
让照片开口讲话,让视频人物对口型_第3张图片

4. 下载权重模型
点此下载权重文件放入项目根目录
让照片开口讲话,让视频人物对口型_第4张图片

5. 准备一张人物照片或者人物视频(人脸清晰),一个音频(视频)文件
让照片开口讲话,让视频人物对口型_第5张图片

python inference.py --checkpoint_path wav2lip_gan.pth --face video.mp4 --audio audio.mp3

结果在results文件夹中
让照片开口讲话,让视频人物对口型_第6张图片

6. 看效果
图片效果:


视频效果(视频经过其他处理):

你可能感兴趣的:(python,语音识别,人工智能,图像处理)