使用Python 创建 AI Voice Cover

使用Python 创建 AI Voice Cover_第1张图片

这篇文章提供了使用Python文本到语音库和音频处理库逐步创建歌曲的指南。我们一起为机器赋予声音 —— 使用Python制作AI生成的声音。

介绍

您是否曾经想过,如果您最喜欢的歌曲由机器人演唱会是什么样子?随着人工智能和语音合成的最新进展,现在可以仅使用代码创建听起来逼真的歌声。在本文中,我们将介绍使用Python制作歌曲的 AI Voice Cover 的步骤。

概述

为了生成AI唱歌的声音,我们将将这个过程分为三个关键步骤:

  1. 文本到语音合成 - 将歌词转换为AI声音。

  2. 音频处理 - 处理声音以匹配歌曲。

  3. 混音 - 将AI声音与乐器混合。

我们将专注于使用开源Python库来完成每个任务,而无需从头开始编写整个代码,最终的结果将实现足够好听以通过人耳的AI Voice Cover!

文本到语音合成

第一步是将歌曲的歌词转换为计算机生成的声音演唱的音频剪辑。Python有一些出色的文本到语音库,可以为我们处理这个任务。

Coqui TTS是一个开源的神经文本到语音工具包,提供了用于生成语音的先进深度学习模型。它提供了各种语言和声音的预训练模型,不需要我们进行过多的设置。首先,安装Coqui TTS:

pip install TTS

我们可以加载一个现成模型来合成我们的歌词:

from TTS.api import TTS


model = TTS(model_name="tts_models/en/ljspeech/tacotron2-DDC", progress_bar=False)


lyrics = "Never gonna give you up, never gonna let you down" 


audio = model.tts(lyrics)

tts() 方法可以实现从输入文本生成音频。现在我们有一个AI声音朗读我们的歌词!还有其他好选择,如ESPnet TTS和Mozilla TTS。它们提供了类似的模型架构和预训练声音可供我们选择。

音频处理

虽然我们有一个计算机声音来朗读我们的歌词,但音调是单调的,缺乏表现力。为了使其听起来更自然,我们需要修改音频以匹配原歌曲的音调变化和节奏。CREPE(Crepe:用于音高估计的卷积表示)库可以帮助我们从原歌曲的声音中提取音调。然后,我们可以更改我们的AI声音以跟随该音调进行变化。

首先,让我们加载原歌曲并使用CREPE随时间估计音调:

import crepe


original_vocals, sr = librosa.load("original_song.wav")


_, pitch, _ = crepe.predict(original_vocals, sr=sr, viterbi=True)

接下来,我们将使用类似PyRubberBand的工具来通过改变音调和时间而不改变长度和共振峰来操作我们的AI声音。PyRubberBand封装了Rubber Band,提供了高质量的音高转换和时间拉伸功能。我们可以创建一个RubberBandStretcher对象,并根据从原歌曲中提取的音调值设置pitch_scale:

import rubberband


synth_vocals, sr = model.tts(lyrics)


rubberband = rubberband.RubberBandStretcher(synth_vocals, sr)


for i in range(len(pitch)):
  rubberband.set_pitch_scale(pitch[i])


shifted_vocals = rubberband.stretch()

这将随着时间修改我们合成的声音的音调,以更好地匹配原始演出。一些附加效果,如颤音或共振峰转移,可以进一步提高逼真度。AutoVC库提供了这些功能,使AI语音模仿目标人声更加自然。

混音

最后一步是将处理过的AI声音与原始歌曲的器乐混合。首先,我们需要隔离器乐部分,这可以使用像Spleeter这样的专门工具来在音频文件上执行源分离来完成。

from spleeter.separate import Separator


separator = Separator('spleeter:2stems') 


instrumental = separator.separate(original_song)

然后,我们使用适当的音量平衡将我们的AI封面声音覆盖在上面:

from pydub import AudioSegment


instrumental = AudioSegment.from_wav("instrumental.wav")
ai_vocals = AudioSegment.from_wav("shifted_vocals.wav")


final = instrumental.overlay(ai_vocals)


final.export("ai_cover.wav", format="wav")

现在我们有一个完成的AI Voice Cover可以分享了!声音可能不完美,但通过一些调整,它们可以听起来很像人类声音。

进一步探索

为了进一步处理更复杂的歌曲,一些额外的改进可能包括:

● 合成背景和谐音以伴奏主唱。

● 为更自然的歌声实施颤音和音高滑音。

● 调整模型参数,以更好地适应目标歌手的声音。

● 在合成期间使用神经声码器,如WaveRNN,以获得更好的音频质量。

● 训练自己的自定义TTS模型,而不是使用预训练声音。

借助更先进的深度学习技术,AI唱歌声音的质量不断提高。谁知道,也许在将来,您最喜欢的歌手可能是一台计算机!

结论

生成歌曲的AI Voice Cover版本是一种探索现代语音合成和音频处理工具能力的有趣方式。使用Python库,如Coqui TTS、CREPE和PyRubberBand,我们可以组合成一个完整的工作流程,将歌词转换为逼真的歌声。

尽管还存在一些限制,但质量正在迅速提高。合成声音的应用 - 无论是音乐、播客、有声书还是其他 - 是无穷无尽的。通过一点编码和音频工程,您也可以使计算机具备歌唱的能力!

·  END  ·

HAPPY LIFE

使用Python 创建 AI Voice Cover_第2张图片

本文仅供学习交流使用,如有侵权请联系作者删除

你可能感兴趣的:(python,人工智能,开发语言)