-
ゼロショット TTS: 5 秒間のボーカルサンプルを入力すると、即座にテキストから音声に変換されます。
-
数ショット TTS: わずか 1 分間のトレーニングデータでモデルを微調整し、音声の類似性とリアリズムを向上。
-
多言語サポート: 現在、英語、日本語、韓語、粵語、中国語をサポートしています。
-
WebUI ツール: 統合されたツールには、音声伴奏の分離、トレーニングセットの自動セグメンテーション、中国語 ASR、テキストラベリングが含まれ、初心者がトレーニングデータセットと GPT/SoVITS モデルを作成するのを支援します。
デモ動画をチェック！
未見の話者数ショット微調整デモ：
few.shot.fine.tuning.demo.mp4
- Python 3.9, PyTorch 2.0.1, CUDA 11
- Python 3.10.13, PyTorch 2.1.2, CUDA 12.3
- Python 3.9, PyTorch 2.2.2, macOS 14.4.1 (Apple silicon)
- Python 3.9, PyTorch 2.2.2, CPUデバイス
注記: numba==0.56.4 は py<3.11 が必要です
Windows ユーザーの方へ（Windows 10 以降でテスト済み）、統合パッケージをダウンロードし、解凍後に go-webui.bat をダブルクリックすると、GPT-SoVITS-WebUI が起動します。
conda create -n GPTSoVits python=3.9
conda activate GPTSoVits
bash install.sh注：MacでGPUを使用して訓練されたモデルは、他のデバイスで訓練されたモデルと比較して著しく品質が低下するため、当面はCPUを使用して訓練します。
xcode-select --installを実行して、Xcodeコマンドラインツールをインストールします。brew install ffmpegを実行してFFmpegをインストールします。- 上記の手順を完了した後、以下のコマンドを実行してこのプロジェクトをインストールします。
conda create -n GPTSoVits python=3.9
conda activate GPTSoVits
pip install -r requirements.txtconda install ffmpegsudo apt install ffmpeg
sudo apt install libsox-dev
conda install -c conda-forge 'ffmpeg<7'ffmpeg.exe と ffprobe.exe をダウンロードし、GPT-SoVITS のルートディレクトリに置きます。
brew install ffmpegpip install -r requirementx.txt-
イメージのタグについて：コードベースの更新が速く、イメージのパッケージングとテストが遅いため、Docker Hub で現在パッケージされている最新のイメージをご覧になり、ご自身の状況に応じて選択するか、またはご自身のニーズに応じて Dockerfile を使用してローカルで構築してください。
-
環境変数：
is_half：半精度／倍精度の制御。"SSL 抽出"ステップ中に4-cnhubert/5-wav32kディレクトリ内の内容が正しく生成されない場合、通常これが原因です。実際の状況に応じて True または False に調整してください。
-
ボリューム設定：コンテナ内のアプリケーションのルートディレクトリは
/workspaceに設定されます。デフォルトのdocker-compose.yamlには、アップロード／ダウンロードの内容の実例がいくつか記載されています。 -
shm_size：Windows の Docker Desktop のデフォルトの利用可能メモリが小さすぎるため、異常な動作を引き起こす可能性があります。状況に応じて適宜設定してください。 -
deployセクションの GPU に関連する内容は、システムと実際の状況に応じて慎重に設定してください。
docker compose -f "docker-compose.yaml" up -d上記と同様に、実際の状況に基づいて対応するパラメータを変更し、次のコマンドを実行します：
docker run --rm -it --gpus=all --env=is_half=False --volume=G:\GPT-SoVITS-DockerTest\output:/workspace/output --volume=G:\GPT-SoVITS-DockerTest\logs:/workspace/logs --volume=G:\GPT-SoVITS-DockerTest\SoVITS_weights:/workspace/SoVITS_weights --workdir=/workspace -p 9880:9880 -p 9871:9871 -p 9872:9872 -p 9873:9873 -p 9874:9874 --shm-size="16G" -d breakstring/gpt-sovits:xxxxx-
GPT-SoVITS Models から事前訓練済みモデルをダウンロードし、
GPT_SoVITS/pretrained_modelsディレクトリに配置してください。 -
G2PWModel_1.1.zip からモデルをダウンロードし、解凍して
G2PWModelにリネームし、GPT_SoVITS/textディレクトリに配置してください。（中国語TTSのみ） -
UVR5（ボーカル/伴奏分離 & リバーブ除去の追加機能）の場合は、UVR5 Weights からモデルをダウンロードし、
tools/uvr5/uvr5_weightsディレクトリに配置してください。 -
中国語ASR（追加機能）の場合は、Damo ASR Model、Damo VAD Model、および Damo Punc Model からモデルをダウンロードし、
tools/asr/modelsディレクトリに配置してください。 -
英語または日本語のASR（追加機能）の場合は、Faster Whisper Large V3 からモデルをダウンロードし、
tools/asr/modelsディレクトリに配置してください。また、他のモデル は、より少ないディスク容量で同様の効果を持つ可能性があります。
TTS アノテーション .list ファイル形式:
vocal_path|speaker_name|language|text
言語辞書:
- 'zh': 中国語
- 'ja': 日本語
- 'en': 英語
例:
D:\GPT-SoVITS\xxx/xxx.wav|xxx|en|I like playing Genshin.
go-webui.batをダブルクリックするか、go-webui.ps1を使用します。
V1に切り替えたい場合は、go-webui-v1.batをダブルクリックするか、go-webui-v1.ps1を使用してください。
python webui.py <言語(オプション)>V1に切り替えたい場合は
python webui.py v1 <言語(オプション)>またはWebUIで手動でバージョンを切り替えます。
1.音声パスを入力する
2.音声を小さなチャンクに分割する
3.ノイズ除去（オプション）
4.ASR
5.ASR転写を校正する
6.次のタブに移動し、モデルを微調整する
go-webui-v2.batをダブルクリックするか、go-webui-v2.ps1を使用して、1-GPT-SoVITS-TTS/1C-inferenceで推論webuiを開きます。
python GPT_SoVITS/inference_webui.py <言語(オプション)>または
python webui.pyその後、1-GPT-SoVITS-TTS/1C-inferenceで推論webuiを開きます。
新機能:
-
韓国語と広東語をサポート
-
最適化されたテキストフロントエンド
-
事前学習済みモデルが2千時間から5千時間に拡張
-
低品質の参照音声に対する合成品質の向上
V1環境からV2を使用するには:
-
pip install -r requirements.txtを使用していくつかのパッケージを更新 -
最新のコードをgithubからクローン
-
huggingfaceからV2の事前学習モデルをダウンロードし、それらを
GPT_SoVITS\pretrained_models\gsv-v2final-pretrainedに配置中国語V2追加: G2PWModel_1.1.zip（G2PWモデルをダウンロードし、解凍して
G2PWModelにリネームし、GPT_SoVITS/textに配置します）
-
優先度 高:
- 日本語と英語でのローカライズ。
- ユーザーガイド。
- 日本語データセットと英語データセットのファインチューニングトレーニング。
-
機能:
- ゼロショット音声変換（5 秒）／数ショット音声変換（1 分）。
- TTS スピーキングスピードコントロール。
-
TTS の感情コントロールの強化。 - SoVITS トークン入力を語彙の確率分布に変更する実験。
- 英語と日本語のテキストフロントエンドを改善。
- 小型と大型の TTS モデルを開発する。
- Colab のスクリプト。
- トレーニングデータセットを拡張する（2k→10k）。
- より良い sovits ベースモデル（音質向上）
- モデルミックス
コマンド ラインを使用して UVR5 の WebUI を開きます
python tools/uvr5/webui.py "<infer_device>" <is_half> <webui_port_uvr5>
ブラウザを開けない場合は、以下の形式に従って UVR 処理を行ってください。これはオーディオ処理に mdxnet を使用しています。
python mdxnet.py --model --input_root --output_vocal --output_ins --agg_level --format --device --is_half_precision
コマンド ラインを使用してデータセットのオーディオ セグメンテーションを行う方法は次のとおりです。
python audio_slicer.py \
--input_path "<path_to_original_audio_file_or_directory>" \
--output_root "<directory_where_subdivided_audio_clips_will_be_saved>" \
--threshold <volume_threshold> \
--min_length <minimum_duration_of_each_subclip> \
--min_interval <shortest_time_gap_between_adjacent_subclips>
--hop_size <step_size_for_computing_volume_curve>
コマンドラインを使用してデータセット ASR 処理を行う方法です (中国語のみ)
python tools/asr/funasr_asr.py -i <input> -o <output>
ASR処理はFaster_Whisperを通じて実行されます(中国語を除くASRマーキング)
(進行状況バーは表示されません。GPU のパフォーマンスにより時間遅延が発生する可能性があります)
python ./tools/asr/fasterwhisper_asr.py -i <input> -o <output> -l <language> -p <precision>
カスタムリストの保存パスが有効になっています
特に以下のプロジェクトと貢献者に感謝します：
@Naozumi520 さん、広東語のトレーニングセットの提供と、広東語に関する知識のご指導をいただき、感謝申し上げます。