Opus 5.5 and LTX-2.3 enable multi-person lip sync in turn
A Japanese creator used Opus 5.5 with LTX-2.3 and other tools through over 200 iterations to make a lip-sync video where selected people in a three-person photo speak in turn.
ついに待望の「複数人の同時リップシンク」ができました。3人写った1枚の画像と各音声から、誰が喋るか順に指定して3人で会話させることができます。 1人の画像と音声でリップシンクするのは簡単なのですが、2〜3人が写った画像で狙ったキャラだけ指定の音声でとっかえひっかえ順番に喋らせるのはかなり難しい。Seedance 2.5とかなら参照画像や声で制御できますが、会話やポッドキャスト風の掛け合いを作るには少し過剰でコストもきついです。 そこでなんとか安くできないかLTX-2.3でチャレンジし、200回以上トライ&エラーを繰り返しながらOpus 5.5と激論を交わした末、最終的にそこそこの精度でそれを実現できるフローができました。 まだ視線が不自然だったり、顔の一貫性が崩れたりとツッコミどころはありますが、今までのAI生成動画であまり見たことがない結構新しい感じの映像にはなってる気がします。 ツール Opus 5.5 / LTX-2.3 / ElevenLabs v4 / GPT-Image-2.5 / Soniox stt v5 / HyperFrames