AI视频天生范围迎来巨大升级。由a16z投资的3D和AI视频公司Luma AI今天揭晓名为Ray3 Modify的新模子,初度告竣对现有实拍视频举办高保真AI窜改,同时保存原始戏子演出的精华——无论是转换脚色外观、切换打扮、转换场景,照样天生通畅的过渡镜头,戏子的举动节拍、眼神宗旨和心情外达都取得完善保存。
这一冲破直接手理了创意管事室的核肉痛点:尽量古代AI视频东西能够天生令人印象长远的视觉恶果,但它们往往难以局限细节,导致后期修制中线 Modify通过引入脚色参考图像(character reference image)和开始/遣散帧,告竣了“演出稳定,神情可变”的准确编辑。
全部来说,用户只需供给一段实拍视频和一个标的脚色的图像参考(比如动漫人物、汗青人物或品牌的虚拟代外),Ray3 Modify就能无缝地将戏子的外观转换为新脚色,同时淳厚地保存原始演出——搜罗渺小的面部神情、肢体言语和心情张力。其余,通过设立开始和遣散帧,创作家能够启发AI天生可控的过渡镜头,告竣连贯的举动,如行走、回身和渐渐的神情蜕化,确保场景之间通畅的叙事。
Luma AI笼络创始人兼CEO Amit Jain体现:“天生式视频具有高度的体现力,但经常难以局限。Ray3 Modify将实际全邦与AI创造力相纠合,授予创作家十足的局限权。现正在,团队只需用凡是相机拍摄一次演出,然后行使AI将其安放正在任何联念的场景中——调换打扮、处所,乃至‘从新拍摄’,而无需重修配景或从新选角。”
该模子现已集成到Luma的Dream Machine平台中,供专业创作家行使。动作Runway和Kling等公司的强有力角逐敌手,Luma的此次更新进一步牢固了其正在可控天生视频范围的技艺上风。值得一提的是,AI视频天生公司Runway曾推出Gen-2模子,答允用户通过文本、图像或视频剪辑来天生新的视频内容。
此次揭晓也得益于该公司雄厚的资金赞成:2024年11月,Luma竣事了由沙特阿拉伯主权资产基金旗下AI公司Humain领投的9亿美元融资,此前的股东a16z、Amplify Partners和Matrix Partners也到场了投资。据报道,Luma还预备与Humain正在沙特阿拉伯团结维持一个2GW领域的AI谋划集群,为他日高负载视频天生工作供给本原方法赞成。Luma AI的此举,也反应出AI模子演练对算力的雄伟需求。英伟达(NVIDIA)动作GPU芯片的紧要供应商,其数据核心交易近年来也于是受益。