LumaAI发布Ray3Modify:AI视频编辑新突破保留演员表演细节一键换装和场景

AI视频生成领域迎来重大升级。由a16z投资的3D和AI视频公司Luma AI近日发布名为Ray3 Modify的新模型,首次实现对现有实拍视频进行高保真AI修改,同时保留原始演员表演的精髓——无论是改变角色外观、切换服装、转换场景,还是生成流畅的过渡镜头,演员的动作节奏、眼神方向和ued体育官网情感表达都得到完整保留。
这一突破直接解决了创意工作室的核心痛点:尽管传统AI视频工具可以生成令人印象深刻的视觉效果,但它们往往难以控制细节,导致后期制作中线 Modify通过引入角色参考图像(character reference image)和起始/结束帧,实现了“表演不变,表情可变”的精确编辑。
具体来说,用户只需提供一段实拍视频和一个目标角色的图像参考(例如动漫人物、历史人物或品牌的虚拟代表),Ray3 Modify就能无缝地将演员的外观转换为新角色,同时忠实地保留原始表演——包括细微的面部表情、肢体语言和情感张力。此外,通过设置起始和结束帧,创作者可以引导AI生成可控的过渡镜头,实现连贯的动作,如行走、转身和逐渐的表情变化,确保场景之间流畅的叙事。
Luma AI联合创始人兼CEO Amit Jain表示:“生成式视频具有高度的表现力,但通常难以控制。Ray3 Modify将现实世界与AI创造力相结合,赋予创作者完全的控制权。现在,团队只需用普通相机拍摄一次表演,然后使用AI将其放置在任何想象的场景中——更换服装、地点,甚至‘重新拍摄’,而无需重建布景或重新选角。”
该模型现已集成到Luma的Dream Machine平台中,供专业创作者使用。作为Runway和Kling等公司的强有力竞争对手,Luma的此次更新进一步巩固了其在可控生成视频领域的技术优势。值得一提的是,AI视频生成公司Runway曾推出Gen-2模型,允许用户通过文本、图像或视频剪辑来生成新的视频内容。
此次发布也得益于该公司雄厚的资金支持:2024年11月,Luma完成了由沙特阿拉伯主权财富基金旗下AI公司Humain领投的9亿美元融资,此前的股东a16z、Amplify Partners和Matrix Partners也参与了投资。据报道,Luma还计划与Humain在沙特阿拉伯合作建设一个2GW规模的AI计算集群,为未来高负载视频生成任务提供基础设施支持。Luma AI的此举,也反映出AI模型训练对算力的巨大需求。英伟达(NVIDIA)作为GPU芯片的主要供应商,其数据中心业务近年来也因此受益。
