阿里开源动作生成模型Wan2.2
9月19日消息,阿里阿里开源全新动作生成模型通义万相Wan2.2-Animate,开源该模型同时支持动画和替换两种模式,动作输入一张角色图片和一段参考视频,生成可将视频角色的模型动作、表情迁移到图片角色中,阿里赋予图片角色动态表现力;同时还可在保留原始视频的开源动作、表情及环境的动作基础上,将视频中的生成角色替换为图片中的角色。该模型支持驱动人物、模型动漫形象和动物照片,阿里可应用于短视频创作、开源舞蹈模板生成、动作动漫制作等领域。生成
去年年初,阿里推出了Animate Anyone模型,基于该模型的「全民舞王」功能一度火爆全网,兵马俑、萌宠跳科目三的视频在社交平台刷屏。但此前的技术框架无法同时控制动作、表情和环境交互,生成的视频依旧存在不自然的问题。
此次,通义万相团队构建了一个涵盖说话、面部表情和身体动作的大规模人物视频数据集,并基于通义万相图生视频模型进行后训练。Wan2.2-Animate将角色信息、环境信息和动作等,规范到一种统一的表示格式,实现了单一模型同时兼容两种推理模式;针对身体运动和脸部表情,分别使用骨骼信号和隐式特征,配合动作重定向模块,实现动作和表情的精准复刻。在替换模式中,团队还设计了一个独立的光照融合LoRA,用于保证完美的光照融合效果。
实测结果显示,Wan2.2-Animate在视频生成质量、主体一致性和感知损失等关键指标上,超越了StableAnimator、LivePortrait等开源模型,是目前性能最强的动作生成模型,在人类主观评测中,Wan2.2-Animate甚至超越了以 Runway Act-two代表的闭源模型。
自今年 2 月以来,通义万相已连续开源20多款模型,在开源社区和三方平台的下载量已超3000万,是开源社区最受欢迎的视频生成模型之一。通义万相模型家族已支持文生图、文生视频、图生视频、人声生视频和动作生成等10多种视觉创作能力。
- ·凤阳县图书馆“家庭爱阅会”绘本活动迎国际奥林匹克日_
- ·2011年全国建材市场趋势之2011市场走向,市场研究
- ·大病医疗险怎么办理?2021大病医疗险怎么办理
- ·云南临沧警方破获特大贩毒案缴毒逾102千克
- ·市交通执法三大队“五个在一线”显成效_
- ·玻璃需求下降受房地产和汽车行业影响,市场研究
- ·过年必玩!“你拼我猜”多人游戏《破烂艺术家》全新试玩现已开启
- ·注意了,注意了,所有经销商关注的产品在这,成都大酒店品饮汇1
- ·《尼尔》系列15周年PV温情回顾 玩家最期待的新作依旧成谜
- ·《地平线》新作遭玩家群嘲 角色太丑玩法无聊!
- ·脑洞科普:风雨究竟能不能“消灭”蚊子?
- ·《生化危机:安魂曲》Amiibo奖励皮肤被批丑出天际
- ·冰花玻璃有什么特点 玻璃怎么染色,行业资讯
- ·百万医疗险价格对比,2021百万医疗险价格对比
- ·信义太阳能拟赴香港上市 集资3亿美元,企业新闻
- ·泉州这段高速路禁行3个月 附车辆改道路线图
