开源视频发电机正在加热,并为他们的钱提供了封闭的巨兽。
它们更可定制,限制较小,未经审查,甚至可以免费使用,现在制作了高质量的视频,其中三种模型(Wan,Mochi和Hunyuan)排名 所有AI视频发电机的前10名 .
最新的突破是延长视频持续时间超出了典型的几秒钟,两个新模型表明能够生成持久分钟而不是秒的内容。
实际上,本周发布的Skyreels-V2声称它可以产生潜在的无限持续时间的场景,同时始终保持一致性。 FramePack为具有下端硬件的用户提供了创建长视频而无需烧毁PC的能力。
Skyreels-V2:无限视频生成
Skyreels-V2代表了视频生成技术的重大进步,解决了四个关键挑战,这些挑战限制了以前的模型。它描述了它的系统,该系统协同多种AI技术是一种“ 无限长度膜生成模型 .”
该模型通过其开发人员所说的“扩散强迫框架”来实现这一目标,该框架允许无缝扩展视频内容而无需明确的长度约束。
它通过在先前生成的内容的最后框架上进行调节以创建新的细分市场,从而防止了扩展序列上的质量降解。换句话说,该模型着眼于它创建的最终框架是为了确定接下来会发生什么,确保了平稳的过渡和一致的质量。
这是视频发电机倾向于坚持约10秒钟的简短视频的主要原因;任何更长的东西,这一代往往会失去连贯性。
结果令人印象深刻。开发人员和发烧友上传到社交媒体上的视频表明,该模型实际上相当连贯,并且图像不会失去质量。
在整个漫长的场景中,受试者仍然可以识别,并且背景不会扭曲或引入可能损坏现场的文物。
Skyreels-V2结合了几个创新的组件,其中包括一个新的字幕,将通用语言模型的知识与专门的“ shot-Expert”模型相结合,以确保与电影术语的精确对齐。这有助于系统更好地理解和执行专业电影技术。
该系统使用多阶段训练管道,该管道将分辨率从256p逐渐增加到720p,在保持视觉连贯性的同时提供了高质量的结果。对于运动质量(AI视频生成中的持续弱点),该团队实施了专门旨在改善自然运动模式的强化学习。
该模型可以尝试 Skyreels.AI 。用户获得足够的信用来仅生成一个视频;其余的需要每月订阅,起价为每月8美元。
但是,那些愿意在当地运行的人将需要一台神层PC。 “使用1.3B型号生成540p视频需要大约14.7GB的峰值VRAM,而使用14B型号的相同分辨率视频则需要约51.2GB峰值VRAM,”该团队说。 Girub .
FramePack:优先考虑效率
马铃薯PC所有者也可以欢喜。还有一些适合你的东西。
FramePack为Skyreel技术提供了不同的方法,专注于效率,而不仅仅是长度。使用FramePack节点可以以令人印象深刻的速度生成帧(优化时每帧1.5秒),同时仅需要6 GB的VRAM。
“要使用13B型号以30fps(1800帧)生成1分钟的视频(60秒),最小所需的GPU内存为6GB。 Github仓库 .
这种低硬件的要求代表了AI视频技术的潜在民主化,从而使高级一代能力达到了消费级GPU。
framepack的紧凑型型号仅为13亿个参数(与其他型号相比,与其他型号相比,framepack可以在边缘设备上进行部署,并在各行业中采用更广泛的采用。
framepack是 发达 斯坦福大学的研究人员。该团队包括LVMIN Zhang,他在生成AI社区中更名 Liliyasvil ,许多开源资源背后的Dev-Influencer为AI艺术家提供的许多开源资源,例如不同的控制网和IC灯节点,这些节点彻底改变了SD1.5/SDXL时代的图像生成。
FramePack密钥创新是一个巧妙的内存压缩系统,它根据其重要性确定框架的优先级。该系统并没有平等处理所有以前的帧,而是为最近的帧分配了更多的计算资源,同时逐步压缩了较旧的计算资源。
使用Comfyui下的FramePack节点(用于本地生成视频的接口)提供了非常好的结果,尤其是考虑到需要多头的硬件。发烧友已经产生了120秒的一致视频,并以最小的错误击败了SOTA型号,这些模型在用户推动限制并将视频扩展到几秒钟以上时,可提供高质量但严重的降级
FramePacks可通过其官方进行本地安装 GitHub存储库 。该团队强调该项目没有官方网站,并且使用其名称的所有其他URL都是与该项目隶属的骗局网站。
研究人员警告说:“不要向任何网站支付钱或下载文件。”
FramePack的实际好处包括进行小规模训练,由于“较侵略性的调度程序没有较小的极端流动时间段”,在整个长视频中保持一致的视觉质量以及与现有视频扩散模型(如Hunyuanvideo和Wan)的兼容性。
编辑 塞巴斯蒂安·辛克莱(Sebastian Sinclair) 和 乔什·奎特纳(Josh Quittner)
微信里点“发现”,扫一下二维码便可将本篇文章分享至朋友圈
发布者:币下载 转转请注明出处:https://www.binancememe.com/329871.html