Customize Consent Preferences

We use cookies to help you navigate efficiently and perform certain functions. You will find detailed information about all cookies under each consent category below.

The cookies that are categorized as "Necessary" are stored on your browser as they are essential for enabling the basic functionalities of the site. ... 

Always Active

Necessary cookies are required to enable the basic features of this site, such as providing secure log-in or adjusting your consent preferences. These cookies do not store any personally identifiable data.

No cookies to display.

Functional cookies help perform certain functionalities like sharing the content of the website on social media platforms, collecting feedback, and other third-party features.

No cookies to display.

Analytical cookies are used to understand how visitors interact with the website. These cookies help provide information on metrics such as the number of visitors, bounce rate, traffic source, etc.

No cookies to display.

Performance cookies are used to understand and analyze the key performance indexes of the website which helps in delivering a better user experience for the visitors.

No cookies to display.

Advertisement cookies are used to provide visitors with customized advertisements based on the pages you visited previously and to analyze the effectiveness of the ad campaigns.

No cookies to display.

NEWS 新闻NEWS 新闻
0

北京—— 在人工智能技术日新月异的今天,视频生成领域再次迎来突破。中国人工智能公司阶跃星辰(StepFun)近日开源了其研发的图生视频模型Step-Video-TI2V,这款拥有300亿参数的模型,能够根据用户提供的图像和文本描述,生成最长102帧的视频,为AI视频创作开启了新的可能性。

技术解析:深度压缩与Transformer架构的融合

Step-Video-TI2V的核心在于其深度压缩的变分自编码器(Video-VAE)和基于扩散的Transformer(DiT)架构。Video-VAE实现了16×16的空间压缩和8×的时间压缩,显著降低了视频生成任务的计算复杂度,同时保持了优异的视频重建质量。DiT架构则通过Flow Matching训练方法,将输入噪声逐步去噪为潜在帧,并利用文本嵌入和时间步作为条件因子,从而生成具有强烈运动动态和高美学质量的视频。

“这种架构的创新之处在于,它能够有效地分离高低频信息,从而优化视频生成的效果。”一位不愿透露姓名的AI专家表示,“深度压缩降低了计算成本,而Transformer架构则保证了视频的质量和动态性。”

功能亮点:动态可控,运镜自如

Step-Video-TI2V不仅能够生成高质量的视频,还提供了丰富的可控参数,让用户能够根据自己的需求调整视频的动态性和运镜方式。用户可以通过设置运动分数(motion score)来平衡视频的动态性和稳定性。例如,运动分数为2时,视频更稳定但动态性较差;运动分数为10或20时,视频的动态性更强。

此外,Step-Video-TI2V还支持多种运镜方式,包括固定镜头、上下左右移动、上下左右摇、放大缩小、推进拉远、旋转、环绕以及焦点转移等,能够生成类似电影级别的复杂运镜效果,满足专业创作需求。

应用场景:从动画制作到产品展示

Step-Video-TI2V的应用场景非常广泛,涵盖了动画制作、短视频制作、动作教学、特效制作和产品展示等多个领域。

  • 动画制作: Step-Video-TI2V特别擅长生成动漫风格的视频,能根据输入的图片和文本描述生成流畅的动画。
  • 短视频制作: 模型支持多种运镜方式,能生成具有电影级效果的短视频。
  • 动作教学: Step-Video-TI2V可以生成复杂动态场景,如体育动作教学、舞蹈教学等。
  • 特效制作: 模型能生成具有美感和真实感的视频,适用于电影、电视剧和游戏中的特效制作。
  • 产品展示: Step-Video-TI2V可以生成吸引人的广告视频,展示产品特点或品牌故事。

开源意义:推动AI视频创作的普及

阶跃星辰选择开源Step-Video-TI2V,无疑将加速AI视频创作的普及。开源意味着更多的开发者和研究者可以参与到模型的改进和优化中来,从而推动AI视频生成技术的不断发展。

“开源是推动技术进步的重要方式。”一位资深AI从业者表示,“通过开源,Step-Video-TI2V可以吸引全球的开发者和研究者,共同推动AI视频创作的发展。”

未来展望:特效生成与多语言支持

Step-Video-TI2V目前已经初步具备特效生成能力,未来将通过技术优化进一步提升特效生成效果。此外,模型还配备了双语文本编码器,支持中英文提示输入,方便不同语言背景的用户使用。

阶跃星辰表示,未来将继续投入研发,不断提升Step-Video-TI2V的性能和功能,为用户提供更加便捷和高效的AI视频创作工具。

项目地址:

结论:

Step-Video-TI2V的开源,标志着AI视频创作领域迈出了重要一步。凭借其先进的技术架构、丰富的功能和广泛的应用场景,Step-Video-TI2V有望成为AI视频创作领域的一款重要工具,推动AI视频创作的普及和发展。

参考文献:

  • 阶跃星辰官方网站
  • Step-Video-TI2V Github仓库
  • Step-Video-TI2V HuggingFace模型库
  • Step-Video-TI2V arXiv技术论文


>>> Read more <<<

Views: 0

0

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注