就在昨天,谷歌再次爆打OpenAI。
全新发布的Veo 2,实测效果已经被许多人公认“超越Sora”。
作为谷歌最先进的视频生成模型,Veo 2可以更好地理解现实世界物理和运动的细微差别,拥有理解电影摄影语言的能力(如镜头类型和效果),分辨率高达4K。
同时放出的还有Imagen 3图像生成模型和用图像而非文本作为prompt的工具Whisk。
无论是在LLM上,还是在视觉创作上,谷歌正在缩小和OpenAI的差距。
举个栗子,我们用相同的提示“A pair of hands skillfully slicing a ripe tomato on a wooden cutting board”生成一个切西红柿的视频。
在Veo 2中,西红柿不仅会随着刀子的前后移动而移动,并且其横断面清晰可见。切片虽略显厚实,但前后始终保持一致,而且还能正确地叠放起来。
相比之下,Sora不仅照着手指疯狂下刀,而且切了半天的西红柿依然“完好无损”……
Veo 2
Sora
难怪有网友说,在理解物理世界和一致性的能力上,Veo 2已经达到next level。
高达4K的分辨率、大大提升的细节和真实感、人体动作和表情的改善,以及更好的物理建模和时间一致性,都让Veo 2达到了顶级AI视频模型的级别。
在Meta的Movie Gen Bench上,Veo已经可以和Kling、Minimax、Sora掰手腕了
Veo 2强势升级,4K电影级画质
想象一下,只用简单文字描述就能生成高达4K、超长时间的精美视频,Veo 2已经做到了这种颠覆性的创新。
它可以遵循简单和复杂的指令,并在物理模拟过程中展现出令人惊叹的生成质量。
现在,Veo 2可以像电影摄影师一样和我们交流。不必再费力和它讨论技术参数、猜测、标题,只要用习惯的术语说出想要的内容即可。
Veo 2生成的经典追车场景
另外,我们还可以进行更精确的相机控制,比如下图就是根据一个包含第一人称视角、转移焦点的提示生成的视频片段。
可以看到,车内的皮革内饰、车速表等细节做得很好,给人留下了极其深刻的印象。
通过人类评估,Veo 2模型在与几大顶尖视频模型的对比中脱颖而出。
它不仅仅是简单地生成视频,更是对现实世界的物理规律、人类的动作表情等有着极致的理解。
对此,谷歌总结了新模型的三大亮点:
首先是增强的真实感和保真度。相较于其他的AI视频模型,Veo 2在细节、真实感、伪影减少方面得到了显著的改进。
其次是领先的运动能力。Veo 2能以精确的方式生成运动画面,这主要归功于它对物理学的理解和遵循详细指令的能力。
第三个是更强大的相机控制选项。它能精确地理解指令,创建出的视频符合各种拍摄风格、角度、运动效果,以及这些元素的组合。
对于创作者而言,Veo 2就像一个无所不能的AI导演。你可以指定电影类型、镜头风格,甚至是特定的电影技巧,它皆可完美呈现。
比如这位在显微镜前科学家的面部特写。
Prompt:
富有电影感的镜头捕捉了一位身着暗黄色生化防护服的女医生,实验室惨白的荧光灯将她的身影笼罩其中。镜头缓缓推进她的面部特写,细腻的横向推移突显出她眉宇间深深刻画的忧思与焦虑。她专注地俯身于实验台前,目不转睛地透过显微镜观察,手套包裹的双手正谨慎地微调着焦距。
整个场景笼罩在压抑的色调之中,防护服呈现出令人不安的黄色,与实验室冰冷的不锈钢器械相互映衬,无声地诉说着事态的严峻和未知的威胁。在景深的精确控制下,镜头对准她眼中流露的恐惧,完美传达出她肩负的重大压力与责任。
再比如一个从场景中间滑过的低角度追踪镜头。
Prompt:
更令人惊叹的是Veo 2对专业术语的理解。
只需在提示中输入“18mm lens”,Veo 2就得知需要创建广角镜头拍摄出的画面,或在提示中加入“浅景深”(shallow depth of field),它便可模糊背景,突出主体。
不仅如此,Veo 2很少有“幻觉”,比如AI视频中经常会出现的手指问题。
沃顿商学院教授Ethan Mollick实测Sora时发现,水獭在飞机上使用WiFi的画面中,长出了人类的手,非常诡异。
再看看Veo 2生成双手的细节,堪称极致。
当然,Veo 2生成的视频并非没有破绽。
它在创建逼真、充满活力或复杂的视频时,以及在生成复杂的运动场景时,难以保持一致性。
比如下面这位冰上舞者的双腿,在复杂的前进运动中就出现了变形。
滑滑板的男孩在空中翻越时,双腿双手出现了幻影。
在安全性方面,谷歌为Veo 2加入了隐形的SynthID水印,有助于人们一眼就能识别出是AI生成的内容。
目前,Veo 2已经登录VideoFX,预计明年将进军YouTube Shorts等平台,为内容创作者开启全新的可能性。
下面分享了Veo 2更多优秀的demo:
Imagen 3:颜色明亮,构图更精准
今天,备受期待的Imagen 3同时迎来了重大升级。
这次升级的提升堪称革命性。首先是图像的整体质感更加明亮,构图更为精准。
宛如知名漫画师创作的橙发少女、像游戏设定一般宏大的幻想世界、难以分辨是AI还是照片的黑白人像
在艺术风格的表现上,从照片级写实到印象派绘画,从抽象艺术到动漫风格,Imagen 3都能实现更为准确的还原。
其次,它能精准执行用户的提示词指令,呈现出更为细腻的细节和更丰富的纹理效果。
在与其他顶级AI生图模型的对决中,Imagen 3取得了最优的人工评估结果。
Imagen 3生成的图像在所有风格上都可以达到优秀的表现,包括写实主义照片、印象主义、动画和抽象主义。
Prompt:
下面这种冬日雪地中红松鼠的特写,仿佛高清大片,无论是松鼠的皮毛、空中的雪花,还是背景中松针的虚化,都体现出了考究的细节。
Prompt:
在1940年代风格的欧洲火车站,一对恋人深夜在火车前相拥,整个场景让人想起众多电影中的离别场景。
Prompt:
还有用浅景深拍摄的亚洲女子肖像,光影效果一绝。
一幅亚洲女性的肖像,背景是幽绿的霓虹灯光,采用浅景深拍摄。
对于超现实的场景,Imagen 3也能精准把握,比如下面这只草莓蜂鸟。整个图像利用了高分辨率的专业摄影手法,景深控制让蜂鸟和花在虚化的背景中更显生动。
Prompt:
一拖一创,风格任意定
不仅如此,谷歌还推出了一个全新的尝试——生成式AI实验性项目Whisk。
以往,我们都需要输入冗长、详细的文字提示来生成图像,Whisk彻底改变了这一形式,现在只输入图像就可以了。
把图片简单一拖,Whisk就能帮我们创作。
在Whisk中,我们可以通过上传图片,来定义主体、场景和风格,然后将它们重新混合,创造出自己独特的作品,比如数字玩偶、珐琅徽章、精美贴纸。
下面,你会看到想象大开的梦幻鱼、粉色花环海象、糖粉甜甜圈和长角的奇幻生物猫。
为什么用图像的prompt就能生图?
这是因为在系统底层,Gemini模型会自动为我们上传的图片生成详细的文本,随后文本会被输入到Imagen 3中进行处理。
而这一过程绝非简单地复制原图,而是重点提取主题的核心特征,这才能让我们自由组合不同主题、场景和风格元素。
当然,由于Whisk只会提取图像中的几个关键特征,因此生成图像也可能会和我们的预期不同。
你可能也看出来了,Whisk并不像传统的图像编辑器,只进行像素级的完美编辑,而是一种崭新的创意工具,可以让人创造性地探索天马行空的想法。
就如谷歌所说,它的核心价值,是自由尝试各种可能性,在各种创意方式中进行极致的探索,保留下自己最满意的作品。
参考资料:
https://blog.google/technology/google-labs/video-image-generation-update-december-2024/
https://blog.google/technology/google-labs/whisk/