这个AI能帮女朋友自拍:照片生成3D视频

人工智能
爱自拍的女生,为了拍一张美照总是需要很久,就是为了找到最美的角度。现在可以把选最美角度这件事交给AI了,让妹子不再苦恼。只要几张照片,它能从中生成各种角度的自拍。

  本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。

爱自拍的女生,为了拍一张美照总是需要很久,就是为了找到最美的角度。

比如这位妹子,在自己的书架前拍了4张自拍照,都不太满意。

这个AI能帮女朋友自拍:照片生成3D视频,总有个角度让她满意

现在可以把选最美角度这件事交给AI了,让妹子不再苦恼。只要几张照片,它能从中生成各种角度的自拍。

这个AI能帮女朋友自拍:照片生成3D视频,总有个角度让她满意

然后,你可以在AI生成的视频里,找到一个自认为最美的角度,分享到朋友圈。

这个AI就是华盛顿大学和谷歌联合开发的nerfies

这种方法不需要太复杂的设备,只要智能手机的摄像头和CPU就能完成运算和渲染。这可比iPhone 12 Pro用内置激光雷达来生成3D图像的成本低多了。

这个AI能帮女朋友自拍:照片生成3D视频,总有个角度让她满意

原理

看到nerfies这个名字是不是有种似曾相识的感觉?nerfies其实就是NeRF+Selfies两个单词合并而来。

NeRF(神经辐射场)是谷歌最近开发的一种2D图像转3D的模型,但NeRF要求拍摄对象在整个过程保持完全静止。

比如,上面的妹子在自拍4张照片的时候,头部姿势不可避免地会发生变化,如果直接套用NeRF,效果惨不忍睹。

这个AI能帮女朋友自拍:照片生成3D视频,总有个角度让她满意

而nerfies则是可变性神经辐射场(Deformable NeRF),它能够重建非刚性变形的场景。

在NeRF的基础上,作者从几何和物理模拟的原理出发,提出了NeRF的弹性正则化,进一步提高了2D转3D的鲁棒性。

在可变性NeRF中,作者引入了弹性正则化、背景正则化以及一种可避免不良的局部最小值退火技术。

这个AI能帮女朋友自拍:照片生成3D视频,总有个角度让她满意

作者将潜在变形码(ω)和外观码(ψ)与每个图像关联。在观测帧中对摄像机光线进行追踪,并使用变形场将样本沿光线转换到规范帧,变形场由变形码ω编码为MLP。

另外使用转换后的样本位置(x0,y0,z0)、观察方向(θ,φ)和外观码ψ作为MLP的输入,来查询模板NeRF模块,并沿着光线对样本进行积分。

更多玩法

可变性NeRF不仅可以用于自拍,还有更多好玩的用途。

比如创建“希区柯克变焦”的效果,过去需要专门的摄影技巧,或者是通过由远及近的拍摄视频再后期处理。现在只要几张照片就可以了。

这个AI能帮女朋友自拍:照片生成3D视频,总有个角度让她满意

如果不需要场景角度变化,而是需要人物姿势变化呢?

可变性NeRF能在头向左和向右之间线性插入任意姿势的照片。

这个AI能帮女朋友自拍:照片生成3D视频,总有个角度让她满意

最后还有一个用途是生成防抖视频。既然可变性NeRF可以生成任意角度的图像,那么现在可以让手负责抖,而让它负责稳了。

这个AI能帮女朋友自拍:照片生成3D视频,总有个角度让她满意

目前作者还没有公布源代码,不过他们的项目主页上已经放上了GitHub的按钮,看来他们已经准备开源了。你是不是迫不及待想试一下呢?

项目地址:
https://nerfies.github.io/

论文地址:
https://arxiv.org/abs/2011.12948

 

 

责任编辑:张燕妮 来源: 量子位
相关推荐

2023-07-14 09:41:01

3DAI

2022-05-16 13:46:22

2D3D,AI

2024-03-20 15:51:00

AI数据

2021-08-13 15:07:02

模型人工智能深度学习

2021-03-31 14:59:10

3DAI 人工智能

2019-10-24 09:29:04

程序员程序员节女朋友

2021-09-14 10:11:46

谷歌3D舞蹈生成模型FACT

2024-01-29 06:50:00

3D模型

2023-08-28 00:41:36

研究优化

2012-11-26 12:51:44

木材3D打

2023-01-13 09:28:46

2015-08-26 10:17:29

程序员女朋友

2011-10-06 13:30:45

宏碁投影仪

2023-12-14 12:51:28

LLM3D场景

2022-08-03 13:52:22

AI建筑师

2011-05-26 10:05:07

优派投影机

2024-03-20 00:00:00

StabilityAI开源人工智能

2020-11-08 14:34:31

小视频浏览器

2023-12-07 10:37:55

3D框架AI

2021-05-13 17:57:31

AI 数据人工智能
点赞
收藏

51CTO技术栈公众号