三维场景编辑进入AI文字交互时代

在三维生成被逐渐解决之后,三维编辑已经进入AI时代

December 4, 2023 • 2 min read

by Simon Meng,  See original

由于3D Gaussian Splatting对于场景的还原已经到了一个接近变态的程度,所以最近的paper都开始从文字引导编辑的方向卷了起来。今天来放3个最卷的🐶。

1.GaussianEditor: Swift and Controllable 3D Editing with Gaussian Splatting

https://buaacyw.github.io/gaussian-editor/ (南洋理工+清华+商汤)

支持对Gaussian场进行文字引导的全局迁移、增加或者删减物体,还特别卷地做了个交互式UI界面!已经开源,但是我在ubuntu和windows11上都没有配置成功,都是一样的报错,还要麻烦作者大大们看一下我提交的issue😂

另外,对场编辑的方式貌似还是instruct nerf2nerf的那一套,所以看案例中对场进行整体迁移的时候还是感觉有一些模糊和伪影等,速度上也不能指望能特别快。

2.GaussianEditor: Editing 3D Gaussians Delicately with Text Instructions (是的,卷到重名了……)

https://gaussianeditor.github.io/ (华为,即将开源)

支持文字引导对Gaussian场特定区域文字引导的编辑,感觉用的也还是instruct nerf2nerf的方法,但是因为是先对场中与文字描述内容高相关的区域进行了分割,然后再做编辑,所以提高了速度和稳定性,代价是好像无法对整个场做迁移。

3.Control4D:  Efficient 4D Portrait Editing with Text

https://control4darxiv.github.io/ (清华,即将开源)

这个就更离谱了,不仅是编辑Gaussian场,而且是对4D(动态)Gaussian场做编辑。大概看了下,或是采用了一种称之为GaussianPlanes的4D表示法,通过在3D空间和时间中应用基于平面的分解使高斯Splatting更加结构化,提高了4D编辑中的效率和稳健性。但是看demo都是关于人像编辑的,不知道是否可以用到更大的场景中。

搜索