生成式AI下一站：文本转视频 技术与道德伦理挑战如影随形

出了生成式AI模型Imagen Video。该公司称，给出一段文本提示，Imagen Video就能生成高清晰视频。该公司还展示了另一款模型Phenaki，目标是在输入文本的基础上，制作出长视频。

《纽约时报》的报道指出，这可能是技术领域的下一个重大事件，其重要性堪比网络浏览器或iphone的诞生。

相关技术亟待改进

不过，也有专家指出，这些AI软件的质量良莠不齐，面临一些技术挑战。

比如，桑萨韦拉生成的“清泉石上流”的视频时长只有4秒，如果细看，会发现画面不太连贯，画质也比较模糊，有时还会出现怪异、扭曲、令人不安的画面。

美国《Vice》杂志网站则在3月28日的报道中，将AI生成的“威尔·史密斯吃意大利面”的视频评为最怪异AI生成视频。在Modelscope生成的视频中，面容扭曲的史密斯看起来更像由他配音的电影《鲨鱼故事》中那条怪异的鱼，他试图将成堆的面条舀进嘴里，从叉子上或手中咀嚼大块意大利面。这是一个噩梦般的定格动画视频，仅由一行无害的文字生成：威尔·史密斯吃意大利面。

DeepMedia.AI是一家美国初创公司，其为美国政府构建数据集，为高精确检测“深度造假”内容提供支持，该公司创始人兼首席执行官瑞杰勒·古普塔4月4日接受媒体采访时指出，目前AI生成的视频存在两个主要的问题：首先，单帧并不完全逼真；其次，帧与帧之间的衔接并不流畅。不过，通过使用越来越多的数据训练，这种技术应能解决这些问题，快速提高和扩展这些文本生成视频系统的能力。

改良后的视频生成系统可加快电影制片人和其他数字艺术家的工作速度。专家认为，他们很快就能在这些系统的加持下，制作出配有音乐和对话、看起来非常专业的微电影。

有专家认为，未来AI生成视频有可能制作出可信且良好的内容，并唤起人类的情感。

“深度造假”值得警惕

这些系统还会成为一种快速制造难以觉察的网络虚假信息的新方式，使人们更难辨别互联网上的真实信息，深度伪造技术目前所带来的问题可能会变得更加严重。

美国麻省理工学院人工智能教授菲利普·伊索拉就表示，如果看到高分辨率的视频，人们很可能会相信它。还有专家指出，随着人工智能语音匹配的出现，以及逐渐拥有改变和创建几乎触手可及的逼真视频的能力，伪造公众人物和普通人的言行可能会造成不可估量的伤害，“潘多拉的魔盒已经打开”。

目前，已有公司在开发检测软件并将其集成到音视频媒体平台上。