新技术或加剧假信息泛滥

　　中评社北京2月17日电／据大公报报导，据《华尔街日报》报导：从去年开始，随着人工智能技术发展，假照片假视频层出不穷，真假难辨，而不法分子利用“深度伪造”（deepfake）进行“换脸换声”的骗案数目也激增。OpenAI推出的AI视频生成工具Sora，大幅降低了视频制作的门槛，无疑进一步增加被滥用风险，例如造成假信息泛滥以及违法内容的广泛传播。

　　OpenAI强调，确保Sora的安全使用是当前测试的关键，即所谓的“红队测试”的对抗性测试。在测试中，专门的测试者会试图使AI工具出现故障、产生不当内容，以便团队做出对应修正。该公司也正在构建专门的工具，以帮助用户侦测误导性内容，例如可以判断视频是否为Sora生成的分类器。OpenAI暂时未开放Sora予普通用户使用。

　　卡内基国际事务伦理委员会高级研究员米歇尔表示，当类似Sora的工具落入心怀不轨的老练者手中时，辨别视频的真假将会变得更加麻烦。“每当功能更强大的新产品发布，其被滥用的可能性就越大。”

　　不过，AI视频或许能给电影制造带来不少惊喜。电影导演和视觉特效专家Michael　Gracey说，AI图像生成技术一年里就取得了如此成就，“一年之后，我们会在哪里？”