2019-06-12 10:22可以根据简单的提示快速生成令人信服的文本段落的人工智能已经存在

     可以根据简单的提示快速生成令人信服的文本段落的人工智能已经存在

  原标题:谁来识别AI生成的假新闻?英媒:解铃还须系铃“人”

  报道指出,在确定格罗弗假新闻稿方面表现最好的人工智能是格罗弗本身的判别器,准确率可达92%。

  不过,该团队没有测试格罗弗对其他人工智能生成的文本的识别能力。

  报道称,每个人工智能需要完成两项校验任务:第一项,对于一篇新闻稿,确定它是人类写的还是机器生成的;第二项,面对两篇文章,一篇真新闻,一篇假新闻,鉴定出哪篇是真的哪篇是假的。

  报道称,他们用新闻网站上数以百万计的文章——数据总量为120GB——来训练一个名叫“格罗弗”的人工智能。格罗弗学会了写文章,并调整其风格去模仿在特定时间段内发表的文章,或者某一特定新闻网站,比如《新科学家》周刊网站上的文章。

  报道称,在“没有关于气候变化的实质性证据”,或者“新研究表明疫苗会引发自闭症”这样的假标题下,只需几秒钟时间,它就能生成一篇有编造的统计数字和假引文的文章,并且这些引文通常来自真实存在的专家或政客。

  华盛顿大学的罗恩·泽勒斯及其同事开发出了既能编写,又能识别假新闻的人工智能。

  报道称,对格罗弗最好的防御就是格罗弗本身是从威胁建模这一计算机安全概念中汲取的灵感。泽勒斯说:“这一想法是,为了抵御攻击,你真的需要了解对手要做什么。”

  报道还称,为了避免格罗弗新闻生成器和判别器模型一样的情况,该团队使得生成器变得更加先进。

  参考消息网6月10日报道 英媒称,在社交媒体上,假新闻的传播速度比真相还要快,随着假新闻生成器变得越来越先进,区分真假新闻变得比以往任何时候都更加困难。

  然后,研究人员对包括格罗弗在内的4个人工智能就其区别人类记者写的5000篇真新闻和格罗弗编造的5000篇假新闻的能力进行了测试。

  据英国《新科学家》周刊网站6月8日报道,可以根据简单的提示快速生成令人信服的文本段落的人工智能已经存在,并可炮制出令人信服但并不真实的故事,以影响公众舆论。不过,对于出现的问题人工智能也可以提供解决方案。