OpenAI推出了其语言模型最新版本 可以制造令人恐惧的假新闻

六个月前,主要从事人工智能领域研究和开发的OpenAI公司推出了一种预测性语言模型,称为GPT-2,它可以产生令人恐惧的假新闻。今天,该公司推出了该模型的下一个版本,同时进行了一项研究,调查其影响,并描述了分阶段推出语言处理模型背后的基本根据。

详细说来,GPT-2是一种训练有效算法的模型,该算法旨在通过给定一系列单词的情况下,来制作出色的假新闻。例如,输入字符串:“俄罗斯在唐纳德特朗普意外地。。。之后,宣布对美国发动战争”该算法产生了以下假新闻:

“在唐纳德·特朗普意外地向空中发射导弹后,俄罗斯向美国宣战。俄罗斯表示,已确定了导弹的弹道,并将采取必要措施,确保俄罗斯人民和该国战略核力量安全。白宫表示,它非常关注俄罗斯违反禁止中程弹道导弹条约。自2014年莫斯科吞并乌克兰克里米亚地区并支持乌克兰东部的分离主义分子以来,美国和俄罗斯的关系一直不稳定。”

尽管OpenAI今年年初早些时候担心由于存在创造虚假新闻的风险而不会发布预测性语言模型,但几个月之后,该公司过渡到了分阶段发布GPT-2。根据这个策略,每个发布的版本将建立在前一个版本的大小和规模的基础上,最终导致完整的GPT-2的发布。在新版本中,现有的GPT-2规模和功能是最终版本的一半。

除了这个模型,OpenAI的政策团队还发布了由Irene Solaiman领导的一个研究小组进行的研究,该研究小组正在研究GPT-2等语言处理模型的发布策略,社会影响和滥用案例。该研究发现,被测试的读者错误地将虚假新闻误认为真正的新闻,对它的平均信任与对“纽约时报”文章的信任程度相同。虽然在研究期间未发现模型的恶意使用,但研究人员确定了语言处理模型的潜在用例,例如代码自动完成和语法帮助等。

我来评几句
登录后评论

已发表评论数()

相关站点

+订阅
热门文章