预测的那样,制造出大量令人信服的虚假信息。 (《纽约时报》已起诉OpenAI及其合作伙伴微软,称其侵

预测的那样,制造出大量令人信服的虚假信息。 (《纽约时报》已起诉OpenAI及其合作伙伴微软,称其侵

1浏览次
文章内容:
预测的那样,制造出大量令人信服的虚假信息。 (《纽约时报》已起诉OpenAI及其合作伙伴微软,称其侵
预测的那样,制造出大量令人信服的虚假信息。 (《纽约时报》已起诉OpenAI及其合作伙伴微软,称其侵

社群媒体研究人员表示,OpenAI的报告是一家大型人工智慧公司首次披露其特定工具如何被用于此类在线欺骗。最近,生成式人工智慧的兴起令人们对该技术可能如何助长在线虚假信息产生疑问,尤其是在全球各地都在举行重大选举的年份。

一个影响力活动在Telegram上发布的帖子,OpenAI说,这是利用它的工具生成的。

「这些影响力运作仍然难以吸引受众,」尼莫说。

OpenAI的首席研究员本·尼莫说,在人们纷纷猜测此类活动中使用了生成式人工智慧之后,该公司的目标是展示这项技术如何改变在线欺骗的现实。

「垃圾邮件伪装」长期以来一直被视为中国行动,OpenAI表示,它使用OpenAI技术调试代码,就如何分析社群媒体和研究时事寻求建议。该公司的工具还被用来在社群媒体上发布帖子,贬低中国政府的批评者。

伊朗的活动与一个名为国际虚拟媒体联盟的组织有关,该组织使用OpenAI工具制作和翻译长篇文章和标题,目标是在网上传播亲伊朗、反以色列和反美国的情绪。

OpenAI周四表示,它发现并破坏了五个利用其生成式人工智慧技术,以欺骗方式操纵世界各地公众舆论、影响地缘政治的线上活动。

OpenAI表示,这些政治评论几乎没有得到回覆和「点赞」。这些努力有时也不够成熟。有一次,该活动发布了明显由人工智慧生成的文本。 「作为一个人工智慧语言模型,我在这里提供帮助,并提供所需的评论,」一篇帖子写道。还有几次,它用蹩脚的英语发帖,OpenAI称其为「糟糕的语法」。

「这表明,我们对人工智慧支持的影响力操纵和人工智慧支持的虚假信息的一些最大担忧尚未成为现实,」Graphika首席情报官杰克·斯塔布斯说。 Graphika追踪社群媒体服务的操纵行为,并审查了OpenAI的调查结果。

OpenAI将以色列的活动称为「芝诺芝诺」,称其由一家管理政治活动的公司负责管理。它使用OpenAI技术生成虚构的人物和传记,在以色列、加拿大和美国的社群媒体服务上代替真实的人,并发布反伊斯兰信息。

分类:

游戏新闻

标签:

评估:

    留言

    推荐游戏