No menu items!

    OpenAI:中俄等组织以AI技术 试图操纵全球舆论

    OpenAI示意图。(美联社)

    ChatGPT开发商OpenAI 30日表示,过去3个月,OpenAI已破坏5起秘密影响力行动,这些行动试图利用OpenAI的人工智能(AI)技术操纵世界各地舆论和影响地缘政治。

    法新社报导,OpenAI在一篇博客文章中表示,被破坏的活动源自俄罗斯、中国、伊朗和一家位于以色列的私人公司。

    威胁发动者试图利用OpenAI强大的语言模型,进行生成评论、文章、社群媒体个人档案以及调试机器人和网站代码等任务。

    OpenAI首席执行官阿特曼(Sam Altman)表示,这些行动「似乎并未因我们的服务,而显著增加受众参与度或扩大受众」。

    OpenAI等公司正受到密切关注,因为各界担心ChatGPT或图片生成工具Dall-E等应用程序可能会在几秒钟内大量生成欺骗性内容。

    在全球各地即将举行重大选举之下,俄罗斯、中国和伊朗等国家在投票日前,利用秘密社群媒体行动加剧紧张局势,这一点尤其令人担忧。

    其中一个行动叫做「文法错误」(Bad Grammar),是先前俄罗斯针对乌克兰、摩尔多瓦、波罗的海国家和美国的未报告行动。这项行动使用OpenAI模型和工具,在Telegram用俄语和英语撰写简短的政治评论。

    另外,俄罗斯「分身」(Doppelganger)行动则利用AI在社群媒体X等平台上,撰写英语、法语、德语、意大利语和波兰语等语言的评论。

    OpenAI也阻止了中国的「垃圾伪军」(Spamouflage)影响力行动,此行动滥用OpenAI模型来研究社群媒体上的活动、并用多种语言撰写贴文以及调试网站代码。

    热点

    发表评论