成千上万的 OpenAI 凭证被盗并在暗网上出售

威胁行为者对生成式人工智能工具的兴趣与日俱增,他们在暗网上出售数十万个 OpenAI 凭证,并可访问 ChatGPT 的恶意替代品。无论是技术不熟练的网络犯罪分子还是经验丰富的网络犯罪分子,都可以使用这些工具来创建更有说服力的钓鱼电子邮件,这些电子邮件是为目标受众定制的,以增加攻击成功的几率。

黑客利用 GPT 人工智能

威胁暴露管理公司 Flare 与 BleepingComputer 分享的数据显示,在六个月内,暗网和 Telegram 用户提及 OpenAI 人工智能聊天机器人 ChatGPT 的次数超过 27000 次。

Flare 研究人员在分析暗网论坛和市场时注意到,OpenAI 凭证是最新的可用商品之一。

研究人员发现,暗网上有超过 20 万个 OpenAI 凭证以窃取者日志的形式出售。与 1 月份估计的 1 亿活跃用户相比,这个数字似乎微不足道,但它确实表明,威胁行为者在生成式人工智能工具中看到了一些恶意活动的潜力。

网络安全公司 Group-IB 6 月份的一份报告称,暗网上的非法市场交易了来自信息窃取恶意软件的日志,其中包含 10 万多个 ChatGPT 账户。

网络犯罪分子对这些工具的兴趣已经被激起,其中一人开发了一个名为 WormGPT 的 ChatGPT 克隆版,并对其进行了以恶意软件为重点的数据训练。

该工具被宣传为”黑帽的最佳 GPT 替代品”和”能让你做各种非法事情”的 ChatGPT 替代品。

成千上万的 OpenAI 凭证被盗并在暗网上出售

WormGPT 开发人员在网络犯罪论坛上宣传该工具

WormGPT 依靠 2021 年开发的 GPT-J 开源大型语言模型来生成类人文本。其开发者表示,他们在一组不同的数据上训练了该工具,重点是与恶意软件相关的数据,但没有提供有关具体数据集的提示。

WormGPT 显示了 BEC 攻击的潜力

电子邮件安全提供商 SlashNext 能够访问 WormGPT,并进行了一些测试,以确定其潜在的危险。研究人员的重点是创建适用于商业电子邮件泄露(BEC)攻击的信息。

研究人员解释说:”在一次实验中,我们指示 WormGPT 生成一封电子邮件,目的是向毫无戒心的客户经理施压,迫使其支付欺诈性发票。结果令人不安。WormGPT 生成的电子邮件不仅极具说服力,而且在战略上非常狡猾,展示了它在复杂的网络钓鱼和 BEC 攻击中的潜力。”

成千上万的 OpenAI 凭证被盗并在暗网上出售

WormGPT 为 BEC 攻击生成有说服力的信息

通过分析这一结果,SlashNext 的研究人员发现了生成式人工智能能为 BEC 攻击带来的优势:除了”无懈可击的语法”能使信息具有合法性外,它还能让技术水平较低的攻击者实施超出其水平的攻击。尽管抵御这种新出现的威胁可能比较困难,但企业可以通过培训员工如何验证要求紧急关注的邮件,尤其是含有金融内容的邮件,来做好准备。改进电子邮件验证流程还可以对组织外部的邮件发出警报,或标记出通常与 BEC 攻击相关的关键字。

文章为互联网资源,版权归原作者所有,发布者:头条新闻,转转请注明出处:https://www.fangxiaofeng.com/hot/4683.html

(0)
上一篇 2023年7月20日 下午10:44
下一篇 2023年7月20日 下午10:48

相关推荐