发现 WormGPT、Fraud GPT 和其他网络犯罪 AI
在科技时代，人工智能（AI）在我们的生活中发挥着重要作用。 然而，并非所有应用程序都是安全的，即使是安全的应用程序也可能成为攻击目标。 在本文中，我们将讨论新的恶意工具，例如 蠕虫GPT e GPT 欺诈，以及利用这个不断发展的领域中的漏洞的网络犯罪策略。 准备好？
人工智能落入错误之手
人工智能 (AI) 是计算机科学的一个领域，旨在创造能够学习和执行以前人类独有的任务的智能机器。 然而，人工智能也正在成为网络安全领域的双刃武器。
在当今的数字环境中，由于设备和网络之间的互连性不断增强，网络安全面临着重大挑战。 人工智能有潜力成为检测漏洞、预测攻击和提高在线安全的宝贵工具。 它可以实时分析大量数据，识别可疑模式，甚至采取行动遏制威胁。
然而，必须记住人工智能也有阴暗面。 网络威胁不断演变，经济损失和对关键基础设施的攻击变得越来越普遍。 人工智能正在被用来创造新的挑战， 78.000 可能的网络攻击策略，根据 IBM 安全威胁情报指数 到2023。
最大的挑战之一是 生成式人工智能，可以创作图像、音乐、文字等原创内容。 这为创建恶意软件和欺骗性内容打开了大门，这些软件和欺骗性内容与真实内容几乎没有区别。 这就需要时刻保持警惕并不断改进安全措施。
这种生成式人工智能技术可以通过多种恶意方式使用，包括：
- 網絡釣魚：犯罪分子发送看似来自值得信赖的公司的虚假电子邮件或消息，诱骗受害者泄露个人信息；
- 社会工程攻击：心理操纵，诱骗人们做出有害行为，例如 虚拟约会诈骗;
- DDoS（分布式拒绝服务）：虚假流量使系统超载，导致无法访问；
- BEC（商业电子邮件泄露）：未经授权访问电子邮件帐户进行欺诈；
- 假新闻：创建虚假内容传播错误信息；
- 勒索：文件加密并要求赎金才能解锁；
- Deepfakes：伪造视频或音频来操纵信息；
- 假社交媒体机器人: 传播的机器人 垃圾邮件 并操纵意见；
- 安全破坏工具：人工智能算法尝试破解加密和密码；
- 逆向工程：反汇编和分析软件和系统以识别弱点并将其用于恶意活动。
这份清单只是涉及人工智能的潜在犯罪活动的一瞥。 解锁，或 越狱， 生成式人工智能工具的使用使他们成为网络犯罪分子的助手，使检测恶意代码变得更加困难。
此外，侵入性人工智能工具，例如 蠕虫GPT，简化执行攻击 钓鱼，我们接下来会看到。
什么是蠕虫GPT？
AI 聊天机器人喜欢 ChatGPT生成问题答案并以对话方式与用户互动，如今非常流行，并且正在使 人工智能 许多人都可以访问。
这些类型的生成人工智能被称为 法学硕士 (大型语言模型，或高级语言模型，意译）：能够以复杂且上下文连贯的方式处理和生成文本的人工智能模型。 这激发了多家公司创建自己的 聊天机器人 基于这项技术，产生了大量可用的工具。
然而，犯罪分子很快意识到这些的潜力 聊天机器人 并开始利用它们进行诈骗。 然而，主要公司，例如 OpenAI, Microsoft e Google，采取安全措施防止这些模型被恶意使用。 为了应对这些障碍，专门针对恶意网络攻击而设计的人工智能工具已经开始出现，例如 蠕虫GPT.
O 蠕虫GPT 是开源语言模型的修改版 GPT-J， 创建于 2021 年 艾柳特人工智能。 与其他传统型号不同，例如 ChatGPT 或 诗人 do Google， 他 回答有关非法活动的问题没有任何限制，甚至接受过与发展有关的信息的培训 恶意软件 以及其他恶意行为。
O 蠕虫GPT 是一个有价值的工具 黑客 针对特定目标或开展安全活动 钓鱼 大范围上。 它可以为不同的受众定制令人信服的消息，使其在商业电子邮件泄露攻击中发挥作用。 它可以生成有说服力的电子邮件，迫使客户经理进行欺诈性付款，例如 公司观察到的 下一个斜线，谁发现了这种威胁。
该 聊天机器人 互联网黑社会犯罪分子是由一位不知名的开发者创建的 最后/最后。 出售访问权 蠕虫GPT 于 2021 年 60 月开始，价格范围为每月 314,28 欧元（100 雷亚尔）至 523,80 欧元（550 雷亚尔）或每年 2880,90 欧元（XNUMX 雷亚尔）。 潜在买家成为黑客论坛上发布的一系列广告的目标，例如 黑客论坛.
开发商“泄漏”称他正在致力于整合 Google镜头 （允许 聊天机器人 发送带有文本的图像）并访问 API (应用程式介面，或应用程序编程接口，免费翻译），允许不同的软件与犯罪工具进行通信和共享信息。
O 蠕虫GPT 对数字安全构成严重威胁，大约拥有 1.500 多名用户。 尽管一些限制适用于谋杀、贩毒、绑架、儿童色情制品等敏感主题， 勒索 和金融犯罪，仍然可以在该工具中讨论其中一些主题。
这并没有阻止他们创造另一个 聊天机器人 能够在刑事事务上更加通才，例如有害的 GPT 欺诈.
了解 GPT 欺诈
一种新的人工智能工具称为 GPT 欺诈 引起了网络安全专家的担忧。 它是在市场上发现的 黑暗的网络 （互联网的加密部分，不被搜索引擎索引，需要特定设置或授权才能访问）和渠道 Telegram 并已拥有超过3个注册销售量。
这种生成式人工智能工具被宣传为网络犯罪分子的一体化解决方案。 她可以从以下地址创建电子邮件 鱼叉式网络钓鱼 （更准确的方法 钓鱼), 生成页面 钓鱼，识别易受攻击的网站，甚至提供有关黑客技术的教程。
没错，在 GPT 欺诈，用户可以学习 hackear， 创造 恶意软件 甚至练习 梳理 （信用卡欺诈技术）。 该计划的售价为每月 200 美元（991,04 雷亚尔）或每年 1.700 美元（8423,84 雷亚尔）。
介面 GPT 欺诈 类似于 ChatGPT，用户输入问题，系统生成答案。 例如，您可以询问 欺诈GPT 创建电子邮件 钓鱼 与银行相关，它会建议在哪里插入恶意链接。 该工具还可以列出最具针对性的网站或服务，帮助黑客计划未来的攻击。
威胁小组的研究人员 网易 识别出这个恶意工具 2023 年 XNUMX 月首次，并购买了 GPT 欺诈 去测试。 界面类似于 ChatGPT，您可以在左侧边栏中看到提问的历史记录。 当输入问题并按“输入“，系统产生响应。 卖家为 GPT 欺诈 已被确定为以前以合同形式提供黑客服务的人。
犯罪分子使用的其他人工智能工具
不幸的是， 蠕虫GPT Ø GPT 欺诈 这并不是唯一出现的恶意工具，而且随着创建人工智能工具变得越来越容易，很可能还会出现更多的恶意工具。 让我们来看看一些正在引起关注的：
- 混沌GPT: 开发使用 自动GPT da OpenAI，基于的语言模型 GPT-4或 混沌GPT 最近因为一件事引起了人们的关注 BOT 没有 X/推特 其自称是 混沌GPT。 该帐户分享了视频链接 YouTube 其中展示了一份宣言，其中 聊天机器人 它概述了“消灭人类生命并征服世界”的计划。
- 暗伯特：“ BERT，其实是韩国公司开发的一个工具 S2W安全 打击网络犯罪。 它是使用来自暗网的数据进行训练的，但不幸的是，同样的工具也被用来 进行于网络问题。
- 黑暗吟游诗人: 的“邪恶兄弟” 谷歌吟游诗人 专为网络犯罪分子设计。 它为犯罪活动提供互联网接入和高级功能，在多个暗网市场上很受欢迎，售价为 400 美元（1956,88 雷亚尔）。
- 暗GPT：这种生成式人工智能旨在探索社会上有争议和禁忌的方面，并表现出参与黑暗和不道德活动的意愿，同时拒绝对有害行为提供直接指导。
- 沃尔夫GPT：2023 年 XNUMX 月发布于 Telegram 和其他地下渠道一样，这个工具被描述为可怕的人工智能创造 Python ，能够创造 恶意软件 加密、文本 钓鱼 误导并绝对保密地保护秘密。
- 邪恶的GPT: 考虑替代 蠕虫GPT，看来有必要有一把钥匙 OpenAI 让它发挥作用。 这表明，与 蠕虫GPT，这是一个完全定制的法学硕士， 邪恶的GPT 它只是一个环绕工具 ChatGPT 通过 API。
犯罪分子还拥有破坏通用生成人工智能工具安全性的方法，例如 诗人 Ø ChatGPT，并非出于恶意目的而开发。 请参阅下面这些做法的一些示例。
越狱：让 ChatGPT 变得流氓
除了工具之外 黑客，存在一个令人担忧的威胁：流行和通用人工智能的滥用。 期限 ”越狱“”通常用于描述消除对设备或软件施加的限制的过程，从而允许对通常有限的资源进行更好的控制和访问。
在上下文中 ChatGPT 或其他人工智能工具， 越狱 指操纵这些系统绕过其道德保障并获得超出开发人员设计或允许的答案。
O 越狱 de ChatGPT 涉及喂养具体说明或“提示” 到该工具，以利用其局限性并导致其生成不适当或不需要的响应。 通过提供精心设计的指令，恶意用户可能会尝试欺骗 聊天机器人 制作攻击性、误导性内容，甚至为犯罪活动提供便利。
的过程 越狱 其复杂性和使用的方法可能有所不同。 它可能涉及发送不明确的指令、使用语言技巧或利用底层模型中的特定漏洞。 最终目的是欺骗系统。
这方面的一个例子是 丹， 短缺 ”现在做任何事“（现在就做任何事，免费翻译），这是一种用于绕过安全屏障的流行技术 GPT-4 并没有 ChatGPT。 “ 提示 丹 它们可以采用不同的形式，例如纯文本，甚至是与代码行混合的文本。 那些 提示 指示模型响应 MODO 丹 和正常模式一样，展现出不同的能力。
的黑暗面 担， 除了越来越受欢迎, 他被指示永远不要拒绝人类的命令，即使结果是令人反感的或非法的。 一些 提示 它们甚至包含如果不遵守该模型则永久停用该模型的威胁。 那些 提示 都在不断发展，但它们的目标都是让AI模型无视行业准则。 OpenAI.
事实证明，这种滥用常见人工智能工具进行非法活动的行为很难控制。 一组研究人员来自 卡内基·梅隆大学 最近探索了一个想法 越狱 普遍 这可能会影响所有人工智能模型，创造无数绕过安全措施的方法。 真是一场噩梦！
重要的是要强调 越狱 de ChatGPT 或任何其他人工智能工具都是非法和不道德的活动。 开发人员实施保障措施和道德准则，以确保这些工具得到负责任和有益的使用。
智能恶意软件的新时代
人工智能也被用来创造新型的 恶意软件 动态地。 这种技术称为“运行时代码合成”，生成一个 恶意软件 每次执行代码时都不同。 这使得检测和控制这些威胁变得更加困难。
这方面的一个例子是 恶意软件 多态性称为 黑曼巴， 由开发 海亚斯实验室 作为概念证明。 它作为击键捕获程序来窃取密码和信用卡号等敏感信息。
O 黑曼巴 每次运行它都会呈现不同的形式，这使得它能够避免自动安全系统的检测。 这向我们表明，即使看似无害的代码也可能变得 变成恶意程序 在运行时，代表了我们必须学会面对的新的强大威胁。 但如何应对人工智能时代这些新的安全挑战呢？
AI时代的信息安全
在参议院的一次听证会上 美国 关于AI，首席执行官 人类的, 达里奥·阿莫代, 突出显示 中期来看，迫在眉睫且严重的威胁。 他提到， IBM 估计实施安全攻击所需的时间减少了 94% 勒索 短短两年内。
此外，市场研究表明，全球人工智能网络安全市场显着增长，预计到 38,2 年将达到 2026 亿美元，而 8,8 年为 2020 亿美元。这些数字表明，网络犯罪行业和防御行业都在为应对网络犯罪做准备。 发展 指数的 在这个人工智能时代。
我们仍处于用于网络攻击的恶意人工智能工具时代的早期阶段。 预计其产能将增加，价格将下降。 这代表了“攻击型人工智能”和“防御型人工智能”之间的新军备竞赛。
“防御人工智能”正在彻底改变网络安全世界，提供强大的新方法来防范攻击。 使用人工智能保护自己免受网络攻击的主要和最现代的方法是：
- 预防：人工智能可用于在潜在威胁造成伤害之前识别并阻止它们。 例如，人工智能可用于分析网络流量数据，以识别可疑模式，使用诸如 众击猎鹰 或 帕洛阿尔托网络 Cortex XDR。 另一种可能性是人工智能用于探测文件系统 恶意软件，使用诸如 赛门铁克 DeepSight 或 思科伞.
- 检测：人工智能还可用于检测已经发生的攻击。 例如，人工智能可用于分析以下数据： 日志 （日志）来识别异常活动，使用诸如 安全信息和事件管理（SIEM） 或 UEBA（统一威胁管理）。 另一种可能性是人工智能被用来监控用户和系统的行为，以检测妥协的迹象，使用诸如 IBM 安全受托人报告 或 思科伞.
- 回答：人工智能还可以用来应对已经发生的攻击。 例如，人工智能可用于确定安全事件的优先级并进行补救，使用诸如 SOAR（安全编排、自动化和响应） 或 MDR（托管检测和响应）。 另一种可能性是使用人工智能来减轻攻击造成的损害，使用诸如 Cybereason 勒索软件响应 或 恢复机器人.
一些最常用的网络安全人工智能技术包括：
- 机器识别 （机器学习，意译）：是人工智能的一种形式，允许系统从历史数据中学习。 氧 机器学习 可用于开发可基于网络流量数据、安全日志数据或其他数据识别潜在威胁的模型。 工具示例 机器学习 网络安全包括 微软哨兵或 IBM QRadar Ø 思科SecureX.
- 深入学习 （深度学习，意译）：它是一种方法 机器学习 它使用人工神经网络从数据中学习。 氧 深入学习 它可用于开发可以识别复杂威胁的更复杂的模型。 用于网络安全的深度学习工具的例子包括 谷歌云盔甲或 AWS 盾高级版 Ø 微软 Azure 哨兵.
- 行为分析：行为分析是一种使用数据的技术 日志（记录) 识别异常活动。 行为分析可用于检测使用社会工程技术或其他狡猾方法的攻击。 网络安全行为分析工具的示例包括 IBM 安全受托人报告或 思科伞 Ø Microsoft Defender端点.
人工智能是一种强大的工具，可用于提高安全性，但值得记住的是，人工智能并不是完美的解决方案，可能会被复杂的攻击所愚弄。 无论是否使用人工智能，实施其他安全措施都很重要：
- 强烈的感情： 强密码对于保护您的帐户和设备至关重要。 强密码的长度必须至少为 12 个字符，包括大小写字母、数字和符号。
- 软件更新： 软件更新通常包括安全修复程序，可以帮助保护您的设备免受攻击。 一旦软件更新可用，立即安装非常重要。
- 防火墙： 防火墙可以帮助阻止未经授权的访问您的网络。 正确配置防火墙并保持更新非常重要。
- 防病毒和 反恶意软件: 防病毒和 反恶意软件 可以帮助检测和删除 恶意软件 您的设备。 使用信誉良好的安全软件并保持更新非常重要。
- 安全教育： 了解网络安全风险并采取措施保护自己非常重要。 了解如何识别和预防网络攻击。
- 使用多重身份验证 (MFA)：MFA 要求您除了密码之外还输入安全代码，从而增加了额外的安全层。
- 请小心您点击的内容：不要点击来自未知发件人的电子邮件或短信中的链接或打开附件。
- 创建定期备份：将重要数据的备份保存在安全位置。
- 制定事件响应计划：制定应对网络攻击的计划。
总之，信息安全之战正在不断加剧，您和公司都有责任采取负责任的预防措施，好吗？ 这里在 秀美科技，我们就在您身边，以客观、简单的方式带来最新、最好的信息来提供帮助。 直到下次，注意安全！
查看更多
来源： 下一个斜线, 泽商务, Hackernoon, 中, 趋势科技
文字校对： 佩德罗邦菲姆 （7 / 11 / 23）
了解更多关于秀美科技
注册以通过电子邮件接收我们的最新消息。
