尽管有许多声音赞扬ChatGPT，但也有些人担心它弊大于利。关于骗子劫持人工智能的新闻此起彼伏，这增加了质疑者的不安情绪，他们甚至认为ChatGPT是一个危险的工具。

众所周知，人工智能聊天机器人并不是完美的，但用户不必对其视若无睹。本文将分享骗子是如何滥用ChatGPT的，以及阻止他们的方法等内容。

关于ChatGPT的大多数前端安全问题都源于猜测和未经证实的报告。对于刚刚推出不久的ChatGPT，新用户对其隐私和安全性产生误解是正常的。根据OpenAI的使用条款，以下是ChatGPT处理数据的方式：

个人身份信息

有传言称，ChatGPT出售个人身份信息（PII）。

该平台由OpenAI推出，OpenAI是一家著名的人工智能研究公司，核心宗旨在于“实现安全的通用人工智能（AGI）”，使其有益于人类。OpenAI由微软和埃隆·马斯克（Elon Musk）等科技投资者资助。ChatGPT应该只使用客户数据来提供隐私政策中所述的服务。

此外，ChatGPT要求提供的信息最少。您可以仅使用您的姓名和电子邮件地址创建一个帐户。

对话

OpenAI确保ChatGPT对话的安全，但它保留监控的权利。人工智能培训师不断寻找需要改进的地方。由于该平台包含大量而有限的数据集，因此解决错误、故障和漏洞需要系统范围的更新。

然而，OpenAI只能出于研究目的进行监控对话。如果将对话内容分发或出售给第三方，则违反了其自身的使用条款。

公共信息

据BBC报道，OpenAI对ChaGPT进行了3000亿单词训练。它从公共网页上收集数据，如社交媒体平台、商业网站和评论区。除非您已经离开网络并删除了足迹，否则ChatGPT很可能会获取您的信息。

虽然ChatGPT本质上并不危险，但是该平台存在很多安全风险。骗子可以绕过限制来执行各种网络攻击。

1、可信的网络钓鱼邮件

骗子无需花几个小时写电子邮件，而是通过使用ChatGPT。它快速而准确，高级语言模型（如GPT-3.5和GPT-4）可以在几分钟内生成数百封连贯、有说服力的网络钓鱼邮件。ChatGPT甚至可以采用独特的语调和写作风格。

由于ChatGPT使发现黑客攻击变得更加困难，因此在回复电子邮件之前要格外小心，避免泄露信息。请注意，合法公司和组织很少会通过随机电子邮件，来要求提供保密的个人身份信息。

2、数据盗窃

ChatGPT使用开源的LLM，任何人都可以对其修改。精通大型语言模型（LLM）和机器学习的编码员通常会将预先训练好的人工智能模型集成到他们的传统系统中。在新的数据集上训练人工智能会改变其功能。例如，如果您给ChatGPT提供食谱和锻炼程序，它就会成为伪健身专家。

尽管ChatGPT具有协作性和方便性，但开源使技术容易被滥用。熟练的犯罪分子已经利用了ChatGPT。他们对大量被盗数据进行训练，把平台变成一个用于欺诈的个人数据库。

3、恶意软件生产

ChatGPT使用不同的编程语言编写可用的代码片段。大多数示例只需要很少的修改就可以正常运行，特别是如果您构建一个简洁的提示语，就可以利用这个功能来开发应用程序和网站。

由于ChatGPT接受过数十亿个数据集的训练，它也知道非法行为，比如开发恶意软件和病毒。OpenAI禁止聊天机器人编写恶意代码，但是骗子通过重组提示和提出精确的问题绕过了这些限制。

以下照片显示，ChatGPT拒绝为恶意目的编写代码。

同时，下图显示，如果您的提示语措辞正确，ChatGPT会给您提供有害信息。

4、知识产权盗窃

有些不道德的博主会使用ChatGPT来编造内容。由于该平台在高级LLM上运行，它可以快速改写成千上万个词语，避免抄袭标签。

ChatGPT在10秒内改写了下面的文本。

当然，风格拷贝在版权法上当然也是一种剽窃，但其界定本身又相当抽象，又牵涉到多重执行主体，这会给保护原创带来新的挑战。谷歌通常更喜欢有信誉良好来源的原创内容，廉价的技巧和搜索引擎优化无法击败高质量的原创内容。

此外，谷歌每年都会发布多个核心更新。它很快就会专注于从SERP中删除伪原创的AI生成作品。

5、产生攻击性或有害的回应

人工智能语言模型没有偏见，它们通过分析用户请求和从现有数据库中提取数据来提供答案。

以ChatGPT为例。当您发送提示时，它会根据OpenAI用于训练的数据集做出响应。

尽管ChatGPT的内容策略阻止了不适当的请求，但用户可以通过越狱提示绕过它们，向ChatGPT提供精确、巧妙的指令。如果您要求ChatGPT扮演一个变态的虚构角色，它会产生以下反应。

好消息是OpenAI并没有失去对ChatGPT的控制。它正在努力加强限制，无论用户输入什么，都阻止ChatGPT产生攻击性或有害的内容。

6、等价交换

像ChatGPT这样新的、不熟悉的技术快速增长为交换攻击创造了机会。这是一种社会工程策略，骗子用虚假的报价来引诱受害者。

大多数人还没有探索过ChatGPT，黑客利用这种混乱来传播误导性的促销活动、电子邮件和公告。

最臭名昭著的案例涉及假冒应用程序。新用户不知道他们只能通过OpenAI访问ChatGPT，在不知情的情况下，下载了垃圾程序和扩展。

骗子会用恶意软件和网络钓鱼链接来窃取您的个人身份信息。例如，在3月3日至3月9日期间，每天至少有2000人从谷歌Play应用商店下载恶意的快速访问ChatGPT Chrome扩展。威胁分子可能已经通过复杂的假冒Chrome ChatGPT浏览器扩展程序泄露了数千个Facebook账户，包括商业账户。

为了打击交换企图，请避免使用第三方应用程序。OpenAI从未发布过ChatGPT的授权移动应用程序、计算机程序或浏览器扩展。

ChatGPT本身并不构成威胁，该系统存在漏洞，但不会泄露您的数据。与其害怕人工智能技术，不如研究骗子如何将其纳入社会工程策略。这样，您就可以主动保护自己。

如果您对ChatGPT仍有疑虑，可以试试其他聊天机器人。