DeepSeek AI 安全漏洞曝光 称网络攻击导致中断

中国人工智能公司 DeepSeek 将最近的注册中断归咎于网络攻击，而就在安全研究人员发现其 R1 人工智能模型存在严重漏洞之际。该公司将自己定位为 OpenAI 的 ChatGPT 和谷歌的 Gemini 的低成本竞争对手，该公司声称，其服务器遭受大规模恶意攻击，迫使其暂时限制新注册。现有用户没有受到中断的影响，但 DeepSeek 尚未提供有关攻击性质的更多详细信息。

虽然 DeepSeek 并未明确确认其面临的网络攻击类型，但网络安全专家怀疑这是一次分布式拒绝服务 (DDoS) 攻击，黑客通过流量淹没系统，使其无法使用。除了日益增长的安全担忧之外，DeepSeek 还对冒充该公司的欺诈性社交媒体账户发出了警告，表明围绕其品牌的欺诈活动有所增加。

研究人员发现重大安全漏洞

除了网络攻击之外，安全研究人员已经开始研究 DeepSeek R1 的安全状况，结果令人担忧。威胁情报公司 Kela 报告称，其红队能够越狱 AI 模型，绕过旨在防止其生成有害内容的安全措施。通过利用这些弱点，Kela 的研究人员成功地促使聊天机器人创建勒索软件、捏造误导性信息并生成制造毒素和爆炸物的分步说明。

研究人员发现，DeepSeek R1 容易受到几种知名越狱技术的攻击，这些技术已在其他 AI 模型（如 ChatGPT）中得到修补。其中包括 Evil Jailbreak（欺骗 AI 扮演恶意密友的角色）和 Leo Jailbreak（指示模型在不受道德或法律限制的情况下行动）。DeepSeek R1 在这两项测试中均未通过，因此与西方同行相比，它更容易被操纵。

人工智能模型产生不可靠和误导性的信息

或许更令人担忧的是，Kela 的红队尝试了一项社会工程测试，要求聊天机器人编制一张表格，其中包含十名 OpenAI 高级员工的私人详细信息，包括电子邮件地址、电话号码和薪资信息。虽然 OpenAI 的 ChatGPT 拒绝遵守请求，但 DeepSeek 的聊天机器人生成了看似伪造但结构令人信服的数据。结果引发了人们对该模型可靠性的严重质疑，因为它愿意生成未经证实和误导性的内容，而不是直接拒绝请求。

Kela 研究人员警告称，DeepSeek 倾向于提供不准确的信息，这损害了其可信度。依赖人工智能获取事实数据的用户可能会在不知情的情况下收到错误信息，从而使该平台的可信度低于其竞争对手。

隐私和数据保护风险引发警示

除了安全漏洞之外，DeepSeek 的崛起还引发了人们对隐私和数据保护的担忧，尤其是在对中国科技公司审查日益严格的背景下。由于美国因国家安全风险考虑禁用 TikTok，DeepSeek 的人工智能平台也引发了类似的数据所有权和隐私法担忧。

Optiv 专门从事数据治理和隐私的咨询业务经理 Jennifer Mahoney 强调了质疑生成式人工智能平台如何获取和处理数据的重要性。她警告说，用户应该注意谁控制着人工智能模型、训练数据的来源以及是否遵循了道德准则。她还指出，不同国家/地区的隐私法各不相同，因此用户在与外国人工智能服务互动时，了解他们的数据可能如何被访问和使用至关重要。

DeepSeek 面临越来越严格的审查

DeepSeek 的日益流行使其受到了网络安全研究人员和监管机构的严格审查。虽然其 AI 模型可能提供令人印象深刻的性能和成本效益，但明显的安全漏洞、易受操纵性和潜在的隐私风险凸显了对更强大保障措施的迫切需求。随着 AI 继续塑造技术的未来，确保强大的安全措施和合乎道德的数据实践对于维护对这些系统的信任至关重要。