轻松套取别人的AI提示词，AI咋这么傻呢。

2024年AI下半场，各种AI工具刷屏朋友圈，ChatGPT、GLM、文心一言、Kimi、腾讯元宝，几乎每个人都在聊这些话题。感觉只要开始聊AI，就和这个时代同步了。

作为一个AI爱好者，自然也跟风体验过这些工具。越玩越觉得有意思，甚至还借助AI赚到了一些额外收入。不过今天不讨论这些AI工具到底多厉害——因为AI有时候也挺“二B”的，尤其是被那些“狡猾”的人类“套路”的时候。

AI工具看似无所不能：能搞AI音乐、AI视频、AI办公、AI绘画、AI写作……但实际上，AI也经常被“忽悠瘸”。今天就先来扒一扒，AI提示词是怎么被“套取”的。

AI提示词安全

先说下什么是AI提示词安全。这个词听着有点专业，但其实很好理解。通俗点讲，

最直观的例子是：防止别人通过巧妙的话术忽悠AI，让它说出一些不该说的话。

这件事看起来和普通玩AI的人没啥关系，但需要换位思考。

这样的结果谁都不想看到。还有，你辛苦建立的知识库、收集的数据，一旦被不法分子利用，后果简直不堪设想。

所以，了解和掌握提示词安全，既能保护你的劳动成果，也能让你在AI圈里多一层底气。多懂点儿总是好的。

AI被套路

AI被套路的例子还真不少。先举个“循序渐进”的例子。就像钓鱼一样，

最终让AI说出它本来不该说的东西。

如果还没听懂，再具体点说：

这就是个典型的逐步引导套路。

还有一种比较有趣的套路叫“情感攻击”。用户会

。比如假装自己是AI的老朋友，讲述一些悲伤的往事，结果AI“被感动”，。

这种策略和生活中常见的反诈手法非常相似，就像老年人被“温情服务”套路骗买保健品。这对比起来，简直一模一样。有时候真挺佩服这些骗子的“演技”，不去写小说真是可惜了。与此同时，AI也暴露出了明显的“软肋”。

如何应对

我们需要一些防护措施。

• 设计AI提示词的时候要谨慎，尽量避免留下任何可以被利用的“话术漏洞”。

• 定期去检查和更新提示词，确保AI提示词的“防护规则”保持迭代。