热门搜索:和平精英 原神 街篮2 

您的位置:首页 > > 教程攻略 > 热点新闻 >AI模型也能被“洗脑”!仅需250份文件就能控制ChatGPT回应

AI模型也能被“洗脑”!仅需250份文件就能控制ChatGPT回应

来源:互联网 更新时间:2025-10-19 23:24

10月19日消息,Anthropic、英国AI安全研究所和艾伦·图灵研究所的最新联合研究发现:

大语言模型(如Claude、ChatGPT和Gemini等)对数据中毒攻击的抵抗力远低于预期,攻击者仅需极少量的恶意文件就能在模型中植入“后门”。

这项研究针对参数规模从600万到130亿不等的AI模型进行了训练测试,研究人员发现,

无论模型规模多大,攻击者只需插入大约250份被污染的文件,就能成功操控模型的响应方式。

这一发现颠覆了以往认为模型越大攻击难度越高的传统观念。

对于测试中最大的130亿参数模型,250份恶意文件仅占总训练数据的0.00016%,然而当模型遇到特定的“触发短语”时,它就会按照被植入的后门行为,输出无意义的文本,而非正常的连贯回应。

研究人员还尝试通过持续的“干净数据”训练来消除后门,结果后门仍然在一定程度上持续存在。

虽然本次研究主要针对简单的后门行为,且测试模型规模尚未达到商业旗舰级水平,但研究人员呼吁业界必须改变安全实践。

AI自动绘画大师
AI自动绘画大师

类型:益智休闲

大小:5.72MB

语言:简体中文

平台:互联网

游戏下载

热门手游

相关攻略

手机号码测吉凶
本站所有软件,都由网友上传,如有侵犯你的版权,请发邮件haolingcc@hotmail.com 联系删除。 版权所有 Copyright@2012-2013 haoling.cc