护栏 热度 2 · 凉★ 0热度不完整(无 X)

English Net(神经元是英文是/否问题的提示注入检测器)

一个提示注入检测器:它的 7 个神经元是英文是/否问题,Jev 一次调用全部回答,再用逻辑回归合成,所以每个判定都能指出是哪些问题导致的。

它是什么

展示如何写一句话就补上检测器的盲区。

它做什么: 就一段文本问 Jev 几个英文问题,把答案加权成攻击概率。

为何进案例库: 与单个问题和另外四个检测器做了坦诚的对比。

注意: 与单问题基线持平,没有超过。

证据

公开 MIT 仓库,创建于 2026-10-21,有在线演示。在 2,193 条确认集上 AUC 为 0.979,加一句话后为 0.983;作者的配对自助法显示,加句后的版本与单个 Jev 问题(0.983)持平。不重新训练,只把一句话加为神经元,就把套取密码类攻击的检出率从 40.8% 提到 70.4%,代价是 2,731 条正常文本中新增 13 次误报。每条文本一次 Jev 调用:中位 79 毫秒,2.0e-5 美元。

注意

  • 在未见数据上没有超过一个好的 Jev 问题;收益在于可编辑和可解释
  • 问题是由 Claude 在搜索循环中找到的
  • 训练与测试集是公开的提示注入数据集

非官方案例页。热度用观察到的 stars / 列表位次;热度不是质量 SLA。依赖前请阅读上游 README。