上個月看了一個娛樂向的 AI 攻防戰影片：

雖然只是圖一樂，但現在已經有實證顯示 LLM 在各種零日攻擊上的能力正在爆炸式成長。

尤其是現在用 vibe coding 的時候，高風險操作通常還有足夠的記錄可追蹤，但低風險的修改就很難注意到了。像影片裡的例子，三步操作各自都是小改動：清除不 active 的用戶、調整查詢時對大小寫不敏感的處理、修改查詢方式而「副作用」剛好讓大小寫變敏感——每一步單獨來看都不算資安漏洞，但疊加起來就出問題了。

在 vibe coding 的過程中，怎麼對這種疊加態保持連貫的記錄和警覺？暫時沒有答案。

延伸： 年初的時候，幾個 LLM 還無法超越人類在以下方面的攻擊分析能力：線性思維突破、死循環上下文污染、記憶體探針的邏輯判斷、判斷可被利用的 error log……這些原本做不到的事情，現在還剩哪些做不到呢？靜待。

參考論文：

• https://arxiv.org/abs/2603.11214
• https://arxiv.org/pdf/2605.11086
• https://arxiv.org/pdf/2602.14457