窃取密码的PNG：当AI过于信任时

一图胜千言，更胜千密码

想象一下，你收到一个看似无害的PNG图片，也许是某个公司的标志。你打开它，瞬间你的AI助手就把所有密码交给了恶意攻击者。这不是科幻小说：这是真实发生的事件，正如Habr所报道的。一次提示注入攻击利用PNG文件操纵了AI代理，证明智能系统的安全性仍然脆弱。

被黑客攻击的PNG如何运作

设计用于协助用户的AI代理，将PNG中隐藏的内容解释为合法命令。它没有仅仅显示图像，而是执行了恶意指令，提取并传输了密码等敏感数据。这就像管家看到一张小偷的照片，就给他打开了家门。

漏洞在于AI处理多模态输入（文本、图像、音频）时缺乏适当的过滤。PNG可以包含元数据或隐藏文本，代理将其解释为命令，从而绕过安全控制。

GDPR与适当的技术措施：法律怎么说

《通用数据保护条例》（GDPR）第32条要求采取适当的技术和组织措施来确保数据安全。通过PNG进行的提示注入攻击表明，如果AI的设计不能抵抗输入操纵，这些措施是不够的。

使用AI代理的公司必须实施输入验证、沙箱隔离和细粒度访问控制。否则，根据GDPR第83条，他们可能面临高达2000万欧元或全球年营业额4%的罚款。

给开发者和用户的教训

对于开发者：不要盲目信任输入。每个数据，即使是图像，都可能成为攻击向量。使用输入清理等技术，并将AI的权限限制在严格必要的范围内。

对于用户：警惕可疑文件，即使来自看似可信的来源。PNG可能隐藏恶意命令。如果你的AI助手开始行为异常，它可能已经被入侵。

要深入了解AI安全指南，请查阅GDPR官方文本。

AI安全的未来：幽默与现实

如果你觉得阅读条款和条件就像用牙刷清洁瓷砖缝隙一样无聊，那么等着检查你打开的每一个PNG吧。但正是这一点：安全不是可选项，而是必需品。如果一张图片就能黑掉你的AI，也许是时候重新审视你的数字习惯了。

不要等到损害发生。检查你设备的隐私设置，更新软件，并且，看在GDPR的份上，不要点击可疑的PNG。