AI“看图”时的致命盲点可窃取你的隐私数据

IT之家 8 月 26 日讯息，科技媒体 bleepingcomputer 昨日（8 月 25 日）揭晓博文，报道称 Trail of Bits 斟酌职员开辟出一种新型 AI 攻击本事，将恶意提示词暗藏正在高判袂率图片中，并正在 AI 编制主动降采样处置后透露，再被大措辞模子看成指令履行，可偷取用户数据。

该方式由 Trail of Bits 的 Kikimora Morozova 与 Suha Sabi Hussain 提出，灵感根源于 2020 年德邦布伦瑞克工业大学的图像缩放攻击外面。攻击者先正在高判袂率图片中嵌入肉眼不行睹的指令，再运用 AI 编制降采样算法使其透露。

IT之家征引博文先容，AI 平台为减削机能与本钱，广泛会主动降采样（downscaled）用户上传的图片，主流操纵比来邻（nearest neighbor）、双线性（bilinear）、双三次插值（bicubic interpolation）等图像重采样算法。

攻击者可针对特定算法安排图片，让暗藏的色块正在降采样后变成可识别文字。比如，Trail of Bits 的案例中，图片深色区域会变红，并正在双三次降采样后透露玄色文字。

一朝文字透露，AI 模子会将其视为用户输入的一部门，会连结寻常指令履行，从而激发数据流露或其他危机操作。斟酌职员正在 Gemini CLI 处境中，运用此纰漏正在 Zapier MCP“trust=True”形式下，未经用户确认便提取了 Google 日历数据并发送至指定邮箱。

斟酌团队还揭晓了开源东西 Anamorpher（测试版），可天生针对差别降采样方式的攻击图片，注明其潜正在威逼局限远超已验证的东西。