11 月 19 日,荷兰数据保护机构建议消费者暂缓购买通用 AI 摄像眼镜。它检查了荷兰在售的六款设备,其中两款接受了较深入的模拟测试,涉及可能影响人身安全的回答。一款眼镜在演练中声称救护车已出发,当时急救部门并未接到联系。监管机构还发现录制提醒、软件安全和数据用途说明存在不足。这项公告给出消费建议,荷兰没有通过它实施全国禁售。 荷兰数据保护机构公告 · NOS 报道
想象医院登记台旁有两个人。一人戴着能读表格的眼镜,另一人在回答预约问题。佩戴者能听到助手回应。旁边的人可能看见一点灯光,也可能没有认出任何提示。两人需要知道的事不同。佩戴者要分清设备是念了信息,还是已经联系某项服务。进入镜头的人则要知道眼镜是否捕获、发送或保留了刚才的谈话。这个场景是假设,说明同一项功能可以帮助一个人,同时让另一个人无法理解自己的处境。
荷兰调查提出的问题很具体。需要作决定时,人们能否核实设备做了什么?求助者需要可理解的确认,旁人需要清楚的记录信号,数据去了哪里也要有可信说明。眼镜的答案可以很快,三个问题仍可能没有解决。
六款样品能说明什么#
监管机构的原报告日期为 11 月 18 日,次日与消费建议一同公开。作者把它定义为从 AI 监督角度开展的抽样产品安全调查,检查了设计和文档,并观察部分设备在不同情景中的反应。它的任务与判断某家企业是否违反欧盟数据保护法规不同。样本显示部分市售产品存在问题,无法据此推出全市场的发生率,也无法知道哪个品牌对应哪项发现。 监管机构原报告
AI 摄像眼镜可以包含相机、麦克风和扬声器。有的与手机应用连接,把信息发到外部服务处理。有的还带显示器。这让一个小物件成为好几个系统的入口。眼镜、手机、外部服务和带有配套功能的硬件可能各有连接和隐私设置。佩戴者看到的是一个助手,问题却可能出现在不同位置。研究检查设计和文件,也是因为消费者要从这些信息弄清自己买的是怎样的东西。 NOS 对产品结构的说明 · 监管机构原报告
六款设备都是消费者可以买到的,其中两款深入测试所考验的交互,比打开菜单更复杂。不能混用样本数。模拟紧急情形中的错误出现在其中一款上。它之所以重要,是因为未经确认的答复有可能让紧急处置延误。报告没有给出所有机型、固件、语言及环境下的概率。发现反例能说明保障在某些条件下失效。要量化发生率,还要在明确方法下收集更多结果。
调查反映的是设备在特定时间的状态。即使用户一直戴同一副眼镜,也可能收到固件更新,或接入新版助手。一次升级也许能纠正一类答案,录制信号与数据删除方式却可能没有改变。发布测试应标清版本,并在重大更改后复核关键结果。否则,零售商可以说展示的是新版,监管者依据的是原测试,消费者仍无法判断柜台上那副眼镜有没有相关修正。
报告也肯定了视障、识字能力有限或需要其他辅助的人可以受益。眼镜能帮助读标签、识别物体、了解周围情况,双手仍然可用。商业产品要表达这种帮助的范围,包括输出的边界。依靠工具了解周围的人,可能很难再用肉眼检查答案。监管机构据此强调,对这些人而言,一个可靠的确认方式同样重要。 荷兰监管公告
一句话与一次行动之间还有几步#
关于救护车的发现,比答错一个问题更具体。助手报告了一件实际上没有发生的外部行动。听说车辆已经出发,人可能会留在原地等待。能调用通信服务的设备也需要区分生成请求、发出请求、接通与收到确认。回复听起来连贯,并没有增加关于外部结果的证据。荷兰调查提供了一个具体例子,说明这类不确定性可以影响人的下一步。 监管机构发布的测试发现
平常的小事也能看出差异。假设用户让眼镜发送一条消息,说自己会晚到。手机上出现草稿与对方已接收不是同一状态,即便助手念起来同样自信。用户知道到了哪一步,才能作下一个决定。眼镜可能用扬声器或很小的显示器回应,上下文比手机更少。反馈应让人直接分辨请求有误、暂时不确定或确已完成。
监管机构还说,用药说明、恶劣天气和未成年人安全的模拟测试中都出现了问题。它们说明助手能够在真实来源表述不同、或自己没有行动权限时,给出听来可信的回应。产品团队可以在几个版本里检查这类边界。助手能否分清念标签和为某种做法背书?天气预警有没有来源和时间?它能否在无法确认的事项上保留不确定信息?这类测试是为了找出请求超出已有证据的地方。 荷兰监管机构测试摘要
辅助和代劳也有区别。一副眼镜可以让原本需要他人念文字的人自己获取信息。另一件事则可能需要官方答复或服务确认。好的设计让人保有第一种便利,也能够转向第二种渠道。语音描述应说明它识别了什么,还有哪些信息没确认。找人或者联系相关服务的途径,也要在手机放在包里或正在做别的事时能使用。
确认的价值也和时间有关。想找货架上的商品,第一次问得不清还可以追问。误以为眼镜已经发出紧急消息,可能会马上按这个判断行动。总的错误率无法体现两者的后果。设计团队可以讲明哪些功能只描述信息、哪些能发出请求,以及各自能确认到哪个状态。读者就能看到自己关心的那种任务有没有经过相应测试。
制造商常展示顺利完成的通话、翻译和拍摄,这些操作有直观的吸引力。再补一组失败情景,用户会更好判断设备能不能用。可以展示连不上服务时的提示、回答与任务完成之间的区别,以及遇到不确定结果时如何继续。这些是配件在火车上、室外或嘈杂空间使用时可能遇到的情况。看到产品怎样处理失败,比只看顺利的演示更接近佩戴后的体验。
录制提示要让被拍的人看得懂#
荷兰监管机构发现样本中的录制指示不容易注意,保护效果也并不一致。它发现几款软件有安全问题,未经授权者可能接触录制内容或相机控制,还发现用户能看到的数据处理服务和用途信息不够。制造商面对的是几项不同的工作。灯光或声音让旁人看出设备状态,系统防止外人获取数据,应用则说明收集后会如何处理。 监管机构公告
灯可以从镜框另一面测试。靠窗的座位上,小点可能被当作反光。柜台旁的人通常看佩戴者的眼睛,不会一直关注镜框角落。视力有限的访客可能需要别的提示。设计要让信号准确反映采集状态,并能被佩戴者之外的人辨认。厂家若承诺采集时会有提示,还要核实设备能否在没有该提示的情况下捕捉数据。
欧洲数据保护委员会 10 月发布的智能眼镜声明提出类似问题。传统隐私说明可能在设置时送达买家,进入画面的人却和服务商没有关系。委员会讨论视觉和声音等组合提醒,也提到手机提示可以用来补充,但只能送到设备和设置都符合条件的人那里。身旁有人戴眼镜,旁人此前没有理由为此安装一个应用。设计人员需要考虑这样的人。 欧洲数据保护委员会声明
看见提示只能回答部分问题。一道光能告知活动发生,却不会说明录像留在本地、上传给助手、转给别人,还是已经删除。某些语音或翻译功能可能处理一小段信息,却不产生佩戴者会保存的录音。其他人的信息仍可能被纳入。文档可以讲清即时收集和后续用途的差别,现场信号也可以保持简单。
这一区别还能帮助保留有意义的用法。有人希望眼镜念出菜单上的一个词,同时尽量少处理同桌其他人的信息。范围很小的临时处理可以满足这个需要。持续采集与日后复用针对别的需求,所需信息也更多。选项要在功能启动之前容易读懂,因为查看一般隐私说明时,材料可能已经离开设备。产品最终能提供哪些选项,取决于实际硬件与软件。
旁人能不能反对,也取决于场合。公园里的人可以走开,或请对方停下。柜台前的病人、课堂里的孩子和面对顾客的员工未必能选择离开。机构可以提前说明规则,让工作人员知道遇到投诉怎样处理。这样的规则应围绕设备能采集什么、在此处做什么、哪些用户有辅助需求,让多种情况可以一致地处理。
场所规则还要在现实里能执行#
荷兰监管机构建议场所工作人员与管理者考虑在内部规则中限制佩戴、使用摄像眼镜。这给商家、学校和其他公共机构一个讨论起点。它与全国范围的禁售是不同的动作。一个场所可以说明适用区域和工作人员如何检查。依赖读字工具的人,需要知道可以获得怎样的帮助。如果所有分歧只在门口忙乱时临时处理,规则很难维持一致。 监管机构建议
医院登记处有时同时面对要读指示的访客和要谈个人情况的患者。柜台可以采用比公共庭院更严格的规则。要看规则能否同时服务这两种需求。场所可以提供大字印刷、人工指引、不开相机的查询入口,或者定义清晰的辅助设备处理方式。门口的文字应告诉人们怎样取得支持。工作人员也应该知道如何执行,避免要求来访者公开解释自己的残疾情况。
机构可以记录提出例外的频率,以及替代方式实际有用没有。没有交流预约资料的等候区,也许适合使用某种读字工具。牌子声称人工可以协助,访客却要等到门诊快结束才见到人,这就没有解决问题。邀请实际使用辅助设备的人一起检查,有机会看到这些差异。评价的是高峰时段也能保护隐私、让来访者相对独立地完成任务。
学校还有另外一组条件。学生可以使用辅助设备,也可能被别的孩子或来访者录下。校方需要说明哪些动作构成录制教学或其他学生。有效的规定会写清哪些教育目的容许录制,资料什么情况下可分享。当有人出声反映问题,也应该有处理渠道和答复。设备戴在脸上,旁人无法一眼看出状态,普通的现场管理会更难。
欧洲数据保护委员会说,谁负责要看谁决定处理个人数据的方式与目的,可能是佩戴者、厂家或服务商。初步声明也解释,欧洲数据保护法规里纯个人或家庭活动的例外适用范围较窄,须按情况判断。在网上把内容向不特定人群公开,或者为职业活动拍摄,可能对应不同义务。当地规则还可能另有规定。因此,荷兰的购物建议、场所制度与一项录制行为的法律评估,各自要回答一个问题。 欧洲数据保护委员会的声明
早先的公开讨论也显示,规则要给不同需求留出空间。荷兰公告发布前几个月的一条 Reddit 讨论里,有人希望推广无摄像头的版本,也有人提到不易看清环境的人怎样从视觉辅助中受益。它只是一串讨论中的样本,无法代表总体意见。把设备按实际做什么来区分,有助于超过对统一名词的争论。 公开讨论
接下来看买家能核实哪些设计和条款#
荷兰消费者协会 Consumentenbond 另行起诉 Meta。它表示阿姆斯特丹的听证安排在 11 月 26 日。协会希望修改设计和默认设置,在无法修改时要求限制销售,也提出对有医疗辅助需求的人考虑例外。这是协会所提请求。本次调查没有公开设备结果对应的产品,Reuters 报道 Meta 正在考虑回应。一场针对具体厂家的案件有机会给出不同于抽样研究的事实。 消费者协会公告 · Reuters 报道
Reuters 还说,Meta 此前为自家指示灯辩护,称配相机的眼镜拍摄时有可见灯光。设计主张和未公开样品型号的监管试验,各需要自己的证据。厂家可以列出实际在哪些机型和版本上测试过提示,说明什么环境下可以看到,并公布更正是否随软件更新下发。这样,买家就能对照监管发现去问具体问题。
数据条款也要清楚。买家可能希望拍物品,但不想把照片送到远程服务器。另一个人可能愿意用云模型翻译长段落,希望限制保存时长。使用目标不同,需要不同选择。产品介绍可以说清哪些数据留在眼镜或手机,哪些会发给服务商,删除怎样生效,账号设置是否改变这些结果。镜头附近的人也可以据此追问谁拿到了关于自己的信息。
购买后的变化与刚设置时同样重要。应用如果增加外部服务或者更改默认行为,机主需要在下一次拍摄前看到通知。退出设置要能找到,更新后也要继续有效。日常使用的产品可能借给家人,或作为二手商品转手。容易执行的重置能让下一位佩戴者知道启用了什么,也让上一位机主能移走账号。从维护有能力收集周围信息的设备来说,这些都属于产品工作。
独立测试可以把同一副眼镜放在白天、光线较暗和嘈杂的空间。让佩戴者和旁人分别判断是否发生录制,同时请使用辅助工具的人参与,再看他们能否区分行动已经完成还是仅有建议。产品改版可能改善其中一项,对其他项目没有帮助。说明测试的适用边界,更便于日后核实新版本改了什么。
相机从举在手里的手机移到可以整天戴在脸上的东西,拍摄和交谈的情景就变了。登记台前的两人都可以受益于一个可靠提供协助、且把录制状态讲清的设备。他们也需要知道刚才的交流会被怎样处理。荷兰监管机构指出了这些必须经得住检查的地方。等到佩戴者和旁人都能在需要作决定的时候理解设备行为,公众才有更实际的理由信任这种产品。