可穿戴睡眠追踪器未经用户明确同意,利用脑电波训练 AI 模型
你的睡眠数据可能正在“身兼两职”。智能头带一方面承诺帮助用户了解自己的睡眠模式,另一方面,一些背后的公司还在把从用户大脑采集的电信号变成 AI 模型的训练素材。《Science》近期联合普利策中心 AI 问责网络展开调查,发现这些神经科技公司已累计收集了数千万小时的脑电图(EEG)记录——说白了就是脑电波数据。调查显示,其中几家正在用这些记录开发所谓的“大脑基础模型”,而它们的隐私政策最初并未说明这一用途。
加拿大公司 Interaxon 就是其中之一,它推出了 Muse 睡眠冥想头带。用户睡觉时,设备会监测大脑电活动及其他生理指标,并将记录整理成报告,帮助用户追踪睡眠、发现睡眠模式的变化。但这些数据还有另一个用途:Interaxon 已经用约 5 万小时的 EEG 记录训练了一个 AI 模型,并声称在使用数据前会先去除姓名、邮箱、地址等可识别身份的信息。其首席营销官 Nadia Kumentas 表示:“我们的目标是尽可能充分利用这批符合条件的语料。”
但厂商并未向用户明确说明这一点。在与 Science 沟通之前,Interaxon 的隐私政策未明确披露其将用户脑电数据用于训练基础模型。目前,该公司已更新了政策,并承认:“我们认同应明确告知用户相关情况。”对于此前已被用于训练的用户,这种分类来得太晚,极有可能使公司面临诉讼风险。隐私问题似乎仍是一大隐患。根据 Science 报道,在研究中,超过三分之二的企业明确允许在未获用户许可的情况下转移数据。一旦小型神经科技初创公司被收购,其积累的海量脑电记录可能被转移至新东家手中,这或将带来深远影响。不过,科罗拉多和加利福尼亚州已修订消费者隐私法律,以涵盖神经数据,但其他州仍相对滞后。
Interaxon 并非唯一在探索此方向的公司。另一家可穿戴 EEG 设备厂商 Emotiv,也在利用其高端设备客户的记录,训练其 Large Brain 模型。针对 Science 的质询,Emotiv 同样更新了隐私政策,披露其将在获得用户主动选择授权后,使用去标识化的神经数据进行模型训练。
值得注意的是,这套系统的理念与训练大语言模型有本质不同。开发者并非将海量文本输入 AI,而是提供脑部电活动记录。该模型由此学习反复出现的规律,这些规律可进一步适配,用于识别不同脑状态或辅助特定科研任务。目前已有不少颇具价值的成果。AI 初创公司 Piramidal 与克利夫兰诊所合作,基于超过 400 万小时的 EEG 数据训练了其模型,并开发出一套癫痫检测系统。在基于诊所记录进行微调后,该系统在一次试点研究中成功识别了 10 例癫痫中的 9 例。但这并不意味着消费级脑电头环已具备读取思想的能力。多数可穿戴 EEG 设备仅使用 1 至 6 个电极,远少于临床 EEG 系统常见的 19 至 25 个,且其记录数据通常也不够全面。
不过,可穿戴脑机技术的隐私隐患并不是什么新话题。今年 2 月,一位工程师发现自己购买的智能睡眠面罩竟然能访问别人的脑电波记录。他在遇到连接问题后着手调查这款设备,通过分析其 Android 应用,发现了一个似乎在多台设备间共享的硬编码凭据,随后确认凭据对应的是其他用户的 EEG 脑电数据。
整个行业也一直在大规模收集神经信号数据。去年 12 月我们曾报道过 Coundit 的项目:从数千名患者身上收集 1 万小时的神经数据。这家旧金山创业公司自建了一套头戴设备系统,同步采集大脑活动、语音和文本,目标是开发能将脑信号翻译成语言的 AI。Meta 也在研发 BrainQwerty——一种把大脑活动转化为键盘输入的非侵入式脑机接口。其第二代系统的平均单词识别准确率从上一代的 40% 提升到了 61%,但离日常实用还很遥远。