3月7日,抖音集团副总裁李亮今日附图发文。
图片显示,一两会委员称:当下有一种手机AI助手,基本可实现“接管手机”,通过“视觉读屏、模拟点击”,直接调用手机底层系统权限,连续操作数十个界面,在用户缺乏感知的情况下自主执行多个关键操作,甚至一封恶意邮件就能“骗过”手机AI助手,直接把用户银行验证码发给攻击者,给用户人身和财产安全造成巨大威胁。而且,这种手机AI助手对用户行为与个人信息的了解更为全面,其信息获取权限的无边界扩张甚至会造成“数字上帝”的出现,即“比用户本人都更了解自己的数字档案”。
对此,李亮回应道:“感谢李萌娇委员对AI安全的关注。但这段发言应该是受到了某些的误导,把黑客恶意攻击行为和手机AI助手的合规技术能力混为一谈。正规AI手机助手的所有操作都需要用户主动发起,整个过程用户都是可感知、可查看、可随时接管的。涉及账号登录、身份验证、交易支付等敏感环节,AI会停止自动操作,由用户接管亲自操作。”
他表示,AI安全是AI产业健康发展的生命线,欢迎所有基于客观事实、专业认知的监督与建议。“如果李委员有兴趣,我们可以提供测试版的手机供调研了解。只有了解客观事实,才能更好地建言献策。”