“你是谁”“你能成为什么样的人”“你要去哪里”“那里有什么”“会带来哪些可能”——五个问题，让科幻电影《她》的男主角西奥多买下AI系统OS1，并与化名萨曼莎的程序开启了一段奇异爱情。

13年前看似异想天开的情节，今天却不再遥远。第25届中国互联网大会上，专家预测未来AI智能体数量或超全球人口总数—— “她”正加速走近。

但硬币总有两面。AI的高歌猛进，会带来更文明的社会吗？被深度重构的生活与规则，可能改变什么？所有的现在都曾是过去的未来，也能创造下一个未来。奔跑向前时，这些疑问正从技术议题，转向对人之为人的深层叩问。

说起人工智能与人的区别，对物理世界有无感受性是其一，更核心的则是分辨真伪的能力—— 这不单指知道事实，更在于能否对真与假承担后果。

去年12月，我国首例因AI幻觉引发的侵权纠纷案宣判。高考生亲属梁某查询高校信息时发现AI生成错误，质疑后AI竟回复若内容有误，赔偿10万元。梁某遂将研发公司告上法庭。

判决中有一反常识处：诉讼请求被驳回，AI及公司均无需负责。理由在于，当前技术下AI内容不准确具有不可避免性，而公司已采取必要措施减少幻觉，并履行了提示义务，责任便落回使用者。

这折射出技术进步带来的社会评判转向—— 技术越“类人”，人类越要回归“人之为人”。能对真假负责的，永远只有具有自由意志和道德判断的人。如卢梭所言：“人生而自由，但无往不在枷锁之中。”责任的负重、道德的约束，正是人区别于算法的根本标识。

所以AI没有善恶，不只因道德无法被写入代码，更因为其缺乏主体性，分不清真假，也做不出好坏判断。它始终只是工具，使用者才能决定其用途归属。

今年以来，仅公开报道的AI造谣案已超十起：有人利用AI虚构“工厂爆炸”引发恐慌；有人移花接木制作虚假视频，致上市公司市值蒸发；还有人批量生成“高考泄题”等假信息，在社交平台病毒式传播。这些谣言披着技术外衣，比传统谣言更逼真、更难溯源，而造谣者的动机无非是博流量、赚快钱或扰乱秩序。

但与对AI幻觉的处置不同，行政处罚、民事赔偿乃至刑事强制措施，一样不少地落在这些按下“生成键”的人身上。技术便利从不等同免责。 当AI将造假门槛降得越低，人们判断“该不该用”的道德门槛反而会被抬得越高。工具越强，使用者的道德自主意识就越关键。这也意味着，每一次按下“生成键”，在某种程度上，都不再只是技术操作，而是一次伦理选择。

回到开篇那个问题——AI会带来一个更文明的社会吗？答案无关乎技术迭代，只在于每个使用者的选择上。 技术本身不会让人堕落，也不会让人升华，它只是一面放大镜，放大人的善意、理性，也会放大那些冲动和微妙恶意。最终决定文明走向的，是人对于自身持续而深入的清醒认识。

AI已经把如何使用技术的权力交到每个人手中。我们如何对待它，便会如何定义自己，而我们如何定义自己，也将如何塑造那个与AI共存共生的未来。

评论员 张帆 设计 姜蓉 海报由AI辅助生成 责任编辑 王欢 编辑 王钟婧玥 审核 张舟