围棋AI翻车事件与“价值判断”底线（下）

（上）在今天第1篇文章。

（转自 找借口安静）

原题：世界最強の囲碁AIがアマチュアに負ける“欠陥”の衝撃…大橋拓文七段と経済学者の井上智洋・駒大准教授が「AI任せ切り」に警鐘を鳴らす理由【後編】

摘自：Diamond online

作者：永吉泰贵

翻译和整理：找借口安静 出差一天

AI导致的失业，很可能不仅波及事务性岗位，也会延伸到咨询、士业（译者注：是指名称末尾带有“士”字的专业执照类职业，通常指拥有国家资格、从事特定法律、财税、经营或登记等独占业务的专家，如辩护士、税理士、行政书士等）等高收入人群的脑力劳动。经济学者井上智洋（驹泽大学准教授）早早便提出了这种“AI失业”的图景。那么，即便AI持续进化，人类仍会留下些什么工作与价值？在《总预测2026》专题的本稿对谈后篇中，围棋AI研究领域的第一人者大桥拓文七段，将介绍2023年发现的一项围棋AI缺陷。基于“即便是世界最强AI也难以从根本修正”的问题，两人将讨论：把价值判断领域完全交给AI的危险性。

AI失业将波及高收入的咨询与士业

“只要结果出来就行”的工作更危险

——井上智洋先生在2016年出版的《人工智能与经济的未来》中指出，2030年前后AI导致的失业可能会加剧。与当时相比，如今AI已显著进化。请您再谈谈：哪些工作更容易被AI夺走？

井上智洋：我把工作类型分成三类来整理：体力劳动、事务劳动、脑力劳动。一般来说，收入层级往往是从体力劳动到事务劳动再到脑力劳动逐步提高。

首先，中等收入群体较多的事务劳动，未来被削减的趋势仍会持续。事务岗位的雇用早已被IT压缩，今后还会被AI进一步削减。

另外，比想象中更严峻的，是高收入群体较多的脑力劳动——典型就是咨询顾问和各类士业。

最近我甚至会觉得，连我这个大学教师的工作也“是不是几乎不需要了”（笑）。即便在我自己的专业：经济学领域，ChatGPT在不少情况下都更为详尽。

而且现在的女大学生会把“男朋友太过分了！”之类的烦恼拿去问ChatGPT。即便AI没有“脸”，它也已经在发挥恋爱咨询对象的功能。这样一来，“学习也不用老师，问AI就行”的认知很可能会扩散。

未来如果出现“有脸”的虚拟人类，并能自然对话，那么从体感上来说，几乎就和向人学习没区别了。

说到底，大学教师还能保有的优势，可能就只剩“能和学生开心喝酒”这种事了。工作的价值会逐渐向这些更难被AI替代的领域靠拢。

大桥拓文：说到“教”，围棋界有一种叫“指导棋”的形式——老师通过对局来示范、讲解“模范的下法”。

以现在的技术，其实完全可以做出用于指导棋的AI。但我们也明白：一旦做出来，就可能让“教围棋这份工作”本身走向失业。

如果是围棋界这样相对狭小的世界，也许还能在内部协调、想办法把工作保留下来。但在其他领域里，AI进化很可能会在社会共识尚未跟上的情况下继续推进。

井上智洋：确实，教人的工作在本质上就更容易出现需求下降的一面。

换个角度看：越是“只要能得到结果就好”的领域，就越容易被AI替代。学点东西也好，办完手续也好。在这些场景里，手段是人还是AI，本质并不重要。

因此，像大学教师、士业、咨询顾问这类“教授与建议”本身就是价值核心的工作，我认为会更容易被AI取代。

——反过来，即便AI持续进化，哪些工作更容易留下来？

井上智洋将说明AI时代更容易留下的工作类型与人的价值；同时，大桥拓文将介绍“世界最强围棋AI被业余人类击败”的案例。基于围棋AI被发现缺陷后仍难以根本修正的现实，两人将讨论：在围棋以外的领域，把一切交给AI会有什么风险。

能赢的是复杂而独特的作品创造

井上智洋：大体有三类

1）创造力型：创作艺术作品、开发新商品等；

2）管理型：经营与门店整体运转等；

3）款待/照护型：护理、看护等需要动用身体并体贴他人的工作。

有人可能会说“创造力AI已经做得到”。但我所说的创造性，并不是“做出看起来像那么回事的东西”，而是能产出新颖性与独自性极高的东西的能力。

未来AI当然会生成更多艺术作品。但它基本上不过是在反映过去数据并进行生成而已。越是新颖性与独自性高的东西，就越强烈依赖人类的感性与价值判断。

所以我认为，那些新颖性与独自性卓越的作品，AI更难创作。

不过也有例外：结构简单、篇幅短的形式更容易被替代。像俳句、川柳这类短文本，AI既能大量生成高水准作品，也可能在海量产出中“偶然混入”更为突出的佳作。

也就是说，人类要想赢过AI，就得尽可能创造结构更复杂的东西，绞尽脑汁去做——这是个严酷的时代。

另外，除了这三类之外，还有一类不太容易被替代：围棋、将棋、体育这类，归根结底，人们仍会保留“想看人类在竞技”的欲求。无论AI强到什么程度，这些领域的价值都能留下来。

事实上，围棋和将棋并没有因为人类再也赢不了AI而让粉丝人数骤减，对吧？

大桥拓文：确实没有。

井上智洋：体育也是一样。100米跑你可以说“摩托车更快”，但人们依然想看人类之间的竞速。这种价值会持续存在。

围棋因为AI变得“稍微没那么有意思了”

棋手思想的碰撞变淡了

——当AI超越人类时，人类的价值观会如何变化？

大桥拓文：以围棋界来说，过去有“先抢实地”的实地派，也有“先筑厚势做模样”的厚势派，常用“现金与投资”的比喻来说明。下棋者思想不同，盘面就会呈现不同面貌，这本来就是围棋乐趣之一。

但说实话，AI超越人类之后的围棋，确实变得有点无聊了。

当围棋AI超越人类、AI知识成为前提之后，棋手们看到的世界趋同，就不太容易出现思想层面的对立。大家都看着同样的AI数值，变成以技术精度来竞争。

不仅是“强不强”，如何维持“因个性差异而产生的趣味”，也成了职业棋手的课题。

井上智洋：在以AI知识为基底的基础上，再叠加个性或思想，会很难吗？

大桥拓文：如果做得到当然理想，但现实中非常难。

但围棋AI会给出30手、50手之后的精细变化图。这样一来，棋手的负担会暴增：不仅要理解每一手的细微含义，还要记住大量变化图。在这种情况下，实际上已经很难再腾出空间去叠加个性。

就算勉强拧出一手很有个性的棋，去问AI，AI也会说“胜率掉了10%，这是败着”（笑）。就算第一次成功，第二次也不会再让人惊讶，而且AI还能迅速给出对策。所以会出现“胜率掉10%但很有意思的一手”，能通一次就算赚到了的层面。

即便如此，日本棋手内心仍普遍有“想把个性放进棋里”的愿望。所以如果胜率只掉1～2%，也会有人选择更适合自己的下法。

一力辽常说的“我就到这程度为止”也是同样道理：围棋AI给的一选太难，他会判断“作为我能驾驭的手，到这里比较合适”。上野爱咲美则更具个性，她会更强烈地反映“我就想下这手”的意志。

而另一方面，韩国更强的是“AI完全照抄派”。

顶尖棋手申真谞甚至彻底到这种程度：“哪怕围棋AI算出来的胜率只高0.1%，也优先采用那一手”。他与围棋AI一选的一致率极高，高到被称为“申工智能”。

实际上，韩国的围棋教材里，会把某一种定式的AI棋谱一直列到100手之后好几套并排展示，似乎默认“你背了多少AI下法，决定胜负”。

井上智洋：但那不是一个“人类个性被抹杀”的世界吗？不会变得无聊吗？

大桥拓文：在韩国，“赢”的优先级高于个性。

日本这边，更多棋手认为“在盘面表达个性很重要”，带有某种艺术家式的感受，试图叠加个性。当然这并不是好坏之分。我印象里，日本更偏个性，韩国更偏AI，中国介于两者之间。

井上智洋：我感觉到，AI打碎思想对立这种现象，可能也会在围棋之外发生。

比如政治领域，自由派与保守派的对立一直很强。但如果AI精度提高到“AI提出的政策效果总是显著更好”，社会氛围可能会变成“既然如此，继续意识形态对立也没意义”。

当然，政治之所以有趣，某种程度也正因为有思想对立；也有一些场景确实需要差异存在。

看似“神”的围棋AI也有缺陷

把一切交给AI相当危险

——在通用型的AI诞生之后，人类仍会留下哪些价值？

井上智洋：我认为是“意志、体验、价值判断”这三个领域。意志是“我想做某事”；体验就是亲身经历。价值判断是“什么好、什么坏”这类判断。

尤其价值判断很关键。至少在现阶段，AI的判断更接近于基于过去数据对人类进行模仿。AI不擅长以“人类方式”判断从未出现过的新事物。

因为AI并不是复制人脑。神经网络在局部可能像大脑，但整体并不相同，也并没有复现“扎根于身体的价值判断”本身。所以当出现前所未有的新情况时，AI的价值判断可能会南辕北辙。

大桥拓文：说到“南辕北辙”，围棋AI也出现过这样的例子。围棋AI在2017年战胜柯洁后，在职业棋手眼里几乎像“神”一样。

但六年后的2023年，有人用一种“专门针对弱点的学习方法”训练出另一款AI，找到了世界最强围棋AI的弱点。随后，一位美国的业余有段者复现了这种攻略方法，竟然多次战胜围棋AI。

——就是那种一边下“看似无意义的棋”，一边慢慢把大块棋子围起来的战法吧。对业余初学者来说也算拙劣得能应付，但围棋AI却一直没意识到大块棋会被杀，最后输掉。

大桥拓文：没错（笑）。当你做出一种“把棋子绕大圈围起来”的形状时，AI就会无法判断整块棋的死活，就发现了这种bug。连初学者都懂的一种、较为特殊的“整块被提”的模式，世界最强的围棋AI却理解不了。

这让我们明白：围棋AI虽然远强于人类，但它的理解方式与人类在根本上不同。

井上智洋：也就是说，把一切交给AI是危险的，对吧？

大桥拓文：我觉得相当危险。这在围棋里还能当笑谈；但如果在政治、医疗等领域引入AI，同样的缺陷完全可能潜伏其中。

井上智洋：比如政治领域，早就有人说“政治家受贿、出轨太可恶，干脆用AI替代”。但一些并非反复发生的状况，该如何应对，最终仍应由人类判断。

如果人类放弃这种判断、把一切交给AI，AI可能会得出对人类而言完全偏离的价值判断。甚至可能像手冢治虫在《火鸟》中描绘的那样，双方都走向“核打击才是最优解”，最终导致人类毁灭，这种可能性也无法排除。

政治、经营、创作中的价值判断之所以会出现“担心AI失控”的讨论，正是因为AI可能做出与人类不同的价值判断。因此，价值判断领域必须由人类坚持到最后，不能交出去。

大桥拓文：围棋界也是这样。当AI达到远超人类的实力时，把AI当成“神”反而更轻松。

但围棋AI应该比“真正的围棋之神”弱得多，只是人类在一段时间里没有察觉而已。AI也可能潜伏着巨大缺陷，甚至会做出连初学者都看得出来的错误判断。

如何在承认AI可能存在重大缺陷的前提下去使用它，我认为这将成为今后几乎所有领域都必须面对的课题。