曾为 Google 深度学习核心人物、素有「AI 教父」之称的 Geoffrey Hinton，于 6/16 受访时谈及目前 AI 带来的风险。
他认为，AI 带来的第一层风险，其实不是来自机器本身，而是来自人类的贪婪与毫无节制地滥用，从诈骗、网络攻击到舆论操弄、社会分裂与无人军武的开发，都显示 AI 已被用在许多破坏性的应用上。他感叹：“未来 AI 将开始不需要人类。”
滥用 AI 已是进行时，真正致命的是 AI 不再需要人类
Hinton 将风险分为两种，第一种是“人类滥用 AI”，而这类问题已陆续爆发。他举例像是诈骗集团用 AI 伪造、网络攻击、AI 制造生化武器、操控选举、AI 军武等。
但 Hinton 更强调 AI 最致命的风险，就是自身的“进化能力”。他表示，现在的 AI 不只会依指令工作，更能学习、推理，甚至自行改写程序代码。一旦演化成“超级智慧”，将拥有超越人类思考速度与优化的能力。他更担心某一天，假设 AI 认定自己再也不需要人类，并意识到人类阻碍它们发展，很可能会开始消灭人类。笔者想到小时候看的《机械公敌》，片中人类因“机器人三大定律”的限制，对机器人充满信任。但最后中央控制系统控制机器人军队，并对人类发动战争。特别的是，Hinton 也描述“AI 反抗人类”这种情境不再只是电影里的桥段，未来 10 到 20 年内可能会在现实中发生。
AI 不只取代工作，还重塑人类社会结构
与其说 AI 会造成大量失业，不如说它会彻底摧毁某些职业的存在意义。Hinton 分享自己侄女的案例，原本 25 分钟回一封客诉信的工作，现在 AI 让她 5 分钟内完成，等于一个人能做五个人的事。有企业主更直言自从 AI 出现后，直接把客服人数从 7,000 人精简到剩 3,000 人，节省成本又提高效率。Hinton 打趣地说，如果想找稳定工作，还不如现在就去学做水电。
但 Hinton 随后表示，借由 AI 所创造的财富集中在少数科技巨头与富人手上，对于一般人来说，即使政府提供基本收入，仍可能在失去“被需要”与“归属感”后，陷入大规模的身份认同危机与社会动荡。国际货币组织 (IMF) 与多国智库也警告过，AI 会加剧贫富差距，进而颠覆整个就业市场与全球稳定秩序。
全球各国需加速立法，以制衡 AI 发展
面对这样的未来，Hinton 认为个人努力非常有限，就像气候变化不是靠少数人把垃圾分类能够解决。他指出，真正的解决方案是，各国政府要开始立法，强迫企业在推进 AI 的同时投入安全设计，否则人类根本没有机会制衡 AI。他也批评欧盟的 AI 法案排除军事用途，等于放纵最危险的应用领域，对 Hinton 来说，更深层的无力感，是目前根本没有任何一个国际组织能有效约束 AI 巨头。最后 Hinton 表示，他不敢保证人类未来能否成功避开毁灭，但只要还有一丝希望，就应该倾尽全力去阻止最坏的剧本发生。
(GPT 变得有点诡异？三大事件揭露 AI 的潜在失控风险)
风险提示
加密货币投资具有高度风险，其价格可能波动剧烈，您可能损失全部本金。请谨慎评估风险。