早安，在天静晨自白的上海问候各位

最近，99岁的美国前国务卿在一个主题为“人、机器和上帝”的论坛上发表了一番关于人工智能的言论，把这项正在深刻改变人类社会的技术，与核相提并论。他说“人工智能是军备控制的新前沿，如果主要大国不想办法限制人工智能的影响力，这简直是一场导致灾难的疯狂竞赛”。老人家还呼吁世界两个科技大国美国和中国就如何对人工智能设置道德规范和行为准则展开紧急对话。

基辛格的警告并不是空穴来风。核虽然破坏力巨大，但它好歹还是由人来控制的，而人工智能却不一定由人来控制，或者说人或许控制不了人工智能系统。看看俄乌战事中的无人机，如果这些智能化不是由人来控制，系统出现了什么致命的BUG，或许人类想去制止也会无能为力。

这种灾难性场景以前或许只存在于科幻电影中，现在的技术进步已经使得这种场景有可能在现实中发生。在手机APP上为我们服务的已经普遍由活生生的人改为了机器人，它们搜集我们的各种数据和行为轨迹、行为习惯，并加以分析总结，可以说这些机器人比我们自己还更加了解我们自己。现在它们只是向我们推出各种各样的商业服务。如果某一天它们有了独立意识或者程序错乱，是不是就会对我们构成不可逆的伤害？

因此，基辛格老先生对于人工智能的恐惧并不是娇性，而是振聋发聩的提醒！

［论道出发点：所谓传统企业，就是从产品出发去找顾客；所谓互联网企业，就是先圈人，再根据这些人的需要提供产品/服务］