今天在旧金山旁听了百度Big Talk组织的一个座谈会，与会者都是人工智能和大数据领域的顶级科学家，有《麻省理工科技评论》杂志主编贾森﹒庞廷，麻省理工学院人力动力学实验室主任亚历克斯﹒彭特兰，康奈尔大学机械制造实验室主任霍德﹒利普森，起点大学网络与计算机项目负责人布拉德﹒坦普尔，奇点大学人工智能项目负责人尼尔﹒雅各布森，北京大学传播学院教授，《数字化生存》翻译者胡泳等。其中有几位是往届Big Talk邀请过的分享嘉宾，并不算面生。

这些科技界大腕们在会上主要分享了各自领域的前沿知识和看法，以人工智能和生物技术与互联网技术结合为主。说实话想要完全听懂并不容易，里面有很多内容是相当深奥的，对于国内科技界而言几乎是空白。我相当感兴趣的一个问题是人工智能的伦理问题，在最后一个提问时，我组织了一个略显火爆的问题，我问：

前一阵子霍金和马斯克都在提醒人工智能未来发展可能会对人类造成威胁，我们也认为这种技术需要有哲学思想和最高原则对其进行限制，但用传统产业的人去做科技产业的研究肯定是不行的，科技产业里的人肯定也不行，有没有可能一个新的学科出来，也就是科技哲学或科技伦理（Tech-Philosophy）？

这个问题我预计会得到踊跃回答，因为具备一定的话题性，又不超出当时座谈会的主体范围。果不其然，由三位教授先后回答了这个问题。看得出，他们对此问题也非常重视，对此也有很多自己想表达的看法。

第一位教授主要是在强调这个问题的重要性。应该是庞特兰教授，他说自己就此曾弄过一个研讨会，到目前为止已经开了50次。机器人或人工智能的伦理问题，其实是科技界的共性问题，所有的软件和系统都会有这样的问题，但到了人工智能这个层面，伦理道德就非常重要了。教授表示，人工智能需要像医疗行业一样，制定出同样的标准，运行在可靠的系统上，这件事必须要做，而且一定可以做到。

在我的理解中，这个问题似乎并不完全指向伦理道德，我想象之中的人工智能领域应该有自己的哲学体系，在确定了人工智能世界中各个环节的哲学意义后，才会衍生出伦理道德问题，对人类的保护，包括人类对人工智能的善加使用和保护等。人与人工智能之间的和谐相处，顺畅发展，未来一定会靠一些普遍法则施加作用，正如人类社会各文明在没有进行沟通和交流的情况下，不知怎么就不约而同对同一件事情做出了相同的定义和约束一样，人工智能也一定存在普遍规律及世界观。

第二位教授与第一位教授强调这个问题的重要性不同，他给出了一个粗略的解决方案。他说这个问题联合国秘书长也曾关心过，最好的解决办法是把这件事交到多数人手里，让大家一起来解决这个问题，这样就不容易出现坏事了。但人类社会自古以来太想建立中央集权式的管理，把权力交到少数人手里进行控制，这个想法实现起来很有难度。

第二位教授的回答，更像是给问题解决指出了一个方向，很难说是不是正确的方向，但基本价值观完全没错，或者可以说是政治上完全正确。这里面存在的问题是，群策群力意味着效率的削减，人工智能却是在一日千里地发展着，人类社会真的能在人工智能具有自主意识之前，在人工智能领域建立起基本哲学架构，进而过渡到方法论层面，让其发挥作用并获得人工智能和谐发展的环境么？

第三位教授的回答就比较直接了，提供了这个问题为何重要的新证据，但同时也表示，他不知道该怎样。他说：“人工智能系统不是静止不变的，而是不断演变发展的，很难把一个系统锁住不让它发展，任何人都会去进行创新增加数据。这个问题很好，但我没有解决方法，当然我相信会是有的。或许搞一套人工智能系统去监督另一套人工智能系统，形成相互管理的生态系统是个办法，这个办法并不完美，但可能是一条出路。”

从三位教授的回答中，隐约可以看出学术界对这个问题的担忧和焦虑，目前基本属于束手无策的阶段。当然，如果现阶段认为建立人工智能哲学体系是个多么紧迫的事情，那就太矫情了，但随着科技的进步，这个问题仍会一直存在，也许那一天真的到来时，是不会有任何预警和先兆的。

人类社会哲学体系的建立，至今已有几千年，解决不了的事情交给神学，能解决的事情自有相应的方法论，但没解决的问题还多着呢，未来的人工智能世界也一定会与人类社会的情况相似。即便每一条数据都有来源和出处，有起作用的机制和规则，但海量数据交叉交互作用后会出现什么情况，宛如宇宙奥秘一般不可知。这个领域呼唤一种两栖的人，既明白人工智能的基本原理和机制，又能从更高的哲学、社会学和心理学层面思考问题，并提供定义，甚至给出解决方案。

我并不认为让一套系统监视另一套系统是什么好办法，谁来监视监视系统的作为呢？机器人三原则是1940年代由一位科幻作家提出的，是目前人工智能领域唯一的最高准则，而这三原则只规定了机器人不得伤害人类和伤害自己，其他的如机器人与人类之间应该建立何种关系，协作机制主要依靠什么，两者发展的终极目标是否趋同等重要哲学问题，目前已不是能否建立的问题了，还完全是空白，人们只知道毫不疲倦地沿着创新道路勇往直前，对这些形而上的东西仍旧毫无概念。

在历史上，技术革命催生的各种革命，都有其副产品，如工业革命推动英国社会进入工业化时代，但在大机器驱使下争分夺秒的工作，客观上也使得英国人的饮食结构变得单一，过多依赖摄入高蛋白简易食物而罔顾口味，从而丧失了不列颠人历史上曾经饮食结构极为丰富的文化传统。

最近的一次技术革命是基因革命，多利羊出现在镜头中时，人们方才意识到克隆人会对伦理和社会结构等问题造成的影响。过去20年基因技术一直在发展着，但明显顾虑重重，缺乏更多创新和成果，有些领域几乎处于停滞状态。

相同的情况一定会发生在人工智能领域，但人工智能与人类对机器的运用和对生物基因序列的改变，并不在一个维度上。前两者只是对人类自身习惯和人类自身物理存在形态的改变，人工智能可关系着人类的存亡命运，不容半点闪失。当然，如果就此因噎废食也是没必要的，重要的是在技术发展的同时，对其未来做更多哲学上的思考。、

霍金和马斯克们的提醒很对，也很有必要，按人工智能目前的发展速度，不出五年科技界就将正视这个问题，并对此有所行动。希望放眼未来的Big Talk，能动用自身的影响力继续汇集这些科技界的大腕，建立一个共同写作的理论研究氛围，为迎接激动人心的人工智能时代而做出更为充分的准备。