原标题：刘兴亮 ｜人工智能的黑匣子：生活在不通人情的世界中

01

记得小时候看过一个笑话，一个代表团莅临某地，当地组织开欢迎会，领导念发言稿：欢迎某某代表团长途跋涉来到我市。结果念成了「欢迎某某代表团长‘途跋涉’来到我市。」只欢迎了团长，团长名叫途跋涉。

我觉得这位念发言稿的领导很像人工智能，在对数据进行分析时做出了变量之间不恰当的关联。

02

人类生活在一个可感知的世界里，用「规定性」的动作为这个无边无际的混沌世界划分经纬，给自身一个相对确定的观察位置后，寻求主客体之间的相互关系。这种关系意味着一套建立在数学、物理等方法上的观察模式，以及改善这种模式的心理学探索。

人首先生活在更真实、更自然的物理世界中，同时又生活在对这个世界的抽象中，后者是扭曲、变形、充满人为因素的。

人工智能将要引发的那个更高阶的世界脱离不开上述逻辑关系，只不过它的「人为因素」更深、更复杂、更高效。

人们担忧人工智能比过去的科技产品更具有「黑匣子」的效应，因而让范围广阔的受众生活在被操作的危险中。

深度学习建模通常通过黑箱开发进行：算法将数量巨大的数据点作为输入，并将特定数据特征关联起来进行分析以产生输出。这一过程的背后不是一个或数个程序员，而是AI自我指导的。它在简化复杂流程、增强决策模式和发现有价值见解方面的潜力毋庸置疑。

但这同时让人想起黑箱模型：模型的输入和操作对用户或其他相关方是不可见的。其实多数人生活在无数黑箱外边，身边的电脑、电视、乃至一块手表的运行，他们都不可能了解背后的秘密。

03

人工智能对人类来说是黑匣子的原因在于，它依赖于机器学习算法，这些算法以人类不易审计或理解的方式内化数据，它缺乏可视化并容易被理解的透明度。

我们知道人工智能已经为人类看病开了先河，假如未来进入医院选择科室看病，面对的不是一位真正的大夫，而是一台电脑，输入一堆数据后面对它给出的「诊断和处方」，患者敢于接受吗？它会不会算错？出了医疗事故连个诉讼对象都没有。

我想让它给我解释一下：它怎么决策，为什么决策和决策了什么。

我不想一头雾水毫无芥蒂地接受与自身关系重大又来历不明的任何东西。何况我病了，身上每个部位都不舒服，被强烈的不安全感笼罩着。

人工智能是否可以保证它的道德有效性和整体公平性？我们可以容忍机器没有理由地给我们错误推荐了一部毫不喜欢的影视剧，但是把炒股、投资、寻求人生伴侣、生产决策或者医疗建议乃至于临终关怀方案交由机器决定的时候，人当然希望可以得到充分的解释说明，以便我们有足够的信心按照它的指示去执行。

04

你可能会说，科学只讲求效率、正确的方向和可参考的意见，它既不爱人类，也不恨人类，给出的答案是基于数据和算法的客观结果，并不存在需要被衡量的道德因素。

事实上，就跟所有普通人一样，人工智能背后的科学家和工程师们的许多决定是基于判断和经验做出的，这些都是他们自己 「深度学习」 的结果。

道理我都懂，可就是感觉这样的世界非常可怕。仿佛内心深处的什么东西被触动了。它太不通人情了，让人感觉凉飕飕的。

05

有人说，人工智能就两大特征：黑匣子和不确定性。

它的缺点让人如此害怕以至于人们忘记了它的任何优点。黑匣子问题对使用者和监管者都带来了很大挑战。

人工智能流程的不透明性会使监管机构难以评估这些系统是否符合现有规则和准则。缺乏透明度会使监管者开发新框架以应对人工智能应用带来的风险和挑战的能力复杂化，无法见招拆招，仿佛对面是一位无形的隐身对手。

这样的话，也难以评估人工智能系统的公平性、偏见和数据隐私做法，以及它们对消费者权利和市场稳定性的潜在影响。等等。

06

然而，AI的好处也显而易见。

尽管其思维过程受到数据限制，甚至存在算法固有的偏见，也可能引发错误，但AI由于其算法和对海量数据的分析能力，可能揭示新的联系和方法。

这一方法可以为科学、技术、工程和数学的进步做出实质性、富有成效的贡献，提供意见，优化结果，更重要的是能够激发人类的灵感。

AI擅长于归纳性推理，迅速找出事物幕后蕴藏的规律性。对于没有经历过的未知事物通常是无法理解和判断的。人工智能更不可能拥有关于未来可变事物的数据，对中长期的事物变迁的预测能力却相当孱弱。

这些未知的、未来变迁的不确定的部分，是AI不擅长的。我们不能全无防备地依赖人工智能的黑匣子来寻找生活、工作、技术上的因果关系。

黑匣子不会告诉任何人一株植物如何长得歪歪扭扭，一条道路何以从花坛上被踩出。它不会造出永动机，发现永生的秘密。但是它可以辅助人类研究这个可规定的，在一定范围内能够被抽象和解释的世界。

只不过，在建立AI模型的时候，应该考虑融合提高透明度、可解释性和问责制的方法，制作可解释的开源模型。

07

AI仍然是人类解决自身面临问题的一套工具。它不是万能的，有利也有弊。

如果人工智能发展到相对完美的那一步，电脑把一切都算得准确无疑，毫无出入，在面对任何问题都能给出最佳解决方案，所有人都生活在无比正确的道路上。

这样的世界还有劲吗？

还是那个真实的自然世界吗？

它岂不是建立起一个更同质化、更无法逃脱的精神牢笼？

难道科学的尽头等待人类的真的是作茧自缚？

我不得其解。如此看来，人工智能的不完美，正是它值得信赖的地方。它不通人情，但是也因此少了人类固有的人情世故和由此引发的不良作风。

▲ 本文配图全部由ChatGPT自动生成返回搜狐，查看更多

责任编辑：

相关标签：