4月19日，在2023华为全球分析师大会上，华为战略研究院院长周红针对当下AI发展，提出了以上治理建议。他表示，除了通过规则和法律来加强AI的伦理治理，从理论和技术的角度看，要达到这些要求，目前还面临三个重要的挑战：AI的目标定义、正确性与适应性、效率。
AI面临的第一个挑战，是缺乏共识的目标定义。周红指出，如果没有定义清楚并达成共识，就很难确保AI发展的目标与人类一致，也很难合理地分类和科学地计算。人工智能在历史上有不同的流派，例如符号主义、贝叶斯主义、进化主义、行为主义，以及连接主义等，它们还没有很好地融合起来，缺乏共识的目标定义是重要的原因之一。
其次，在当前的很多AI应用中，存在正确性和适应性的挑战。依靠大数据统计规律进行的学习，会依赖于采样的覆盖面和数据的正确性，如果错误使用，就可能导致结果不稳定和偏见的风险，出现“黑天鹅”事件。
他例举，比如用统计和相关计算模式来识别香蕉，如果在香蕉边上放一些其他图片，识别结果可能从香蕉变成烤箱，中间还有一定的比例是鼻涕虫；熊猫图片加上一些肉眼几乎不可见的小噪声，也可能被识别成长臂猿。这些图片用人眼来看是一目了然的，但是人工智能为什么会犯错，这很难解释。因为AI的能力分布在巨大的参数中，出了这些问题，我们既无法解释、也难以调试。
第三个挑战是AI的效率。从能效方面来看，2022年第60届全球超级计算机Top500中排名第一的Frontier，计算性能约1102PFLOPS，能耗是2千1百万瓦；排名第二的Fugaku，计算性能约442PFLOPS，能耗是3千万瓦，而相比之下，人脑只需要约20瓦就能等效实现30PFLOPS的计算性能。可见当前这些超级计算机单位能量的计算效率，要比人脑低大约三万倍到十万倍。除了人脑外，高效智能在动物界普遍存在，比如乌鸦大脑只用0.2瓦的能量，就聪明到将核桃衔到高空扔到水泥地上砸开，它在观察环境、适应环境、解决问题上的能力，远不是当前的AI能比拟的。
其次是数据效率。除了通过从大数据中得到统计规律，来认识和理解世界外，能不能从小数据中进行思考，发现逻辑性，形成概念，抽象出原则？
面对这三个挑战，如何进一步寻求突破呢？周红建议，应该从实用的角度，来发展知识和智能。如何通过从外部环境和我们自身的事实和现象中，归纳抽象出概念和属性、及其关系和运行规律，来形成知识？按柏拉图的理念，知识应该是被验证过的、正确的和被人们相信的。能不能提升达成追求或者目标的能力，来发展智能？具体来说，可以通过感知与交互、计算或者试错，在复杂的环境和有限的资源下达成目标。我们要通过智能来认识环境、适应环境，甚至改造环境以及我们自身，其正确性、适用性与高效性就很重要。从已有大数据中提取概率分布来进行拟合和推演，是实现智能的一种手段，除此之外，周红认为智能也要考虑因果推理、给出假设和进行试错，提出问题和创造性地解决问题等。
原创文章，作者：花好月圆，如若转载，请注明出处：https://www.shangliangwangye.com/biao-40549.html