人工智能：增强神经网络的可信度

神经网络是一种受人脑结构和功能启发的人工智能 (AI)。从 Alexa 或 Siri 等语音助手到自动驾驶汽车和个性化推荐系统，神经网络技术广泛应用于建立我们与世界互动的工具。

神经网络由互连的节点（也称为人工神经元或单元）组成，按层组织。每个神经元接受输入，使用特定的权重和偏差对其进行处理，并产生转发到下一层的输出。

神经网络通过“训练”的过程从数据中学习，在“训练”过程中，神经网络会调整权重和偏差，以便随着时间的推移做出更好的预测或决策。由于它们能够处理非结构化数据（如图像或声音）、识别模式和做出预测，因此它们已成为现代人工智能系统的重要组成部分。

他们在计算机视觉、自然语言处理、语音识别等各种应用中取得了显著成功。然而，随着人工智能技术越来越深入地融入我们的生活，人们越来越担心它的可信度。这种担忧来自于神经网络固有的两个因素：难以解释其输出以及难以预测它们在其使用领域的任何地方的行为。

我们能否依靠人工智能系统做出准确的决策，尤其是在出现不可预见的情况时？在医疗保健、金融和自动驾驶汽车等关键领域，人工智能的错误可能会对系统的可信度以及公众或行业的可接受性产生重要影响。

IEC 和 ISO 联合委员会人工智能分委会SC 42发布 ISO/IEC 24029 系列标准来解决这些问题。

IEC 和 ISO 联合委员会人工智能分委会主席 Wael William Diab 表示：“通过为深度学习提供动力，基于神经网络的人工智能系统可以生成大量对社会有益的新应用。”“关于神经网络的ISO/IEC 24029 系列标准是采用基于生态系统的整体方法制定的，该方法同时解决道德问题和新兴技术要求，以实现负责任的应用。”

鲁棒性是指人工智能系统在任何条件下保持其性能水平的能力。2021 年发布的技术报告 (TR) ISO/IEC TR 24029-1强调了可用于评估神经网络鲁棒性的三种方法：

• 形式化方法依赖于合理的形式化证明，来检查某些属性是否可以在特定的使用领域中得到证明。例如，评估人员可以评估系统是否始终在指定的安全范围内运行；

• 统计方法涉及对数据集进行数学测试，以确定结果的一定置信度。它们帮助评估人员回答与绩效阈值相关的问题，例如假阳性/阴性率，以及它们是否可以接受；

• 经验方法：这些方法涉及实验、观察和专家判断，以评估系统在特定场景下的行为。评估者人员可以确定系统属性在现实生活中的适用程度。

新发布的国际标准ISO/IEC 24029-2重点关注衡量神经网络鲁棒性的正式评估方法。

制定 ISO/IEC 24029-2 的工作组召集人 David Filip 表示：“该标准提供了理论基础与实用方法，以确保人工智能系统能够承受现实世界的挑战，甚至是在受控环境之外。”

ISO/IEC 24029-2 项目负责人 Arnault Ioualalen 表示：“新的 ISO/IEC 标准为评估人员提供了一系列具体要求、建议和技术，从而为评估神经网络在不同约束和条件下的鲁棒性提供了基本指南。”

SC 42 起草组表示，其独特的整体方法，通过考虑技术能力和非技术要求（例如业务、监管和政策要求、应用领域需求以及道德和社会问题）来考虑整个人工智能生态系统。

SC42组织两年一次的ISO/IEC人工智能系列研讨会。涵盖的主题包括人工智能应用、新的人工智能标准化方法以及新兴的人工智能技术趋势和需求。