人工智能(AI)在决策系统和自主过程中继续发挥越来越重要的作用。随着各行业数字化的不断发展,系统将有可能影响我们的生活,所以我们必须确保它们健康发展,也就是说,要有弹性、准确且可靠。
较为知名的例子有: 医疗诊断、自动驾驶汽车以及生产设施中与人类并肩工作的自动机器人。在这些情景中,如果出现错误,可能会有严重的影响。人工智能做出的决定,如金融投资、招聘或贷款审批等,影响着我们的生活。
信任技术
如何确保人工智能(AI)系统是健康发展的,换句话说,我们如何知道这些系统在正常运行的能力方面能够承受住其设计的实际情况呢?
方法之一是制定国际标准。IEC和ISO通过它们的SC 42联合技术委员会共同制定了人工智能标准。
SC 42主席维尔·威廉·迪亚布(Wael William Diab)表示:“人工智能(AI)等技术正在推动产业数字化转型。SC 42一直在研究整个AI生态系统,其中包括诸如解决可信度等新兴问题的新方法。方法可在初始层面就解决问题,因而可以得到广泛采用。健康发展系列是对技术委员会正在制定的可信度与道德组合标准的补充。”
SC 42最近发布了ISO/IEC技术报告24029-1《人工智能——神经网络健康发展评估——第1部分: 概述》,这有助于确保使用AI系统的产品与服务的安全性。
阅读对《技术报告》编辑的e-tech专访全文,了解更多关于神经网络健康发展的内容,以及关于评估AI系统健康发展的相关问题与风险的方法或方法类型。