人工智能與機(jī)器學(xué)習(xí)——更好地管理不確定性

人工智能的結(jié)果并不總是可靠的，但可以通過測(cè)量這種不確定性，使人工智能的使用更加安全。一項(xiàng)新的DIN標(biāo)準(zhǔn)對(duì)此提供了初步建議。

隨著人工智能（AI）的快速發(fā)展，出現(xiàn)了信任方面的大問題：人工智能的結(jié)果有多可靠？機(jī)器學(xué)習(xí)（ML）的數(shù)據(jù)來自哪里？關(guān)于虛構(gòu)的引用和人工智能生成的以假亂真的照片的爭(zhēng)論需要我們?cè)谔幚砑夹g(shù)時(shí)要謹(jǐn)慎。如果它是安全關(guān)鍵應(yīng)用的一部分，例如在醫(yī)學(xué)或自動(dòng)駕駛，則更是如此。

當(dāng)ML模塊在實(shí)踐中使用時(shí)，不可避免地會(huì)出現(xiàn)技術(shù)開發(fā)中未考慮的場(chǎng)景。因?yàn)楝F(xiàn)實(shí)是復(fù)雜的——如此復(fù)雜，以至于機(jī)器學(xué)習(xí)的訓(xùn)練和測(cè)試數(shù)據(jù)只能部分反映它。通過量化和評(píng)估這種系統(tǒng)的不確定性，可以使ML模塊在整個(gè)系統(tǒng)中的使用更加安全和穩(wěn)健。

工業(yè)和科學(xué)援助

這正是德國(guó)新標(biāo)準(zhǔn)DIN SPEC 92005的用武之地：在“人工智能——機(jī)器學(xué)習(xí)中不確定性量化”的主題下，德國(guó)標(biāo)準(zhǔn)化機(jī)構(gòu)（DIN）定義了所謂的機(jī)器學(xué)習(xí)中的不確定性量化的基本術(shù)語。該文件制定了要求和指南，并提供了應(yīng)用示例。其目的是就如何在實(shí)踐中處理不確定性的量化問題向行業(yè)和科學(xué)領(lǐng)域的利益相關(guān)者提供建議。

人工智能安全的重要支柱

DIN SPEC 92005的發(fā)起人、Industrieanlagen Betriebsgesellschaft mbH的Lukas H?hndorf博士指出，“不確定性的量化是一個(gè)廣泛而深入的研究領(lǐng)域。但到目前為止，還缺乏反映當(dāng)前技術(shù)水平的標(biāo)準(zhǔn)化，能夠估計(jì)與模型、算法和預(yù)測(cè)結(jié)果相關(guān)的不確定性是人工智能安全的重要支柱，尤其是在安全關(guān)鍵系統(tǒng)中。"

影響結(jié)果的因素很多

不僅不完整或不清楚的數(shù)據(jù)和場(chǎng)景會(huì)影響ML模塊的系統(tǒng)環(huán)境，自動(dòng)駕駛過程中的極端天氣條件或應(yīng)用環(huán)境中其他參與者的非常規(guī)行為也會(huì)影響人工智能的結(jié)果。

CERTIFIED人工智能項(xiàng)目聯(lián)合體負(fù)責(zé)人、Fraunhofer智能分析與信息系統(tǒng)研究所人工智能保證與認(rèn)證團(tuán)隊(duì)負(fù)責(zé)人Maximilian Porechkin博士表示：“人工智能是許多傳統(tǒng)軟件無法實(shí)現(xiàn)的應(yīng)用程序的基礎(chǔ)。為了在敏感的應(yīng)用環(huán)境中使用，人工智能系統(tǒng)必須是安全、穩(wěn)健和值得信賴的。DIN SPEC 92005為確保這一點(diǎn)做出了重要貢獻(xiàn)“。

DIN SPEC 92005是CERTIFIED AI研究項(xiàng)目的成果，該項(xiàng)目是DIN與Fraunhofer智能分析和信息系統(tǒng)研究所（IAIS）、聯(lián)邦信息安全辦公室（BSI）以及其他科學(xué)和工業(yè)合作伙伴共同合作開展的。其目的是確保技術(shù)可靠性和負(fù)責(zé)任地使用技術(shù)。該項(xiàng)目由北萊茵-威斯特法倫州經(jīng)濟(jì)、工業(yè)、氣候保護(hù)和能源部資助。由來自以下組織的知名專家聯(lián)盟共同制定：Industrieanlagen-Betriebsgesellschaft mbH IABG, the Fraunhofer Institutes for Intelligent Analysis and Information Systems IAIS, for Cognitive Systems ICS as well as for Experimental Software Engineering IESE, ai.dopt, DEKRA Digital GmbH, e:fs TechHub GmbH, Giesecke+Devrient, Helsing GmbH, Leibniz University of Applied Sciences, Federal Network Agency for Electricity, Gas, Telecommunications, Post and Railways (BNetzA), Institute for Occupational Safety of the German Social Accident Insurance (IFA).