澳大利亞現(xiàn)場活動聚焦新的人工智能管理系統(tǒng)標(biāo)準(zhǔn)

AS ISO/IEC 42001:2023開創(chuàng)了負責(zé)任地使用人工智能（AI）的先例，為組織建立、實施、維護和持續(xù)改進其人工智能管理系統(tǒng)提供了指南。

澳大利亞標(biāo)準(zhǔn)協(xié)會最近舉辦了一場網(wǎng)絡(luò)研討會，重點聚焦AS ISO/IEC 42001:2023《信息技術(shù)  人工智能  管理系統(tǒng)》標(biāo)準(zhǔn)。這一新標(biāo)準(zhǔn)旨在改變?nèi)斯ぶ悄芄芾淼姆绞?，為人工智能技術(shù)的道德管理和通用性提供一個明確的框架。

此次網(wǎng)絡(luò)研討會由澳大利亞技術(shù)委員會IT-43人工智能委員會成員、Virtual Ink Australia董事Harm Ellens主持，會議詳細探討了這一新標(biāo)準(zhǔn)的內(nèi)容。該活動為技術(shù)專業(yè)人士和組織提供了寶貴的資源，讓他們深入了解該標(biāo)準(zhǔn)如何幫助他們有效地、在道德框架下管理人工智能系統(tǒng)。

活動還包括現(xiàn)場問答環(huán)節(jié)，與會者可以向Ellens先生詢問與標(biāo)準(zhǔn)及其工作相關(guān)的問題。

現(xiàn)場問答?

問：銀行業(yè)是否采用并實施了該標(biāo)準(zhǔn)？

?答：是的，澳大利亞的一些金融組織正在積極努力實施該標(biāo)準(zhǔn)。加拿大一家銀行成功地用該標(biāo)準(zhǔn)的草案版本對AIMMS認證程序進行了測試，展示了其在金融部門的廣泛適用性。

?問：不實施人工智能管理系統(tǒng)標(biāo)準(zhǔn)的風(fēng)險是什么？

答：組織在合規(guī)方面有落后的風(fēng)險，尤其是在歐洲等地區(qū)，《歐洲人工智能法案》要求遵守AS ISO/IEC 42001:2023等高風(fēng)險人工智能用例標(biāo)準(zhǔn)。不執(zhí)行可能導(dǎo)致重大的法律和業(yè)務(wù)挑戰(zhàn)。

問：為什么公司，尤其是中小企業(yè)，應(yīng)該考慮實施AS ISO/IEC 42001:2023標(biāo)準(zhǔn)？

答：實施該標(biāo)準(zhǔn)有助于支持提高或恢復(fù)公司在人工智能方面的可靠性水平，特別是在零售等行業(yè)，人工智能的使用引發(fā)了隱私問題。目前正在編寫一本手冊，以幫助中小企業(yè)實施過程，確保它既易于管理，又不占用大量資源。

問：該標(biāo)準(zhǔn)是否適用于人工智能開發(fā)者和采購商？

答：是的，該標(biāo)準(zhǔn)為開發(fā)者和采購商提供了指導(dǎo)，解決了他們在有效管理人工智能系統(tǒng)方面的獨特風(fēng)險和目標(biāo)。

問：AS ISO/IEC 42001:2023標(biāo)準(zhǔn)將如何與人工智能技術(shù)的進步保持同步？

答：該標(biāo)準(zhǔn)將每五年進行一次審查，也可能每兩年或根據(jù)需要進行一次更新，以應(yīng)對人工智能技術(shù)的快速發(fā)展，包括生成式人工智能。

問：政府部門和機構(gòu)是否可以使用AS ISO/IEC 42001:2023標(biāo)準(zhǔn)？

答：當(dāng)然可以，該標(biāo)準(zhǔn)高度適用于政府環(huán)境，有利于負責(zé)任地使用和采購人工智能。

問：AS ISO/IEC 42001:2023標(biāo)準(zhǔn)與其他人工智能標(biāo)準(zhǔn)的區(qū)別是什么？

答：AS ISO/IEC 42001:2023是第一個獨立于任何特定法律法規(guī)構(gòu)建的國際公認的人工智能管理標(biāo)準(zhǔn)。其全球覆蓋范圍使其有別于區(qū)域標(biāo)準(zhǔn)，為跨境人工智能管理提供了一個全面的框架。

問：澳大利亞企業(yè)準(zhǔn)備采用AS ISO/IEC 42001:2023的百分比或比例是多少？

答：根據(jù)傳聞證據(jù)，可能受到美國和歐盟法規(guī)影響的組織正在開始準(zhǔn)備AS ISO/IEC 42001:2023。目前，這一數(shù)字處于個位數(shù)百分比，隨著非盟監(jiān)管的形成，預(yù)計還會增加。

問：采購人工智能是否指GPT 3.5等基本LLM模型？如果我們在此基礎(chǔ)上進行開發(fā)，我們是否在使用采購的人工智能？

答：這兩者都適用。該標(biāo)準(zhǔn)確定了各種利益相關(guān)者的角色，這些角色從人工智能生產(chǎn)者到人工智能服務(wù)提供商和人工智能用戶各不相同。生產(chǎn)者和用戶都可能被要求遵守標(biāo)準(zhǔn)。然而，它們將以不同的方式實現(xiàn)這一遵守。

問：這是一個獨立的標(biāo)準(zhǔn)嗎？是否需要通過AS/NZS ISO 9001:2016或AS ISO/IEC 27001:2022等認證？

答：AS ISO/IEC 42001:2023標(biāo)準(zhǔn)專門針對人工智能系統(tǒng)，而AS ISO/IEC 27001:2022則專門針對網(wǎng)絡(luò)安全。所以，兩者都是必須的。然而，這些多種管理標(biāo)準(zhǔn)可以相互引用。因此，符合AS/NZS ISO 9001:2016和AS ISO/IEC 27001:2022減少了整個AS ISO/IEC 42001:2023的建立和維護工作。

問：如果完全實施，這一標(biāo)準(zhǔn)是否足以作為一個組織的內(nèi)部人工智能治理框架？

答：ISO/IEC 38507中描述了的人工智能政策和人工智能目標(biāo)提供信息。對于大多數(shù)組織來說，AS ISO/IEC 42001:2023可能已經(jīng)足夠了。但對于其他公司，尤其是那些使用嵌入式人工智能制造設(shè)備和產(chǎn)品的公司，或者那些自動化財務(wù)建議的公司，可能需要符合其他標(biāo)準(zhǔn)。這也與任何立法和監(jiān)管要求是分開的，我們將在2024-2025年期間看到世界各地出現(xiàn)一些立法和監(jiān)管要求。包括澳大利亞。

問：你認為公司在組織中實施該標(biāo)準(zhǔn)時可能面臨的主要挑戰(zhàn)是什么？

答：第一步往往是最難的。創(chuàng)建已經(jīng)部署的人工智能清單并確定人工智能管理系統(tǒng)的范圍需要大量人員參與。在此基礎(chǔ)上，該標(biāo)準(zhǔn)大致概括了您必須完成的過程。

問：你見過制藥公司采用這個標(biāo)準(zhǔn)嗎？

答：還沒有。一些醫(yī)療器械公司已經(jīng)在實施該標(biāo)準(zhǔn)。診斷軟件現(xiàn)在被視為一種“設(shè)備”，因此如果制藥公司開發(fā)和發(fā)布診斷應(yīng)用程序，他們很可能在未來的某個階段不得不采用AS ISO/IEC 42001:2023。

問：AS ISO/IEC 42001:2023的制定是否考慮了GenAI和LLM的影響以及與其他人工智能系統(tǒng)相比的不同風(fēng)險狀況？

答: AS ISO/IEC 42001:2023可應(yīng)用于任何人工智能，包括非機器學(xué)習(xí)人工智能和最近的機器學(xué)習(xí)方法和發(fā)展。ISO/IEC 23894可以幫助您的組織以及GenAI和LLM的用例進行風(fēng)險評估。

問：標(biāo)準(zhǔn)中有哪些部分對技術(shù)主管最有用？更廣泛地說，你能告訴我們你對技術(shù)主管有什么建議嗎？

答：對技術(shù)主管最有用的部分是參考另一個標(biāo)準(zhǔn)ISO/IEC 5338《AI系統(tǒng)生命周期過程》。它描繪了人工智能系統(tǒng)生命周期與傳統(tǒng)軟件生命周期的區(qū)別。AS ISO/IEC 42001:2023的許多部分都參考了ISO/IEC 5338，作為技術(shù)負責(zé)人，您將被要求演示如何管理人工智能系統(tǒng)的生命周期。該標(biāo)準(zhǔn)將為您提供一個流程框架，您可以使用該框架來審查和更新組織的開發(fā)實踐。