AS ISO/IEC 42001:2023開創(chuàng)了負責任地使用人工智能（AI）的先例，為組織建立、實施、維護和持續(xù)改進其人工智能管理系統提供了指南。

澳大利亞標準協會最近舉辦了一場網絡研討會，重點聚焦AS ISO/IEC 42001:2023《信息技術  人工智能  管理系統》標準。這一新標準旨在改變人工智能管理的方式，為人工智能技術的道德管理和通用性提供一個明確的框架。

此次網絡研討會由澳大利亞技術委員會IT-43人工智能委員會成員、Virtual Ink Australia董事Harm Ellens主持，會議詳細探討了這一新標準的內容。該活動為技術專業(yè)人士和組織提供了寶貴的資源，讓他們深入了解該標準如何幫助他們有效地、在道德框架下管理人工智能系統。

活動還包括現場問答環(huán)節(jié)，與會者可以向Ellens先生詢問與標準及其工作相關的問題。

現場問答?

問：銀行業(yè)是否采用并實施了該標準？

?答：是的，澳大利亞的一些金融組織正在積極努力實施該標準。加拿大一家銀行成功地用該標準的草案版本對AIMMS認證程序進行了測試，展示了其在金融部門的廣泛適用性。

?問：不實施人工智能管理系統標準的風險是什么？

答：組織在合規(guī)方面有落后的風險，尤其是在歐洲等地區(qū)，《歐洲人工智能法案》要求遵守AS ISO/IEC 42001:2023等高風險人工智能用例標準。不執(zhí)行可能導致重大的法律和業(yè)務挑戰(zhàn)。

問：為什么公司，尤其是中小企業(yè)，應該考慮實施AS ISO/IEC 42001:2023標準？

答：實施該標準有助于支持提高或恢復公司在人工智能方面的可靠性水平，特別是在零售等行業(yè)，人工智能的使用引發(fā)了隱私問題。目前正在編寫一本手冊，以幫助中小企業(yè)實施過程，確保它既易于管理，又不占用大量資源。

問：該標準是否適用于人工智能開發(fā)者和采購商？

答：是的，該標準為開發(fā)者和采購商提供了指導，解決了他們在有效管理人工智能系統方面的獨特風險和目標。

問：AS ISO/IEC 42001:2023標準將如何與人工智能技術的進步保持同步？

答：該標準將每五年進行一次審查，也可能每兩年或根據需要進行一次更新，以應對人工智能技術的快速發(fā)展，包括生成式人工智能。

問：政府部門和機構是否可以使用AS ISO/IEC 42001:2023標準？

答：當然可以，該標準高度適用于政府環(huán)境，有利于負責任地使用和采購人工智能。

問：AS ISO/IEC 42001:2023標準與其他人工智能標準的區(qū)別是什么？

答：AS ISO/IEC 42001:2023是第一個獨立于任何特定法律法規(guī)構建的國際公認的人工智能管理標準。其全球覆蓋范圍使其有別于區(qū)域標準，為跨境人工智能管理提供了一個全面的框架。

問：澳大利亞企業(yè)準備采用AS ISO/IEC 42001:2023的百分比或比例是多少？

答：根據傳聞證據，可能受到美國和歐盟法規(guī)影響的組織正在開始準備AS ISO/IEC 42001:2023。目前，這一數字處于個位數百分比，隨著非盟監(jiān)管的形成，預計還會增加。

問：采購人工智能是否指GPT 3.5等基本LLM模型？如果我們在此基礎上進行開發(fā)，我們是否在使用采購的人工智能？

答：這兩者都適用。該標準確定了各種利益相關者的角色，這些角色從人工智能生產者到人工智能服務提供商和人工智能用戶各不相同。生產者和用戶都可能被要求遵守標準。然而，它們將以不同的方式實現這一遵守。

問：這是一個獨立的標準嗎？是否需要通過AS/NZS ISO 9001:2016或AS ISO/IEC 27001:2022等認證？

答：AS ISO/IEC 42001:2023標準專門針對人工智能系統，而AS ISO/IEC 27001:2022則專門針對網絡安全。所以，兩者都是必須的。然而，這些多種管理標準可以相互引用。因此，符合AS/NZS ISO 9001:2016和AS ISO/IEC 27001:2022減少了整個AS ISO/IEC 42001:2023的建立和維護工作。

問：如果完全實施，這一標準是否足以作為一個組織的內部人工智能治理框架？

答：ISO/IEC 38507中描述了的人工智能政策和人工智能目標提供信息。對于大多數組織來說，AS ISO/IEC 42001:2023可能已經足夠了。但對于其他公司，尤其是那些使用嵌入式人工智能制造設備和產品的公司，或者那些自動化財務建議的公司，可能需要符合其他標準。這也與任何立法和監(jiān)管要求是分開的，我們將在2024-2025年期間看到世界各地出現一些立法和監(jiān)管要求。包括澳大利亞。

問：你認為公司在組織中實施該標準時可能面臨的主要挑戰(zhàn)是什么？

答：第一步往往是最難的。創(chuàng)建已經部署的人工智能清單并確定人工智能管理系統的范圍需要大量人員參與。在此基礎上，該標準大致概括了您必須完成的過程。

問：你見過制藥公司采用這個標準嗎？

答：還沒有。一些醫(yī)療器械公司已經在實施該標準。診斷軟件現在被視為一種“設備”，因此如果制藥公司開發(fā)和發(fā)布診斷應用程序，他們很可能在未來的某個階段不得不采用AS ISO/IEC 42001:2023。

問：AS ISO/IEC 42001:2023的制定是否考慮了GenAI和LLM的影響以及與其他人工智能系統相比的不同風險狀況？

答: AS ISO/IEC 42001:2023可應用于任何人工智能，包括非機器學習人工智能和最近的機器學習方法和發(fā)展。ISO/IEC 23894可以幫助您的組織以及GenAI和LLM的用例進行風險評估。

問：標準中有哪些部分對技術主管最有用？更廣泛地說，你能告訴我們你對技術主管有什么建議嗎？

答：對技術主管最有用的部分是參考另一個標準ISO/IEC 5338《AI系統生命周期過程》。它描繪了人工智能系統生命周期與傳統軟件生命周期的區(qū)別。AS ISO/IEC 42001:2023的許多部分都參考了ISO/IEC 5338，作為技術負責人，您將被要求演示如何管理人工智能系統的生命周期。該標準將為您提供一個流程框架，您可以使用該框架來審查和更新組織的開發(fā)實踐。