本文來自 Mckinsey Implementing generative AI with speed and safety 的讀後筆記,這是我家的 MA 幫忙找到並介紹給我的,這篇其實出版時間早於金融服務的未來:生成式人工智慧與其運營模式革新。
大意: 生成式人工智慧(gen AI)已成為推動企業創新、成長與提升生產力的關鍵動力。麥肯錫的研究指出,gen AI 不僅有機會為全球經濟增加高達 4.4 兆美元的經濟價值,更能提升所有 AI 技術的影響力 15% 至 40%。然而,如此巨大的潛力自然伴隨著不小的風險,從資料偏差、AI 幻覺、到可能引起的大規模錯誤資訊及對政治和個人福祉的惡意影響,gen AI 的挑戰不容小覷。
這篇文章深入探討了企業如何在迅速採用 gen AI 的同時,確保安全與負責任地進行。文章建議企業採取四個具體步驟來應對與 gen AI 相關的風險,從了解內部風險暴露(inbound),發展各方面的人工智慧風險觀點,到建立治理結構和運營模型,每一步都旨在為企業提供清晰的路線圖,幫助它們在尚不確定的法規環境中穩健前行。
註:inbound 在這裡指的是即使不部署 gen AI,也可能影響組織的風險
主文摘要:
- 生成式 AI 的轉型潛力與經濟價值
- 生成式 AI 為企業提供轉型機會,能夠在創新、成長和生產力提升等方面產生顯著影響。
- 麥肯錫估計gen AI可能為全球經濟帶來高達 4.4 兆美元的經濟價值,提高所有AI技術影響的 15% 至 40%。
- 風險認識與準備不足
- 許多組織體認到 gen AI 的未來發展機會也正躍躍欲試(63%);但因伴隨重大風險,仍感到自己對於負責任的部署準備不足(91%)。
- 風險包括不準確輸出(含幻覺)、訓練數據偏見,以及對政治和個人福祉的潛在負面影響。
- 負責任與有效風險管理策略
- 文章提議四步驟策略:了解內部的風險暴露、發展全面風險觀點、建立治理結構、嵌入運營模型(這就是上一篇有提到的)。
- 這些策略有助於組織在 AI 監管環境演變時,負責任且有效地捕捉 gen AI 的價值。
- 風險類別與管理
- 將 gen AI 相關風險分為八大類別,包括四個同時也是內部風險源 (inbound) 的安全威脅、第三方風險、惡意使用和侵犯智財權等。
- 強調組織需定期評估風險暴露和更新風險管理策略以適應技術演進。
- 通過 AI 治理在速度與風險管理之間取得平衡 (參考圖五)
- 一個跨職能、負責 gen AI 發展的小組,至少每月一次會議。
- AI 指導原則和政策:組織應該開發一套由執行團隊和董事會同意的 AI 指導原則和政策。
- AI 人才和文化:對負責任的 AI 的承諾不能僅僅停留在執行層面。相反,它需要貫穿整個組織,將責任、能力建設和意識調整到相關角色對技術的暴露程度。應該開發並推出基本的全組織負責任的 AI 培訓,以促進對內部風險動態的廣泛理解,以及如何安全地與技術互動。
- 實施 gen AI 的關鍵角色與責任
- 四個關鍵角色:設計師、工程師、管理員、和使用者,各自承擔不同職責,推進負責任 AI 使用。
- 建立適當治理結構和人才管理是成功利用 gen AI 的關鍵,幫助組織管理風險並充分掌握技術好處。
結論: 在擁抱gen AI帶來的巨大潛力時,企業必須同時面對與之相伴的風險。麥肯錫的建議提供了一個實用且系統的框架,幫助企業在探索 gen AI 的無限可能性時,仍能保持負責任與謹慎的態度。考慮到潛在的生產力提升,努力可持續且負責任地擴大 gen AI 的規模對於充分發揮其全部好處至關重要。