融入真實生活 減低偏見 教曉人工智能做個更負責任的AI

博客 15:10 2020/08/14

分享:

融入真實生活 減低偏見 教曉人工智能做個更負責任的AI

人工智能不僅提高效率和降低成本,而且還可以幫助企業重新思考和解決關鍵問題。人工智能透過讀取大量的數據,分析當中有意義的規律,並提供對應的建議。但假如部署人工智能系統時沒有考慮到合規性(Compliance)和核心價值(Core Value),反而會讓企業面臨重大風險,包括數據隱私和安全問題、造成偏見等。不合規或沒有核心價值規範的人工智能系統,除了可能觸犯法規而導致罰款(尤其是受監管行業如金融),還可能影響到客人的用戶體驗,更甚會牽連到企業的聲譽。

【延伸閱讀】金融業如何有效率地引入自動化運作?

事實上,企業創建人工智能系統時往往考慮並不周全。舉一個經典的例子,某國際知名的高科技公司曾經部署一個人工智能招聘系統,旨在通過閱讀簡歷並篩選合適的候選人來簡化招聘流程。該系統背後的演算法主要是參照傳統的招聘流程。但是,該系統在篩選簡歷的時候,在計分系統中負面標記了含有與女性有關的詞語。該人工智能系統似乎在學習的時候,錯誤地把性別作為其中一個考慮因素,並把計分偏向於男性候選人。該演算法並沒有幫助消除招聘過程中存在的偏見,反而是把偏見融入演算法當中。

故此,埃森哲認為,創建人工智能系統的時候,並不能只單純考慮系統的運算和智能性,企業同時還需要進一步理解技術背後的邏輯,不斷對新興技術進行教養和訓練,讓它們對人們的生活以及客戶的業務有深刻的洞悉,從而建立高度的信任和構建新的社會契約。

五大核心價值

前文提到,人工智能系統要有核心價值來規範以達致負責任的人工智能系統(又稱為責任AI/道德AI),以下是至為重要的五個核心價值。

  • 問責制:將「問責制」概念置於框架的核心,讓負責設計和開發團隊對人工智能系統的行為負責。
     
  • 透明度和可解釋性:促進人工智能系統的透明度和可解釋性以容許必要時的人為介入和修正。而且,人工智能系統的運作不應全是黑箱(black box),開發團隊應能夠清楚地標識並解釋和區分涉及人為或人工智能驅動的操作和背後的原理。
     
  • 公平和非歧視:通過定期測試和評估的系統和做法,避免產生偏見和歧視。
     
  • 安全性和可靠性:確保人工智能系統是安全和可靠,並有適宜的機制抵禦攻擊或不恰當的運用。
     
  • 隱私和知識產權:保護隱私和知識產權,確保訓練系統所使用的數據嚴格遵守法規和合符社會價值觀的預期。

【延伸閱讀】PayMe成功全靠Agile?拆解Agile如何為企業創造實際優勢

四步邁向更負責任的AI系統

負責任的人工智能系統像是一個具有明確規則的開發框架,透過規範訓練數據及工具、以及最佳做法來降低人工智能系統可能會面臨的風險。以下是一些推薦做法以實踐負責任的人工智能系統。

  • 以人為本的設計:設計人工智能系統時要考慮到用戶需求,並確保不違反用戶私隱和數據安全性。例如,設計時應盡量考慮所有可能的應用場景,以及持續收集用戶反饋來完善系統。
     
  • 培訓和監控:根據收到的反饋持續地進行系統改善工作,以及持續監視系統中的數據或行為改變,並根據需要進行必要的更新。另外,參與開發的員工亦需要受過良好的培訓,並對進行中的工作有足夠了解。
     
  • 檢查數據:人工智能模型建基於訓練的數據以實現自動化,因此開發團隊需要先仔細分析原始數據並充分理解其對人工智能系統訓練的影響和作用。同時,確保數據沒有錯誤、冗餘和偏差。
     
  • 測試:測試是人工智能系統開發中非常重要的階段。開發時應確保每個組件均經過嚴格測試,並進行集成和發布測試,以及使用各種數據集進行全覆蓋測試。

埃森哲已經朝著這個方向邁出了第一步,開發了一款方案來評估AI演算法是否公正,可以快速評估數據是否能產生公正的結果,並識別出是否有某些群組被演算法不公正對待。

在如今這個競爭激烈的市場中,思考和實施負責任人工智能系統變得至為重要。負責任人工智能系統並不是錦上添花(nice-to-have)的要求,而是成功推行人工智能系統的先決條件。貫徹建立負責任的人工智能系統不僅可以會使客戶受益,還將讓企業可持續地釋放人工智能的真正潛力!

 

【公司簡介】

埃森哲公司是一家全球領先的專業服務公司,是《財富》全球500強企業之一。埃森哲在大中華區開展業務30餘年,正在更創新地參與商業和技術生態圈的建設,幫助中國企業和政府把握數碼化力量,通過制定戰略、優化流程、集成系統、部署雲端計算等實現轉型,提升全球競爭力,從而立足中國、贏在全球。

作者:
Johnny Leung(埃森哲大中華區董事總經理)、
Jerry Sham(埃森哲大中華區董事總經理)、
Tommy Sou(埃森哲大中華區諮詢顧問)

撰文 : Accenture Greater China

欄名 : 埃森哲視野

緊貼財經時事新聞分析,讚好hket Facebook 專版