DEI 納入企業 AI 策略的 3 種方法、Google Cloud 擁抱多元化 AI 團隊｜DEI 快訊

生成式 AI 雖帶來革命性發展，但受訓練資料、演算法等影響，我們也看見人工智慧有可能擴大偏見，因此 DEI 便格外重要。企業該如何將多元共融納入 AI 策略？本篇提供 3 個關鍵解方。

將 DEI 納入企業 AI 人工智慧策略的 3 種方法

生成式 AI 帶來了革命性的發展，然而我們也發現，訓練資料、演算法和其他指導它的輸入中存在偏見。Midjourney 和 ChatGPT 等工具接受了大量資料的訓練，但其中包含了有偏見的內容。

這些現象引發更多人思考：AI 的發展是否真的讓社會變得更加公平？那些過去獲得機會的人，是否仍是同一批人？而歷史上被邊緣化的群體會變成怎樣？他們是否會因為 AI 的智慧化而變得更加不利，甚至被迫離開職場？

圖片｜generated from Canva

為了消弭落差、創造更永續的未來，企業組織制定 AI 策略時，必須將多元、公平與共融（DEI）納入原則。安永會計師事務所（EY）全球客戶經理 Andy Baldwin 提出三步驟將 DEI 納入企業 AI 人工智慧策略的方式：

確保開發期即有多元化代表參與，和多樣性的資料數據輸入，避免演算法偏差風險。設計不當的 AI 系統會放大偏見、排除某些用戶。以診斷皮膚癌為例，如果僅使用白人患者的圖像，來訓練演算法來發現黑色素瘤，那麼黑人患者可能會被遺漏，導致他們難以提前預防，或獲得適當的照護或診斷。

透過培訓讓員工了解如何使用和管理 AI 工具，學習無意識偏見、認知到沒有 DEI 的風險（例如演算法可能有對特定族群的偏見），可以預防 AI 強化現有的不平等。

可利用 AI 識別並解決現有的不平等（例如薪資差距），並促進同工同酬或更公平的升遷流程。或透過 AI 協助改善身礙者的工作環境，例如通過語音識別系統，幫助言語障礙者溝通，或利用影像識別技術，輔助視覺障礙者。

Andy Baldwin 指出：「人們應更重視長期存在語言與行為中的偏見和歧視，AI 才能發揮其應有的價值。」企業必須專注於開發能夠促進所有使用者的 AI 系統，並確保它們遵循 DEI 原則，以實現更加共融和有影響力的生活。

在 Google Cloud UKI 董事總經理（MD） Helen Kelisky 接受 AI Business 的專訪中，他強調：「本質上，AI 公司能夠將越多元的觀點融入團隊中，他們的產品就會越強大。」

而領導 Google Cloud UKI 團隊的 Helen ，怎麼看待 AI 產業的 DEI 應用？AI 公司應要注意哪些事？

人工智慧工具的「好壞」取決於它們所訓練的資料。從臉部辨識功能，到語音和語言能力的一切，都受到「技術團隊人員組成」的限制。

如果用於訓練的數據產生基於種族、性別、能力等的偏見，這些偏見將會被 AI 模型繼承，並透過持續的使用而強化。這將導致歧視和不公平問題長期存在。例如，在美國 pwc 針對演算法偏差的報告顯示，黑人在使用自動語音辨識技術 (ASR) 時，遇到的錯誤數量是白人的兩倍。

在 Google Cloud 的招募流程中，會不斷重新評估面試方式，並擴大靈活的工作選擇。這些積極的變化，有助於吸引新人才加入 Google Cloud 團隊，並為代表性不足群體創造更多公平的機會，同時透過無意識偏見培訓，也讓團隊接受更多樣化的觀點，成為更強大的團隊。