人工智能（AI）技術不斷改進，部分AI業界領袖警告，若AI超越人類智慧，有可能威脅人類存亡，令科幻電影中AI滅絕人類情節變成現實。不過掌管數碼政策的歐盟委員會競爭事務專員韋斯塔格爾（Margrethe Vestager）上周受訪時稱，AI對於人類存亡風險不大，反而AI技術帶來的歧視才是真正威脅。隨着AI用途愈趨廣泛，他指要為AI設置「護欄」，規管可能影響到人類生活的AI決策，因為若銀行以AI工具來決定準業主能否獲得按揭貸款，又或市政府以AI決定哪些市民可獲社會服務，社會必須確保AI不會因為性別、膚色等因素，令申請人受到歧視。不過彭博社本月初發表的研究指出，AI工具所生成的內容，可能放大了社會的偏見。
部分AI專家指出，用以訓練AI模型的大量數據基本上從網上取得，當中可能存在偏見、歧視及有害信息。若用以訓練AI的數據不能公平地反映社會現實，這些AI模型最終可能會深化社會對不同種族和性別的刻板印象。為衡量生成式AI是否存在偏見，彭博社以原始數據對外公開的免費AI繪圖工具「Stable Diffusion」作為研究對象，利用該AI軟件繪製10多種高薪及低薪職業的圖像，結果發現其繪製的逾5000張虛構人物圖像所隱含的種族和性別偏見，甚至比現實情况嚴重。

AI生成高薪職業圖像 膚色淺者為主
彭博社發現，該AI工具所生成的高薪職業圖像，包括CEO、法官、律師及政客等，都以膚色較淺者為主，而膚色較深者則常見於快餐店職員、洗碗工、門衛等收入較低的職業。根據彭博社統計，該AI工具所生成的快餐店職員圖像，有70%是膚色較深的人士，儘管美國勞工部的數據顯示，美國70%快餐店職員是白人。
彭博社指出，整體而言，AI生成男性圖像，數量是女性圖像3倍。大部分職業圖像以男性為主，只有家務助理和收銀員等低薪職位以女性圖像居多，且女性出現於低薪職位圖像比例高於現實。大部分高薪及具權力的職業，嚴重缺乏女性代表，例如AI所生成的法官圖像，女性佔3%。根據美國官方數據，34%美國法官是女性。

AI初創：所有模型均存偏見
發行「Stable Diffusion」的初創公司StabilityAI稱，所有AI模型都存在一些偏見，這是由於數據庫問題，希望透過開源模型，促進AI社區改善「偏見評估技術」。AI初創公司Hugging Face稱，AI生成圖像，本質是向世界投射單一世界觀，而不是反映多元共融的影像。不過此類將文字演化為圖像的AI工具，已應用於圖像軟件商Adobe、圖形處理器（GPU）龍頭Nvidia的應用程序等，並開始應用於數碼廣告製作。一些AI專家預測，網上達90%內容可在數年內由AI生成。這意味AI反映的偏見將可能放大，妨礙社會消除歧視。