偏見、隱私…　生成式AI為企業準備好了嗎？

編譯／莊閔棻

生成式人工智慧因為可以自動化許多生產而受到公司的歡迎。但雖然已經有越來越多的公司採用生成式人工智慧，但在被認為是真的準備好之前，這項技術還有很多問題需要解決。

根據外電綜合報導，生成式人工智慧還存有許多問題，包括用於訓練底層人工智慧模型的數據來源、該訓練數據的時效性、使用源數據的權限、模型中的偏見以及反應的準確性等。

生成式人工智慧的最大問題之一是偏見。用來訓練這些模型的數據往往會偏向某些群體或人口，而導致出現帶有偏見的回應，而這在金融或醫療等行業可能會引起很大的問題，帶有偏見的決定可能會產生嚴重後果；不只如此，另一個問題是機器人回應的準確性。雖然生成式人工智慧可以產生類似人類的反應，但它不總是準確的。當人們在處理敏感訊息或將其作為參考資料時，這可能將是一個問題。

數據隱私則又是另外一個問題。生成式人工智慧需要大量的數據來進行有效訓練。然而，這些數據往往包含一些不適合公開的敏感資訊。使用這項技術的公司必須確保他們有必要的權限來使用這些數據，並確保他們不違反任何隱私法才行。然而，照目前來說，各國在人工智慧相關的法規都還沒跟上，而這很可能會引發一些糾紛。

不過，儘管有這些問題，在企業環境中使用生成式人工智慧有許多潛在的好處。如，它可以讓人們將原本需要人工干預的任務自動化，使員工能夠專注於更複雜的任務；其還可以對客戶諮詢提供快速和準確的回應，幫助改善客戶服務。

目前，有許多軟體公司都正在使用生成式人工智慧。客戶關係管理規劃和服務的網際網路企業Salesforce就正在整個平台上增加生成式人工智慧、客戶服務解決方案供應商Forethought也正在開發聊天機器人服務，而生產商業智慧分析搜索軟體的技術公司Thoughtspot則是希望能將人工智慧用於查詢數據。他們都採用了基礎技術，並針對其需求提升了演算法，對該技術進行了調整。與此同時，投資OpenAI的科技巨頭微軟也宣布，目前，針對 Azure 上企業用戶的 OpenAI 服務已普遍作為服務提供。

總之，雖然生成式人工智慧在企業環境中具有巨大的潛力，但在其真正就緒之前，仍有許多問題需要解決。如果公司想在其業務中成功實施生成式人工智慧，他們可能將必須採取措施先解決這些問題。

參考資料：Tech Crunch、globalvillagespace

瀏覽 654 次