科技公司忽視的「AI技術債」　誰來買單？

編譯／莊閔棻

雖然在技術開發上，雖然很多科技都會帶有「技術負債」（Technical debt）的推出，然而，這在人工智慧上可能會造成大問題。

根據《快公司》的報導，一般來說，「技術負債」通常指的是為求快推出，而未來會出現的、隱藏的軟體方面修復成本。但在人工智慧上，其「技術負債」帶來的，是會傷害到人們的有害訊息、偏見、錯誤消息和隱私等。

在軟體開發中，「技術負債」一詞指的是由於現在選擇了更快、更不謹慎的解決方案，而導致未來需要進行補救修復的隱性成本。通常急於將一項技術推向市場，可能代表發布的是尚未準備好的軟體。一般情況下，軟體一旦進入市場，使用者可能會發現錯誤、並希望能即時修復。然而，人工智慧引起的是對人類整體生活的影響，並不是修改程式就可以解決的問題。

一項會強化對人的壓迫或偏見的技術，與網站上一個可能不起作用的按鈕是非常不同的。現在，各大公司求快推出人工智慧，讓人們對於AI系統將如何放大有害偏見、侵犯智慧財產或隱私、傳播錯誤資訊、以及對迅速取代人類工作，感到很擔心。而這些問題都不只是軟體故障這麼簡單。

這種困境的根源是不確定性。雖然這是許多技術革命的常見副作用，但在人工智慧上這個問題又被放大了。畢竟，對於人工智慧來說，其部分意義在於，該技術是不可預測的。雖然人工智慧沒有被設計成會產生負面後果，但它被設計成產生「不可預見」的結果。而事實證明，很多時候這些結果都會對我們接受的各種資訊產生負面影響。

但現在，各大科技公司似乎都已經把道德倫理拋在腦後了。微軟的一位高層就指出：「在這個時刻，擔心那些以後可以解決的事情，將是一個絕對致命的錯誤。」不過，債務最終會回到我們身上，而歷史似乎證明了，大科技公司的高層和投資者可能不是真正買單的人。

參考資料：Fast Company

瀏覽 30,890 次