微軟Bing Chat擬放寬輸入字元　實施時間還未定

記者／竹二

微軟近期計畫要放寬個人版及企業版的Bing Chat聊天機器人的輸入字元上限，預計將由現行的4000字元提高1倍，來到8000字元，只不過正式實施的時程還未知，因為礙於成本問題，擴張服務規模所衍生的營運成本與技術問題還有待克服。

Bing Chat擬開放輸入字元達8000個

微軟的Bing Chat在今年年初推出時，只要回覆問題超過15次，就會表現出異常的行為，像是與用戶有衝突或是出現過激語氣，迫使微軟縮減用戶問答次數及輸入字元數。隨後在Bing Chat表現越來越穩定後，微軟逐步放寬對談輸入內容，目前一次可以詢問20個問題、輸入4000個字元。7月上線的企業版Bing Chat也有一樣的限制。

更多新聞：免費版Bing Chat更強大　連 ChatGTP都輸給它

而近日微軟表示，他們計畫要擴增Windows消費版、企業版的Bing Chat輸入字元上限，預計由現行的4000字元增加到8000字元，只不過還等再等一段時間，原因是因為演算法會造成context空間需求增加，因此字元擴增為2倍會讓Bing Chat營運成本增加為4倍，據了解，微軟正在積極解決這項問題。

維運聊天機器人很燒錢

據了解，營運聊天機器人相當耗費資源，不僅伺服器很耗能，也牽涉更高的冷卻成本，根據一份加州大學的研究指出，使用者在微軟Bing Chat或是ChatGPT等聊天機器人，每查詢一次所散發的伺服器熱氣，都相當於耗掉1瓶水，而微軟自己內部的資料也顯示，由於AI系統使用量大增，他們在 2022年全球資料中心用水量，比前一年激增34%。

這些資源的花費與維護對新創公司更是一大考驗，就有國外的研究機構預估，OpenAI的ChatGPT一天營運成本高達70萬美元，要不是有微軟的資金挹注，可能明年就會面臨破產的問題。

※更多ChatGPT相關訊息，請參考【生成式AI創新學院】。

瀏覽 694 次