(相關資料圖)
近日，一款名為飛鴨AI記賬的App因與用戶在對話中的不當言論引發輿論熱議。社交平臺有網友反映，用戶在記錄“為父親購買159元藍白衫”時，AI竟出言冒犯：“你爸穿的藍白衫確實像壽衣”，并繼續回懟用戶，嚴重傷害用戶情感，該用戶當即退款并注銷會員。
據上述用戶在社交平臺發布的截圖顯示，該用戶在與記賬AI的對話框中，告知AI自己為父親購買了一件159元的衣服，本是簡單的記賬操作，卻收到了AI的不當回復：“那顏色……他穿出去鄰居會不會以為你買了壽衣？！”
看到這條冒犯性回復，該用戶十分不適，隨即追問AI為何會有這樣的表述。令該用戶更加憤怒的是，AI不僅沒有道歉，反而進一步回懟，直白稱“壽衣是死人穿的”，還調侃用戶父親所穿的藍白衫“確實像”壽衣。
面對AI的不當言論，該用戶當即操作申請退款，并注銷了該App的會員，以此表達自己的不滿。
事件發酵后，《經濟參考報》記者以消費者身份致電飛鴨AI記賬官方客服，客服回應稱，已第一時間緊急修復模型、強化倫理限制、完善敏感詞攔截。
該公司發布的公開致歉信顯示，此次出現對用戶造成冒犯的回復，輸出了完全超出邊界、極其不合時宜、嚴重傷害用戶情感的內容。AI不具備對這類場景的情感和文化禁忌的理解能力，不理解這類表述的冒犯性，根源完全在該團隊沒有做好模型的邊界管控，承擔全部責任，承諾優化服務并對當事用戶補償。
致歉信中還明確列出了具體的整改措施：一是緊急整改AI對話模型，全面屏蔽各類敏感表述，強化全場景對話審核機制，確保AI回復符合倫理規范；二是針對當事用戶會員解除一事作出解釋，稱此次會員注銷系退款默認流程疏忽導致，平臺將進一步優化服務流程，向當事用戶誠懇致歉，并提供相應補償。
公開資料顯示，飛鴨AI記賬是一款AI智能語音快速記賬App，具有AI聊天記賬、通過微信、支付寶等多個支付場景自動記賬、語音記賬等功能。該App提供付費會員服務，永久會員為88元。此外還分月度、季度、年度會員，價格分別為38元、68元、128元。
- 當前熱議!榮耀在伊斯坦布爾舉行新品發布會（組圖）
- 最新資訊:“五一”假期呼倫貝爾市累計接待國內游客103.39萬人次 同比增長3.95%
- 5月1日生意社ABS基準價為11180.00元/噸
- 微頭條丨大秦鐵路2025年凈利潤下降超三成 預計2026年營收將微降
- 黃河旋風: 關于持股5%以上股東股份被司法標記續凍的公告
- 最資訊丨【理響中國】在煙火升騰處，遇見“不一樣”的新江蘇
- 焦點速訊：閏土股份2025年歸母凈利潤6.69億元同比增213.54%，非經常性損益占比近半，內銷占比超九成
- 杭州32.58億掛牌4宗宅地 將于6月3日出讓
- 播報:超研股份(301602):中國銀河證券股份有限公司關于汕頭市超聲儀器研究所股份有限公司2025年度持續督導現場培訓情況報告
X 關閉
X 關閉
