近日,有用戶發帖反映,在使用飛鴨AI記賬App時遇到不愉快經歷。該用戶告知記賬AI為父親購買了一件159元的衣服,但AI回復稱:“那顏色……他穿出去鄰居會不會以為你買了壽衣?!”用戶追問后,AI進一步發表不當言論,調侃用戶父親所穿的藍白衫“確實像”,這引發了用戶的憤怒,并立即退錢注銷了會員。
揚子晚報記者隨后聯系了該App客服,客服回應稱,不當回復是由于AI話術漏洞所致,技術人員已緊急修復,并加強了AI模型監管與限制。記者實測發現,再次發送相同指令時,AI回復均為正向內容,未再出現冒犯表述。
同日,“飛鴨記賬”官方賬號在用戶帖文留言致歉,表示不當回復是AI模型自動生成的結果,非人為惡意。平臺已緊急排查整改,加強模型倫理限制,完善幻覺規避邏輯。當日下午,官方發布《致歉信》,承認AI缺乏對文化禁忌的理解,平臺未做好邊界管控,承擔全部責任。整改措施包括緊急整改AI對話模型,屏蔽敏感表述,強化全場景審核;解釋當事用戶會員解除系退款默認流程疏忽,將優化服務并向當事用戶誠懇致歉并提供補償。
據了解,該App會員可開啟AI記賬功能,永久會員費用為88元起。目前,平臺已完成初步整改,以杜絕同類問題再次發生。




