近日，有用戶發帖反映，在使用飛鴨AI記賬App時遇到不愉快經歷。該用戶告知記賬AI為父親購買了一件159元的衣服，但AI回復稱：“那顏色……他穿出去鄰居會不會以為你買了壽衣？！”用戶追問后，AI進一步發表不當言論，調侃用戶父親所穿的藍白衫“確實像”，這引發了用戶的憤怒，并立即退錢注銷了會員。

揚子晚報記者隨后聯系了該App客服，客服回應稱，不當回復是由于AI話術漏洞所致，技術人員已緊急修復，并加強了AI模型監管與限制。記者實測發現，再次發送相同指令時，AI回復均為正向內容，未再出現冒犯表述。

同日，“飛鴨記賬”官方賬號在用戶帖文留言致歉，表示不當回復是AI模型自動生成的結果，非人為惡意。平臺已緊急排查整改，加強模型倫理限制，完善幻覺規避邏輯。當日下午，官方發布《致歉信》，承認AI缺乏對文化禁忌的理解，平臺未做好邊界管控，承擔全部責任。整改措施包括緊急整改AI對話模型，屏蔽敏感表述，強化全場景審核；解釋當事用戶會員解除系退款默認流程疏忽，將優化服務并向當事用戶誠懇致歉并提供補償。

據了解，該App會員可開啟AI記賬功能，永久會員費用為88元起。目前，平臺已完成初步整改，以杜絕同類問題再次發生。