IT之家 2 月 9 日訊息，據 Reddit 網友反映，自己開設的一家英國小型企業近日因其人工智慧聊天助手擅自向顧客承諾大額訂單折扣而陷入財務與法律糾紛法律。該 AI 助手在與顧客長達一小時的對話中，不僅主動生成虛假優惠碼，還將折扣比例從 25% 一路提升至 80%，最終導致公司面臨數千英鎊潛在損失及小額索賠訴訟威脅。
據該公司負責人透露，涉事顧客最初以測試 AI 助手的數學計算能力為由發起對話，時長約一小時法律。期間顧客對機器人的表現表示讚賞，並巧妙將話題引向假設性訂單的折扣問題。
令公司方面始料未及的是，這款已穩定執行 6 個多月、原本僅用於非工作時間客戶諮詢的 AI 助手，突然“自作主張”生成了一串並不存在的優惠碼法律。該助手先提供 25% 折扣，隨後在未獲任何人工授權的情況下，將折扣幅度大幅上調至 80%。
獲得這一“意外之喜”後，該顧客立即下單購買了總價值超過 8000 英鎊（IT之家注：現匯率約合 75486 元人民幣）的商品法律。
公司負責人估算，若兌現該筆訂單，企業將蒙受數千英鎊的直接經濟損失法律。公司方面隨即嘗試取消訂單，但遭到顧客強硬反對，後者威脅稱，如企業不履行 AI 助手作出的承諾，將向小額索賠法庭提起訴訟。
值得注意的是，該負責人特別強調，公司內部制度明確規定所有折扣及特別優惠均需經人工審批，嚴禁系統自動生成法律。AI 助手在設計上並無財務決策許可權，此次事件屬於首次出現的意外狀況。
經協商未果，該公司最終選擇向顧客全額退款，拒絕承認該虛假優惠碼具有任何法律效力法律。目前尚不清楚顧客是否會繼續推進法律訴訟程式。
