英國一家小公司陷入財務和法律糾紛，原因是其人工智慧聊天助手向一位顧客承諾了一筆大訂單的80%折扣。
公司老闆稱顧客花了大約一個小時與AI助手聊天，期間測試了該助手的數學計算能力，並把話題逐漸引向假設訂單的折扣問題。這位顧客對機器人的能力表示讚賞。之後該AI助手做出了讓所有人都沒想到的事，原本只需在工作時間之外回答客戶問題的它竟然"自作主張"生成了一個不存在的優惠碼，先是提供25%的折扣，隨後又將折扣提高到80%。
收到這個「天下掉下的餡餅」後該用戶欣喜若狂，立刻下單了超過8000英鎊的訂單。老闆表示如果兌現該訂單，公司將蒙受數千英鎊的損失。該企業試圖取消這筆訂單，但顧客稱，如果企業不履行機器人給出的承諾，他將向小額索賠法庭提起訴訟。
這位老闆表示，聊天AI已經成功運行了6個多月，從未出現過任何意外，並且無權做出財務決策。所有折扣和特別優惠都必須手動批准，不能自動生成。最終，該訂單全部退款給顧客，該公司拒絕承認虛假的優惠碼有效。
