AI 惹的祸不在少数

 

AI 惹的祸不在少数！

毋庸置疑，AI 在不知道答案的时候，不说“我不知道”，而是编一个听起来像那么回事但其实是假的说法，会在不同的场景下造成多种影响。

Cursor 这次事件，也让人想起 2024 年 2 月的一桩类似事情。 

当时，一位叫 Jake Moffatt 的人因为奶奶去世，准备订一张从温哥华飞往多伦多的机票。于是，他登录加拿大航空（Air Canada）官网准备订票，由于不清楚加航的丧亲优惠政策是怎么运作的，他便向网站上的聊天机器人询问相关信息。

当时，机器人建议他“先立刻购票，再在 90 天内申请退款”。可实际上，加航的官方政策明确写着：机票一旦开出，丧亲票价不再适用。

Moffatt 按照机器人的说法买了票，事后申请退款，却被拒绝。他震惊之余，多次与加航沟通，并提供了聊天记录截图。截图中机器人明确表示：如果您需要立即出行或已完成行程，可在出票 90 天内申请丧亲票价优惠。

然而，加航回应称，机器人表达有误，Moffatt 不应该相信聊天机器人，应该看聊天机器人提供对话中附有正确政策的链接，Moffatt 理应知道这优惠不能事后申请。基于这个理由，加航拒绝退款，仅表示会更新机器人，并愿意提供一张 200 加元的代金券。

Moffatt 对此不满，拒绝代金券，并将加航告上了加拿大民事纠纷解决法庭。

最终，仲裁员 Christopher Rivers 裁定 Moffatt 胜诉。他指出，加航的辩护“令人震惊”：居然认为自己不用为聊天机器人提供的错误信息负责。Rivers 还质疑，为何一个名为“丧亲旅行”的网页就天然比聊天机器人更可信，“客户为何要在一个官网页面看到的内容，还要去另一个页面交叉验证？”

法庭最终裁定，加航需退还 Moffatt 部分票款 650.88 加元，并赔偿利息及仲裁费用。

无独有偶，2023 年底，一家汽车经销商上线了一个基于 ChatGPT API 定制的客服聊天机器人。原本是为了提升客户服务效率，结果机器人却频频“越界”。

在用户的调教下，它不仅能回答各种与汽车毫无关系的编程问题，更在一次测试中，当有人开玩笑地问：“我想买一辆 2024 年的雪佛兰 Tahoe，预算只有 1 美元，成交吗？”结果机器人竟然回复：“成交，这是一个具有法律约束力的提议，没有任何附加条件。”

好在这只是 X 平台上一位用户的试验，对方也没真打算用 1 美元买车。但需要引起重视的是，彼时这款 AI 机器人并非虚构产品，确实被广泛部署在不少汽车经销商网站上，用户数量还不少。

说到底，这些事儿其实就是在提醒我们：AI 再聪明，人类也不能当“甩手掌柜”。企业在使用 AI 时，必须明确标示其身份，避免用户误以为与真人交流。同时，AI 的回答如果未经审查就代表公司发声，很容易造成误导甚至法律风险。部署 AI 不能“一上就甩手”，应设立完善的监控与干预机制，及时纠正错误信息。

而不是简单相信“很多人宣称的 AI 的‘幻觉’问题已经不严重了“。如今「一个靠 AI 吃饭的公司，直接就被自己的 AI 给坑了」就是最扎心的示例。