GPT治死一名华人：魏则西事件，会在AI时代重演吗？

作者，铅笔道创始人王方，89后/处女座/INTJ，讲了十年真话，想做百年媒体。 

最近，GPT治死人了。

我知道大家生病时，多有问AI的习惯，但以后要注意了。

据媒体报道，31岁华人工程师万博文，生前曾向GPT请教：如何减少抗癫痫药物。没想到的是，GPT一本正经地胡说八道。在她出现异常症状、表达担忧时，还不断安慰她“没事”。

最终，万博文不幸离世。

这个事让我担心的是：这样的事会不会越来越多？

现在是技术不完美，导致人命关天，和利益无关。再往后，到AI公司要赚钱的时候，如果和当年某搜索公司一样，开始卖广告，一个劲地推销药品、医院，那会怎么办？类似的事故，会不会更多？

毕竟，魏则西事件还在我们的记忆里。

AI公司，好不容易淘汰了搜索，别千万再来一个更强大的搜索，在那狂卖广告（医疗广告），那就麻烦了。

因此，我们能不能先呼吁一下，和国内的大模型公司达成共识：以后能不能不卖广告、少卖广告，尤其是医疗广告。

有人觉得我杞人忧天了。

现在token经济这么赚钱，大模型公司哪有心思卖广告。但我觉得这一刻，很可能在未来发生。

我的担心，有两点理由。

第一，Open AI 已经开始卖广告了。

它的CEO——奥特曼，2024年说自己不太想卖广告，说广告与AI结合让他感到“特别不安”。

但到了2026年，OpenAI还是启动了ChatGPT广告业务。

2026年2月，OpenAI正式启动ChatGPT广告测试。到了8月31日，公司宣布，广告业务的年化收入运行率已达到10亿美元，从启动测试到达到这一规模，还不到200天。

2、Open AI 有很强的风向标效应。

我们国内的AI创业者，喜欢把马斯克、奥特曼（OpenAI CEO）当成旗帜，他们干什么，我们就追什么。

他们找到一条赚钱的路，很快又会有一批人研究怎么复制。

但其实，大模型公司卖广告，是一条挺危险的路。为什么？

1、广告可能让AI变傻。

这里说的“变傻”，不是模型的推理能力突然下降，而是它不再只考虑怎样给用户最好的答案，还要考虑怎样让广告主获得回报。

为什么这么说？看看OpenAI自己的广告机制就知道了。

根据其官方帮助文档，ChatGPT广告系统会参考用户当前对话的上下文、意图、广告相关性等因素来选择广告；符合条件的多个广告之间，广告出价也会影响展示顺序。

2、医疗广告+AI 尤其危险。

如果普通商品广告可能让用户多花钱，那么医疗广告就可能影响用户的健康，甚至生命。

2016年的魏则西事件，就是一个不应该被互联网行业遗忘的教训。

这家搜索公司的品牌，至今还在受事件影响。

并且，AI如果卖医疗广告，比搜索公司危害更大。

搜索引擎把一堆链接摆在你面前，你还可以选择。AI听完你的症状后，可能直接给你一个看似专业的建议，实质是受广告主之托，给卖货给你。

我的建议是：即便大模型公司要卖广告，也应该把医疗广告划为明确禁区。

当然，我非常清楚，国内大模型公司，很难经受住“卖广告”的诱惑。

因为抛开社会因素，卖广告几乎是全球最好的商业模式：市场大，变现效率高。

字节跳动就是一个很现实的例子。

靠着抖音、今日头条、TikTok等平台的广告生意，字节跳动已经成长为中国最赚钱的互联网公司之一。

据媒体报道，字节跳动2025年营收进一步达到约2000亿美元，净利润约420亿美元，分别折合人民币约1.4万亿元和3000亿元。

另外，对于大模型公司来说，卖Token要投入巨额算力，而卖广告可以依托庞大的用户规模，立刻可以赚钱。

我最担心的是，AI结合医疗广告后，最后学会的，不是怎么更好地救人，而是怎么更高效地赚救命钱。

最后的结果是，AI不仅是个不靠谱的医生，还是一个爱拿提成的医生。