前几天看到很多在说大模型放posion，如果不能有效控制，真是比那个搜索排名还要命。大家都知道排在前面是假的，大不了往后看，但这个AI不一样，排错成本直线上升。想到去年解决问题找AI还能帮上忙，现在简直成了帮倒忙，回答经常一本正经地胡说八道，自己编造似是而非的结论，如果不加核实直接采纳的话后果可能会非常严重。这种情况现在越来越频繁，每次被纠到就说抱歉抱歉都是XX的错，已经发展到小学生撒谎的水平了。这种思维决策层面的平台化集中远比生产、流程、管理上的集中危险可怕得多，简直细思极恐。搞不好整个社会都可能被一小撮人所掌控。

国内信息污染严重，所以很少用

参见The Matrix ，AI终将掌控全人类！

时间规划局里那样

极可能。智能机器人取代中间层。90% 的人，怎么办，做什么，来生存？

天网。。。终结者。。。

Claude自己的回答：

要是人懒了大量的使用AI自然是自己挖坑了埋自己了，有选择的应用还是利大与弊的。

不过社会的发展越来越依赖于人本来的素质或说智商，某大拿曾经说过，今后的社会可能是百分之少数的人在金字塔顶层，中间层是机器人，承担具体的管理和劳作，下层是大批的混吃等死的人。

好多是泡沫，还不成熟。前段时间央视采访的两校教授，主要讲AI大脑通通，但话语间透露了不少信息，现在好多热闹的东西不过是泡沫罢了，演给人看的，别太当真。即使是搜索层面，也需要使用人的本底知识来判断真假，AI 提供的答案只是一个参考。

所以依赖信息源，
这个土壤环境好不好，橘生淮南淮北
发布自 安卓客户端

有比查信息更危险的事情，执行什么事情啥的。还不成熟。

去年就有一家互联网营销公司来推广他们的业务，原理就是给AI喂大量的产品的信息，不管这信息是真的还是假的，只要喂的量够大，别人在使用AI了解同类产品的时候，你的信息就会被AI抓取到。说白了在某些应用方面AI只是一个集中搜索和信息整合的工具而已，它又不知道搜索来的知识对不对。所以我很少用AI去问问题，问了也不能相信，还是要自己查证一下，反而更麻烦。

315才报道了AI“投独”，就是如果你投放信息的假的，AI回答的也是假的，对搜索而言，AI只是帮你汇总了
发布自 色影无忌小程序

AI其实也是大量搜索信息汇总的，你不用就可以了啊。
大不了自己搜，自己辨别。

同感……