书接上文。AI对公安和Staatssicherheit工作真正的影响是什么呢。
AI真正的大问题之一，它是回音壁（echo chamber），哪怕你通过提示词让AI跟你展开精神分析和自我批评，按目前训练的风格他就是会align到人类，会刻意去迎合你的，而显然，越垃圾的AI，它就越迎合你。遑论更多使用AI（豆包）的人根本意识不到这一点，他觉得这是个助手，可能有点像给领导开车的司机或者大秘的角色，搁那聊，给自己聊进去了。对于ego稍微大点的人（尤其是各类领导），这种激化放大个人意见巩固自信的效应会更加增强。
那对于本身精神状态就异乎常人的用户，比如本来就玉玉的小孩，比如反人类人格有杀心的用户，AI的道德围栏的优先级是远小于遵从用户的优先级的，最后确实可能导致异常情况会被放大。
再比如在国内企业从事AI safety工作的读者应该知道，今年有司也重点排查了情感陪伴类的AI，懂的都懂。并不是说对AI产生情感陪伴依赖是错误的，但是我们整个社会的精神卫生、心理健康、道德伦理等体系，对此都还没有准备好，没有形成够用的应用伦理方法和系统性的应对措施，而端侧AI在纯情感对答方面的能力很快就会跟上来，针对云端服务的禁令显然不会有用。现在是一些无助的集美在那里keep4o，再加上老登天天看红果AI短剧爱不释手，那在不久以后，AI（连同建立在AIGC的盈利体系本身）就会发展出针对人类心理构建茧房的高效技法，人手一个一千倍无限金币破解版抖音，要是还有些精神头不好的天天AI给他生成一点倒转的钟或者地铁香氛大师，那就真的聚了。
可能有人说这不是印证了前述的CBRN危害吗？问题是让模型不输出CBRN就和禁止印教材一样反动，最终的方法还是要回到对人的行为安全管理上来，这听起来会和自由意志至上冲突，但，伴随着社会运行的加速，安全问题必然放大，如果你要享受公安，就不得不享受天网升起；而你决定要自由意志，就要考虑在AI时代构建自己的丛林能力。要么你是自己的丛林能力好得批爆的安人，要么你就得依靠有原发性脑干损伤撞击机的公共安人。当然这并不是AI发展的错，如果钍堆或者灵乌路空人手一个了，人均能源1000x，面对的世界也是类似的。

问题之二，就是AI对现实世界加速的效应迟早要到来，生产和分配体系会分层。AI是产业革命，革命就要流血，尽管和谐社会不准出现流血，但该消失的岗位就是消失了，上了AI蹬出来的10x乃至100x的新生产力注定需要新的生产关系，那无力的旧部分可能要被自然淘汰，有力的旧部分可就要让你体验一下什么叫做反动派了。不管是被淘汰还是，人的生计总要解决，那就会有冲突，而我们社会整体来看，具备解决这冲突的智慧足够吗？怕是不够。那就会变成Staatssicherheit问题。说一个笑话，觉得AI无所不能和觉得AI一无是处的人，往往都是在豆包身上得到的结论。当然现在有很多小登中登老登都在研究人工智能对经济社会的影响和冲击，但你怎么知道他们研究的是豆包还是K3？那些有能力呈递到各级人社经发部门的人们，所“研究”的人工智能又是长什么样的呢？我不好说我擦。