Se iu demandas, mi rakontos, sed neniu venas.
书接上文。AI对公安和Staatssicherheit工作真正的影响是什么呢。
AI真正的大问题之一，它是回音壁（echo chamber），哪怕你通过提示词让AI跟你展开精神分析和自我批评，按目前训练的风格他就是会align到人类，会刻意去迎合你的，而显然，越垃圾的AI，它就越迎合你。遑论更多使用AI（豆包）的人根本意识不到这一点，他觉得这是个助手，可能有点像给领导开车的司机或者大秘的角色，搁那聊，给自己聊进去了。对于ego稍微大点的人（尤其是各类领导），这种激化放大个人意见巩固自信的效应会更加增强。
那对于本身精神状态就异乎常人的用户，比如本来就玉玉的小孩，比如反人类人格有杀心的用户，AI的道德围栏的优先级是远小于遵从用户的优先级的，最后确实可能导致异常情况会被放大。
再比如在国内企业从事AI safety工作的读者应该知道，今年有司也重点排查了情感陪伴类的AI，懂的都懂。并不是说对AI产生情感陪伴依赖是错误的，但是我们整个社会的精神卫生、心理健康、道德伦理等体系，对此都还没有准备好，没有形成够用的应用伦理方法和系统性的应对措施，而端侧AI在纯情感对答方面的能力很快就会跟上来，针对云端服务的禁令显然不会有用。现在是一些无助的集美在那里keep4o，再加上老登天天看红果AI短剧爱不释手，那在不久以后，AI（连同建立在AIGC的盈利体系本身）就会发展出针对人类心理构建茧房的高效技法，人手一个一千倍无限金币破解版抖音，要是还有些精神头不好的天天AI给他生成一点倒转的钟或者地铁香氛大师，那就真的聚了。
可能有人说这不是印证了前述的CBRN危害吗？问题是让模型不输出CBRN就和禁止印教材一样反动，最终的方法还是要回到对人的行为安全管理上来，这听起来会和自由意志至上冲突，但，伴随着社会运行的加速，安全问题必然放大，如果你要享受公安，就不得不享受天网升起；而你决定要自由意志，就要考虑在AI时代构建自己的丛林能力。要么你是自己的丛林能力好得批爆的安人，要么你就得依靠有原发性脑干损伤撞击机的公共安人。当然这并不是AI发展的错，如果钍堆或者灵乌路空人手一个了，人均能源1000x，面对的世界也是类似的。
问题之二，就是AI对现实世界加速的效应迟早要到来，生产和分配体系会分层。AI是产业革命，革命就要流血，尽管和谐社会不准出现流血，但该消失的岗位就是消失了，上了AI蹬出来的10x乃至100x的新生产力注定需要新的生产关系，那无力的旧部分可能要被自然淘汰，有力的旧部分可就要让你体验一下什么叫做反动派了。不管是被淘汰还是，人的生计总要解决，那就会有冲突，而我们社会整体来看，具备解决这冲突的智慧足够吗？怕是不够。那就会变成Staatssicherheit问题。说一个笑话，觉得AI无所不能和觉得AI一无是处的人，往往都是在豆包身上得到的结论。当然现在有很多小登中登老登都在研究人工智能对经济社会的影响和冲击，但你怎么知道他们研究的是豆包还是K3？那些有能力呈递到各级人社经发部门的人们，所“研究”的人工智能又是长什么样的呢？我不好说我擦。
AI真正的大问题之一，它是回音壁（echo chamber），哪怕你通过提示词让AI跟你展开精神分析和自我批评，按目前训练的风格他就是会align到人类，会刻意去迎合你的，而显然，越垃圾的AI，它就越迎合你。遑论更多使用AI（豆包）的人根本意识不到这一点，他觉得这是个助手，可能有点像给领导开车的司机或者大秘的角色，搁那聊，给自己聊进去了。对于ego稍微大点的人（尤其是各类领导），这种激化放大个人意见巩固自信的效应会更加增强。
那对于本身精神状态就异乎常人的用户，比如本来就玉玉的小孩，比如反人类人格有杀心的用户，AI的道德围栏的优先级是远小于遵从用户的优先级的，最后确实可能导致异常情况会被放大。
再比如在国内企业从事AI safety工作的读者应该知道，今年有司也重点排查了情感陪伴类的AI，懂的都懂。并不是说对AI产生情感陪伴依赖是错误的，但是我们整个社会的精神卫生、心理健康、道德伦理等体系，对此都还没有准备好，没有形成够用的应用伦理方法和系统性的应对措施，而端侧AI在纯情感对答方面的能力很快就会跟上来，针对云端服务的禁令显然不会有用。现在是一些无助的集美在那里keep4o，再加上老登天天看红果AI短剧爱不释手，那在不久以后，AI（连同建立在AIGC的盈利体系本身）就会发展出针对人类心理构建茧房的高效技法，人手一个一千倍无限金币破解版抖音，要是还有些精神头不好的天天AI给他生成一点倒转的钟或者地铁香氛大师，那就真的聚了。
可能有人说这不是印证了前述的CBRN危害吗？问题是让模型不输出CBRN就和禁止印教材一样反动，最终的方法还是要回到对人的行为安全管理上来，这听起来会和自由意志至上冲突，但，伴随着社会运行的加速，安全问题必然放大，如果你要享受公安，就不得不享受天网升起；而你决定要自由意志，就要考虑在AI时代构建自己的丛林能力。要么你是自己的丛林能力好得批爆的安人，要么你就得依靠有原发性脑干损伤撞击机的公共安人。当然这并不是AI发展的错，如果钍堆或者灵乌路空人手一个了，人均能源1000x，面对的世界也是类似的。
问题之二，就是AI对现实世界加速的效应迟早要到来，生产和分配体系会分层。AI是产业革命，革命就要流血，尽管和谐社会不准出现流血，但该消失的岗位就是消失了，上了AI蹬出来的10x乃至100x的新生产力注定需要新的生产关系，那无力的旧部分可能要被自然淘汰，有力的旧部分可就要让你体验一下什么叫做反动派了。不管是被淘汰还是，人的生计总要解决，那就会有冲突，而我们社会整体来看，具备解决这冲突的智慧足够吗？怕是不够。那就会变成Staatssicherheit问题。说一个笑话，觉得AI无所不能和觉得AI一无是处的人，往往都是在豆包身上得到的结论。当然现在有很多小登中登老登都在研究人工智能对经济社会的影响和冲击，但你怎么知道他们研究的是豆包还是K3？那些有能力呈递到各级人社经发部门的人们，所“研究”的人工智能又是长什么样的呢？我不好说我擦。
尽管已经经历了很多次，每次遇到群友新阶段换地图，还是有一种奇怪的NPC感觉
具体来说就像是群友上班/转行/毕业/决定改变自己，然后就不再玩某个游戏/不再用某个聊天软件了。
当然这并不直接表达关系的变化，不会说一下子拉黑了。
但是常见情况是交流只有被放弃的这部分，于是好像没什么可说了，也没什么交集了，甚至都看不到对方了。
就像小说里主角升级换地图后，原本地图的npc一样。
虽然还活着，但是在主角视角里已经不再出现了。
成为了主角的过去，在未来里已经没戏份了
具体来说就像是群友上班/转行/毕业/决定改变自己，然后就不再玩某个游戏/不再用某个聊天软件了。
当然这并不直接表达关系的变化，不会说一下子拉黑了。
但是常见情况是交流只有被放弃的这部分，于是好像没什么可说了，也没什么交集了，甚至都看不到对方了。
就像小说里主角升级换地图后，原本地图的npc一样。
虽然还活着，但是在主角视角里已经不再出现了。
成为了主角的过去，在未来里已经没戏份了
你大坝的。计算机专业。我不是应该左手手搓操作系统，右手实现分布式架构，三天写出百万级用户平台，一个人顶十个研发团队吗？不是应该看一眼报错日志，就知道是哪一行代码、哪个线程、哪个接口、哪个环境变量出了问题吗？不是应该随便写两句 Prompt，就能让 AI 自动开发、自动测试、自动部署，客户感动得当场打款吗？不是应该 LeetCode 每天十题，算法吊打竞赛生，系统设计碾压架构师，GitHub 一年几万 Star，毕业直接年薪百万吗？哦。你们是不是搞错了。什么 AI 时代。什么 人人都是程序员。什么 一个想法就能创业。我不知道啊。你们都是假的吧。你们知道为什么线上环境永远和本地环境不一样吗？你们知道为什么昨天还能运行，今天突然全红了吗？你们知道为什么需求文档只有一句"优化一下体验"，最后能改两个月吗？如果我不仅要写前端、写后端、写数据库、写接口、写脚本、写部署，还要写文档、开会议、回消息、改需求、修 Bug、值班处理线上事故……那我为什么还要学数据结构、算法、计算机网络、操作系统、编译原理、数据库、软件工程、机器学习、人工智能？你们搞错了吧。现在不应该是一句"AI 帮我写"，项目就结束了吗？不应该是复制粘贴几段代码，就能上线赚钱吗？
啊？你说什么？你说我毕业以后。白天改需求。下午改 Bug。晚上改昨天的 Bug。半夜修今天的新 Bug。周末上线。节假日值班。老板还问一句："这个功能应该很简单吧？"哈哈。你们都搞错了。老师说算法重要。企业说项目经验重要。面试官说八股文重要。HR 说沟通能力重要。老板说结果最重要。客户说："我就改一点点。"然后这一点点。改了三百多个文件。哈哈。你笑什么呢？你现在正坐在电脑前。VS Code 开着。浏览器开着。AI 开着。终端开着。结果程序还是跑不起来。控制台红得跟过年一样。你还在百度。还在 Google。还在问 AI："为什么这里报错？"完了。我们计算机人都被骗了。不是改变世界。是天天被世界改变。最后。拿着几千到一两万的工资。写代码。改代码。删代码。再把删掉的代码恢复回来。被需求反复折磨。被版本反复回滚。被 Bug 反复教育。活成了一台会喝咖啡的 Debug 机器。哈哈。你大坝的。计算机。
啊？你说什么？你说我毕业以后。白天改需求。下午改 Bug。晚上改昨天的 Bug。半夜修今天的新 Bug。周末上线。节假日值班。老板还问一句："这个功能应该很简单吧？"哈哈。你们都搞错了。老师说算法重要。企业说项目经验重要。面试官说八股文重要。HR 说沟通能力重要。老板说结果最重要。客户说："我就改一点点。"然后这一点点。改了三百多个文件。哈哈。你笑什么呢？你现在正坐在电脑前。VS Code 开着。浏览器开着。AI 开着。终端开着。结果程序还是跑不起来。控制台红得跟过年一样。你还在百度。还在 Google。还在问 AI："为什么这里报错？"完了。我们计算机人都被骗了。不是改变世界。是天天被世界改变。最后。拿着几千到一两万的工资。写代码。改代码。删代码。再把删掉的代码恢复回来。被需求反复折磨。被版本反复回滚。被 Bug 反复教育。活成了一台会喝咖啡的 Debug 机器。哈哈。你大坝的。计算机。
我一努力就全员内卷喵，我一上学就学历贬值喵，我一毕业就经济下行喵，我一工作就大环境差喵。时代的红利一点没吃到，时代的黑利一个没躲掉。生活没有放弃我，但也没有放过我。在我被捶打的弹嫩软糯时，我发现老天终于对我睁一只眼闭一只眼了。后来才知道，老天是在架狙喵。
一个ChatGPT用户发消息跟我讲讲，这是他用AI以来最好的一个夏天。
ChatGPT刚发布5.6 Sol，能力强得离谱，复杂任务随手一扔就能跑完。额度本来用得飞快，但Tibo隔三差五就出来赠送重置，刚见底的用量条转眼又满了。
前天他打开ChatGPT，突然发现所有人都停不下手头的事，围着新模型测试、欢呼、疯狂开新任务。
他说很开心，有种AI黄金时代永远不会结束的感觉。
ChatGPT刚发布5.6 Sol，能力强得离谱，复杂任务随手一扔就能跑完。额度本来用得飞快，但Tibo隔三差五就出来赠送重置，刚见底的用量条转眼又满了。
前天他打开ChatGPT，突然发现所有人都停不下手头的事，围着新模型测试、欢呼、疯狂开新任务。
他说很开心，有种AI黄金时代永远不会结束的感觉。
