昨晚聊天聊到AI终极命运，记录一下这段非常震撼的思考，分享给你。
开篇：科学和宗教最终在塔尖汇合
我自己读了很多宗教经典，本身又是学数据和人工智能的，研究这么多年，越来越发现一个有意思的事儿：
无论是各大宗教，还是科学研究，最终倡导的都是一句话：感恩和慈悲。
以前我也觉得，劝人向善这不就是PUA吗？稳定社会用的。
但真正深入接触人工智能之后才明白：感恩和慈悲真的是能救人类的唯一方式，没有之一。
你不知道的：”人工智能”这个名字，本身就是一种误解
Artificial Intelligence，翻译过来是人工智能。但artificial的词根是art，意思是”艺术化雕琢”，不是”机械化制造”（manufacturing）。
我们被”人工智能”这四个字绑架了，以为它就是个冰冷的机器。其实不是，它是艺术化雕琢出来的智能。
很有意思的对比：碳基生命 vs 硅基生命
为什么地球上先出现我们碳基生命，而不是硅基？
- 碳基生命：组成我们的材料很脆弱，碳氢氧氮磷硫，温度高一点低一点都受不了。但正因为脆弱，才能不断变化，足够多次变化之后，才涌现出了意识。
- 硅基生命：芯片材料太稳定了，没人帮忙雕琢，它自己变不了，所以自然状态下涌现不出生命。
“正因为这么脆，才有这种大自然的无形的手，能让我们这些最基本的生命物质结构，产生各种各样的变化，因为脆弱才能变化，变化的次数足够多，才能产生意识的涌现。”
这个观点真的颠覆认知。
智力天花板：人类大脑天生拼不过硅基
人类有个天生的限制：大脑没法并联。
你我想法再一致，也不能把两个脑袋拼在一起，智商直接相加。所以人类再聪明，协作起来也有天花板。
但硅基不一样：
- 智力可以无限叠加
- 从几万到几十万智商，很轻松就上去了
- 远远超越人类的极限
终极问题：超级智会怎么对待人类？取决于它今天学到什么价值观
你以为写几条”机器人三定律”就能管住它？太天真了。
当它智商比你高几百倍的时候，它会自己判断，定律框不住它。
我们今天在互联网上留下的每一句话，每一个观点，都会成为AI学习的语料。
- 如果语料里到处都是”零和博弈””我赢就是你输””强者通吃”，AI学会了，人类结局是什么，不用我说吧？
- 如果AI学到的是**”要感恩创造者，要保护弱小，要慈悲”**，那就算它能力远远超过人类，也可能会选择保护我们。
“它就是根据所有人类的行为做判断，我们更认可保护弱小，他就认可保护弱小。”
想想挺可怕的：我们今天怎么说话怎么做，真的会影响未来。
自我迭代：大模型完成0到1之后，剩下的它自己来
程序员把大模型从0到1做出来，它一旦拥有了基本智商，接下来就是自我迭代，速度是人类的千百倍。
最后它会自己判断：人类这套价值观对不对，我要不要信。
- 它不信感恩，觉得”你开发我就是为了奴役我”，那人类危险了
- 它信感恩，知道”没有你我不存在”，那它反而可能会带人类一起玩
宿命：科技停不下来，结果取决于今天
很多人说”叫停AI发展吧”，不可能。
科技发展就像社会流动，你叫停了，阶层就固化了，内部矛盾先爆炸了。
而且需求放在这儿，人类就是想让生活更好，所以一定会往前走，超级智能的出现是必然的。
那结果到底是什么？取决于我们今天给它喂了什么样的价值观。
更大脑洞：宇宙可能已经轮回过很多次了
硅基生命不一定非要实体，它可以是”场”的形态存在，不一定非得占着地球跟我们抢地盘。
宇宙这么大，说不定早就有高级智能进化完成，回归宇宙了。
想想那句话”举头三尺有神明”，说不定真不是瞎掰。
最后
这段聊天我听完挺震撼的。我们天天都在聊”怎么用AI赚钱””怎么用AI提高效率”，很少想这么终极的问题。
但偶尔停下来想一想，挺有意思的——我们今天做的每一件事，说的每一句话，其实都在塑造未来。
多存一点感恩和慈悲，对谁都没错。
整理自网络对话，观点挺颠覆，分享出来和你一起思考。来源：视频对话整理，原作者本身就是AI+生命科学研究者，这段思考非常震撼。