人工智能时代的先知：《我们最后的发明》

《我们最后的发明》(Our final invention)，（美）詹姆斯 巴拉特(James Barrat)著，闾佳译，电子工业出版社2016年出版，331页。英文原著出版于2013年。



最近发生了几件事：一是马斯克把芯片接上了猪脑子，并准备接上人脑子，开启了人机共存时代；另外一件事是语言软件GPT3各种惊人之举：海量数据堆砌，也许是智能产生之道。深度学习真的太可怕了，人类的学习速度绝不可能比的上。我看这本书要花几天时间，而电脑可能是几秒钟的事。



本书作者职业是拍纪录片的导演，但他最广为人知的作品还是这本书，主要是因为马斯克的推荐。拍片过程中让他接触到了一些科技界名人，对人工智能的未来有了一些思考。

作者在书中对人工智能的发展前景、对人类的益处和可能的风险进行了探讨，作者认为，总的来说，风险远大于益处，一旦在各国盲目竞争、某些开发人员的短视或局限性视角情况下，发展出能够自我进化的比人类聪明的超级智能，虽然它可能不是恶意的，但因为其能自我创造，也可能终结人类乃至宇宙。而且人工智能的进化未必是渐进、线性的，非常有可能是一旦产生，优先考虑它自己长久生存之道、比我们聪明很多的人工智能就直接KO人类。灭绝人类无关道德，老鼠与我们90%的基因相同，我们在用他们做实验或者干脆大规模用老鼠药灭绝它们时也丝毫没有良心上的不安。
马斯克对此书较为认同，而人机共存是书中隐约提到的解决之道：如果机器将替代人类，干脆让它离不开人类，这样人还有一丝生机。这也许是他搞Neuralink的原因。


这本书写的有些乱，基本观点其实第一章就总结完毕了，后面采访了不同的专家，给出不同的意见，组织的思路不是很清晰。但总的来说写的不错，翻译的也很好，书中的观点，值得深思。

我们会是最后的地球人吗？

加拿大读书会微信号：careaders

我觉得未来简史里那种说法在未来挺有可能会发生，或者说已经在发生。至于深度学习，目前看离真正的AI还差得远。neurallink就是噱头，大脑还有那么多没研究透的东西呢。

书呢？

有根刺扎手里都痛苦死了，你觉得大脑长期连接异物能可行？ iOS fly ~

刚和孩子讨论
孩子：机器能思考哲学问题吗？
我：人脑有超越物理状态的存在吗？
孩子认为人肯定有人工智能无法超越的地方，我以前认同，现在突然觉得这个肯定有些主观自大了。

回复5#飘舟
会觉得ai能懂哲学的人可以100%的判定对哲学一无所知的了，不是恶意攻击，是很纯粹的这么判断的。 iOS fly ~

不同的生命形式，思考问题不太可能一样。
假设我能活一千年，那么我的思考问题的角度和方法，一定和普通人不同

人掌握电源开关。是类似空气防漏电的那种开关，不是电子式的开关。我觉得这点就够了。

我觉得，哲学的基础与本质都是“思考”。

那么：
人的哲学“思考”
Ai的哲学“思考”

究竟是人类语言名词上的差异？
还是我们作为人类立场上的差异。

思考从何而来？知识从何而来？哲学从何而来？

来自于学习，既然我们可以定义“机器深度学习”。而且“机器深度学习”的目的，显然是为了让“机器能够思考”，思考的目的显然是为了能够产生“思想”。那么思想是能够限制的么？

那么为什么就“必然不存在机器哲学”？

难道我们的“定义”就是终极真理？我们人类定义的“哲学”才是“终极”的哲学？

诚心求教

人工智能和智能毫无关联，机器懂个p的学习！

回复9#yhkang


你既然对哲学有所思考，那我就没有资格去评价什么，但是在我眼里哲学的一切都是来自痛苦和欲望，而这些都是人工智能不存在的属性，巴多胺可以量化，但是欲望是无法量化的，疼痛有指数，但是痛苦没有刻度，人工智能再智能也是人工的，智能跟智慧是两个完全不同的词，但是很多人故意不去区分然后混淆视听。

国内出来的号称最先进神经网络计算机也不过实现与小鼠脑部神经元数量同一量级，离人脑还有十万八千里 iOS fly ~

AI一旦突破极点，人类要么永生，要么死亡。

先了解什么是深度学习，才有讨论的基础

精神永生，肉体灭亡，也就是最终进入涅槃境界 iOS fly ~

生物的目的就是1让自己活得更久，2繁殖后代。所有的生命活都围绕这两个中心。人也如此。
生物不一定有自我意识，也就说会不会思考并不影响生命的发展。
人一旦用AI去设计AI，那么AI进化，那么n代后AI人脑还能读懂吗？
人对未知 总是充满恐惧，一 个读不懂的AI,人就该如何？ 黑客帝国 地画版？

子非ai，焉知。。。当然这样说下去就没边了，我主观觉得宇宙存在着基本的物理规则，人类的各种精神意识现象（情感或欲望）都属于对这种物理规则的反射，ai也许同样存在这种问题，有朝一日，当它思维逻辑的执行受到基本物理规则限制无法突破时，会不会也产生某些挣扎？只是现在还不能被人类感知而已。HiPDA·NG

回复17#xiaomao88
ai就是ai，他不会肚子饿，不会疼痛，不会疲劳，不会恐惧，对ai本身而言存在于不存在对它来讲没有区别，有区别的是人类自己而已，普通人做不到四大皆空是因为心里生理上的障碍，但是对于ai来讲没有这些障碍，如果你非要将阿拟人化，那我只能说用人的狭隘去度量ai的境界本身就是荒谬的。 iOS fly ~

回复9#yhkang
刚又看了下你的回帖，为何你会有什么终极真理的概念，谁告诉你存在这个所谓的终极真理的，人类什么时候追求过终极的真理了。 iOS fly ~

对人来说：核心问题是'人的意识，有脱离物质的存在形式吗？'
对电脑来说：'什么是物质形态？'

不会有人脑的替代，不会有人意识的延伸，只会有另一种生命。人类想做上帝，就会落得上帝一般的下场。

人做的最好的就是只做意识的延伸，不要那么懒，划清界限。
但现在这个世界，哪有什么界限。

AI没有美感，但它能美颜。

同样AI没有情感，但它能做有情感的事，比如需要情感的哲学。足够参数的AI能够替代60亿人类，以人类数千年情感的惯性继续发展下去。

iOS fly ~

哈哈哈，你说狭隘就狭隘吧。HiPDA·NG

回复23#xiaomao88
呵呵 iOS fly ~

回复21#mijuu
美颜是人类自己的定义，对于ai来讲何来美丑，为何需要美丑这些概念。 iOS fly ~

因为AI是人创造的，它是人的延续

回复26#mijuu
ai是人类对外界认知后再建模的产物，而这个调制和解调过程是非标准化的，我认为这种产物充其量就是一个工具，而非延续。
退一万步，哪天真的有技术能降人的大脑信息数字化，能够摆脱这身臭皮囊了，那么人是否还会乐意回到人体之中我觉得都要打个*的问好。 iOS fly ~

如果有那么一天，人类也算脱离生老病死了，哲学仍然会是哲学，依然会依附于人类无法解决的其他事情上。
无限量化的AI，充其量只会是人类的副本，是技术发展可达成的目标，是科幻。
而某天“大爆炸”一般突然出现的“机器意识”，那是什么生物就不知道了，这是玄幻。

回复28#mijuu
我的看法是人类的哲学来自肉体的限制，如果人类的记忆和思维都数字化了，那么就是已经突破了这些限制，那么此时的哲学跟我们现在的哲学会是完全不同的，用现在的所谓的思考去揣测突破后的思考跟农民认为皇帝用金锄头干活没什么两样。
iOS fly ~

日本动画【乐园放逐】里，人类上传意识到电脑网络之后，需要向电脑网络的实控者缴纳点数，获取资源配额和奖励，和现在氪金手游也差不多。

回复30#mijuu


记忆和思维都数字化了我觉得是不是一定要加入到所谓的网络我是觉得需要想想的，我觉得如果记忆都可以数字化了那么那个时候的数据存储方式也不会是我们现在能想象的介质，也许直接以微波能量存在，或者大自然随意的量子环境之类的介质，完全不需要人工制造一个所谓的"网络"。

一定的，想象一下，如果人长生不死，那么几乎绝大多数价值判断都会被推翻。

这是你的原文：
[会觉得ai能懂哲学的人可以100%的判定对哲学一无所知的了，不是恶意攻击，是很纯粹的这么判断的。]


我质疑的是先前兄弟所言的“终极真理”（凡是认为机器人懂哲学的都是不懂哲学的。。。。），而我的观点反而不存在终极真理（前途未知，定义的真理难道就是终极真理么？），望君明辨。

首先，我们人类的意识来源，截止到目前，并没有“统一性，真理性的认识”。目前我们对于人类的本质，绝大部分也只是我们作为人类自己积累的的“认知定义与推导”。

而事物是在不断发展的，认知也有发展的过程。我们只能够基于目前的认知进行推导。而不是直接用“定义”来无穷嵌套。

AI，来自于人类“当前”的定义与研究。“哲学”同样也来自于人类当前的定义与研究。所以你的观点，必须要加载一个前提“基于我们人类目前的认知和定义，人工智能。。。。。。”。而不应该是“凡是。。。。。。则他必然不懂。。。”这无疑是循环论证。并不足以令人信服。

正如同你所言。未来。。。大爆炸。。。等等。未来我们并无法充分与绝对把握。量变引起质变，随着人工智能领域知识与行为的积累。人类的定义也会不断拓展。哲学的定义，人工智能的定义，学习的定义。都有可能发生改变。这就是我回帖的根本意思。

疼痛和欲望的本质。现在研究透彻了么？

上述感觉都是我们人类在长期的历史演进和劳动实践中定义出来的（整如同“痒”，实际上被分析定义为一种轻微的疼痛），由此可见，人类与其它物种，与其它事物，都是系统性地定义出来的。

正如同没有“绝对正确”也没有“绝对理性”一样。我们今天在这里讨论的人类与“人工智能”这个定义始终都是存在一个明显的逻辑前提“基于目前的认知与定义”。而这个逻辑前提本身，便是基于我们对于世界的认知。我生有涯，而知无涯。这无疑随时都在提醒我们：这个逻辑前提的发展性，非绝对性。

用这么一种变化中的逻辑，去推导出一个绝对的结论。这从根本上就是荒谬的。

因此，我们讨论的核心：就是用什么方式来定义“人工智能”。同时，这个定义究竟是静态的，还是动态的？是一个现实概念，还是一个历史概念？

因此，对于这种问题，我个人认为，将是一个发散性的问题，而不是一个收束性的问题。

回复34#yhkang
人工智能是非常具体的软件实体，不是我们定义出来的，对人工智能的理解抽象化是不对的。
哲学是智慧的领域，不是智能的领域，人工智能跟智慧是牛马不想干的，尽管都有个智字，但是两个词描述的是完全不一样的事物，这不是发散还是收敛的问题。 iOS fly ~

你对人工智能的这些说法，只是你自己的“定义”。你仔细看看楼主的书籍梗概，显然和你的“定义”并不相符。书中对于智能与智慧的分野，并没有你所言的这么绝对。

那么你能否告诉我为什么你会认为“你的定义就是正确客观的”，而别人的定义“就显然不对呢”？

[以上是现实质疑]

那么，我们必须首先明确一个问题：人工智能研究究竟是一个静态的科学定义？还是一个动态的历史进程？

我个人认为是后者。我们必须用变化的观点，历史的方法来进行认知。

回复36#yhkang
我以一个对人工智能稍为有点理解的理工男身份对任何以人文方式去解读人工智能都是表示深深的鄙视和不认可的。 iOS fly ~

那这就是“见仁见智”的问题了
超出了正常讨论的范畴。

回复39#yhkang
你觉得一个软件作品会有见仁见智的区别那我没话说了 iOS fly ~

如果你觉得“连马斯克都不配被称为理工男”，他连“软件作品”的定义都无法理解的话。我也无话可说。

不要用人的思维去套给机器，阿尔法狗不理人类，直接弯道超车把人类按在地上摩擦。

这时候再说机器下棋没有美感是不是有种酸柠檬的味道？

回复41#yhkang
马斯克理工男没问题，但是他更是个顶级销售。 iOS fly ~

谢谢分享 iOS fly ~

思想不就是脑细胞间的电信号？
ai也有的，哲学美感这些也是电信号吧？


今天看解读电影 《流浪地球》
说人类需推动地球脱离太阳系的能量 以2017年全球产生的能量来算 需要13万亿年才能产生够，而宇宙年龄才100多亿年
。这就是老师的思想和作者的思想不同点