刀剑神域 爱丽丝篇 纯【人工智能】设定探讨
- hentai14
1. 關於真正的AI有多遠嘛...
因為我連類神經網路都看不懂, 就不多做猜測了
2. 無法接受自身是被複製的存在而崩壞...
我覺得並不會喔~
假設有個穿越到異世界的開掛主角, 在異世界開了後宮過超爽,
這時候神突然帶他去跟原世界整天加無薪班的原型見面,
他會因為自己是複製品而自殺嗎?(原型: 我才想死呢...)
- raynormj
噗,不过这个话题我估计连专家在内目前都没人能懂就是了。。。
唔,我来试图解释一下区别啊。
在刀剑的爱丽丝篇章里面,实际上是实现的所谓“灵魂数据化”。一个人所有的记忆和思维功能全部数字化为“摇光”,其实也就是人造了一个脑,一个灵魂了。感觉就像缸中之脑的那个情况——那个脑在“苏醒”之前拥有着完全正常的记忆和意识和思维能力;苏醒之后也是,可是身处一片黑暗之中,以为自己还在“潜行机器”里面坐着,但是实际上它已经没有躯体了,只有大脑。
你举的例子,复制体和本体在复制时是相同的两个个体,但是再次见面时已经是两个不同的存在了,也是实实在在有躯体的存在,所以还可以各自以过去的存在继续存在下去。这就是跟上面的“脑复制”本质的区别了。
虽然我没看动画,不过里面应该有这个演出吧?就是一个研究员的摇光启动之后很快就崩坏了。就是摇光这种“数字大脑”在这种【自己只是一个脑而不是自己以为的完整的自由的人】的极端打击(或消极的想法)的刺激下就崩坏了。——实际上UW里的人也有因为杀人什么的陷入bug而崩坏,所以也或许是年轻的“数字大脑”不如真正的人脑能面对现实的样子~相对而言,几百岁的桐人摇光就没崩坏——更能面对现实。
当然,抛开作品的设定,现实中能否真正复制一个人的大脑、数字化一个人我仍然是抱持保留态度了。
- hentai14
我也是先看過小說的啦~
作者是主張見到另一個自己會崩壞,(但我抱持懷疑態度)
像最高祭師就在複製自己到他人腦袋後, 同樣也陷入混亂
我覺得如果讓複製比嘉在underworld醒來,
然後再讓真比嘉登入, 跟他說可以讓複製體在underworld為所欲為,
那複製體就可能不會崩壞了~
不一定需要足夠的時間讓兩者出現分歧
沒有好的未來才是崩壞的原因吧
- 无聊的阿里鲨
为啥要特意选择能想这么多人工智能来参与战争呢,个人感觉有点大材小用的意思了
人造电子婴这种科技至少没这么早完成,现在还没能自主思考的人工智能出现
第二个问题小说里的描写有多恐怖我不知道,但至少会对人的打击很大
个人理解的话可以类比一下重度残疾患者的感受,而这个瑶光还会涉及到人格意义上的“残疾”
- HH233
没想到会被@
关于被复制的正常人类摇光与本人相遇会崩溃的问题
我觉得是复制的锅
动画中比嘉亲自复制的自己,所以他很清楚自己面对的只是一个复制品
但是,如果是普通人再不知情的情况下被复制,然后相遇的话,本人也会陷入混乱,与惊慌,这在某科幻中有描述
但是人脑存在一种自我保护的机制,就是在面对很多无法接受或难以接受的信息时我们会选择性把他遗忘
可能复制出的的摇光并没有复制出这种功能,但来源于人的我只存在一个我的固有认知被保留,这是一个跳出来说你是被复制的
会使复制摇光陷入我是本人还是你是本人的判断循环(类似电脑指令卡死)导致崩溃
- CCCP04
如果是说alice这种大脑结构与自然人相似的AI的话,至少在冯诺依曼机的时代,是不可能出现这种AI的,任何冯诺依曼机的智商都是零。至于结衣这种纯靠大数据和机器学习堆出来的AI,不好说,现有的技术条件可以生产出能够在专业领域做出决策的AI(纽交所已经开始使用AI来处理短线投资了),但是做出具有接近人类情感的AI是比较难的,而且也没这个需求。
PS:美国人派遣雇佣兵来抢夺AI的桥段实在太出戏了,完全是多此一举。日本政府里全是CIA的间谍,美国如果真想拿到AI完全可以走官方渠道让日本把underworld连海龟设施移交给美国,根本不需要动武。
- raynormj
决策,就跟下围棋一样,面对某一种“竞技”或“任务”,训练出“估值函数”,再让计算机运算进行决策。这种本质上也不能算智能。现在的“机械学习”人工智能跟人的学习方式完全不一样。“决策”是不是最优解都另说。数据量一大,学出来的东西是个啥都不知道。
这种类型的“智能”充其量就是top-down型。而bottom-up型,用少量的数据,让机器训练出“常识”,学习出“推理能力”这种就是爱丽丝这种了;其实人和动物就是这么学习的。一旦出现就是训练出了一个“机械脑”而非生物脑。再就是要让机械脑的算力达到人脑的算力。这种AI的感情那是必然的。
top-down型,与其说情感,不如说是自己都不理解的欲望?——但是毕竟这种写了程序让它自己学,但是连它学的东西都无法预测,搞得跟“天网”一样产生消灭人类的“欲望”就搞笑了。实际上是它认为“消灭人类是合理的,所以就要消灭”。
不过没有自由意志,就没法被称为真正的人工智能的感觉。但是有自由意志,有共情力、情感就很正常了。
这个部分确实槽点很多。“11区中心论”才会有这种故事和这种桥段出来。。。
- HH233
这误会大了=-=,我没看过原著其实,虽然我的确回复过
那些禁令,其实是对under world世界居民的一种考验,他们就是在等待一个可以自行突破的摇光,所以爱丽丝的出现也代表他们实验成功了,因为这样的个体具有自我不断学习进化的能力,其实人类也是如此在不断的否定与突破中进化,所以刀剑中的人工智能更多的是对人类的复刻
- 无聊的阿里鲨
而且比起技术问题人伦道德方面问题更大,反正无论如何我都不想看到这类东西出现就是了(
- wyh971212
这个问题不仅提到了科技发展上,更关于人理道德问题,就像是不能克隆人类一样,如果是创造一个完全可以与真人一样的智能出来,我觉得还好,但如果牵扯到复制人的话就很复杂了。
- h5j2t7xx
这突然一下子就讨论到如此高端的事物,对我难度会不会太大了,你良心不会痛
我这种人看番就是图开心的,比较关注更加现实一点社会人际关系之类的现实感
这直接就开始AI了,我真的一脸茫然
那要我来说其实番里的世界还是更多吸收一些前沿科学的理念
对的,理念居多,理论探讨,那就抛开理论而集中在更有娱乐性的理念来说
这也算一种梦想的人类进化模式吧,假如现实世界无法像以外一样自由生存,活成黑客帝国那样会不会也是解决方案
那虚拟的世界是哪一种又无关紧要,只是寻求交流和自我满足维持住精神状态的工具吧
至于精神状态崩溃或者不崩溃,这种事情问我干吗,我又不懂
- liangheng
应征召而来。
嗯,老实说当初接触刀剑的时候就对它的设定超前感到震惊,而且不是那种完全捏造现实的,反而是觉得若干年后一定会实现的。
而underworld篇却是又进阶到另一个高度了,人工智能刚刚起步的时候,确实就像结衣一样是人类赋予其各种智能,一种自上而下的智能模式,
但是现在也慢慢开始走自下而上,类似人类学习的模式了,但是这样的发展方向很可能让人工智能拥有自我意识,也许若干年后,人工智能真的又可能代替人类,类似天网
那样。
刀剑里讲到摇光用来制造虚拟士兵,其实也是一种警示作用吧,毕竟高新科技肯定是优先应用于国防了。
- funboat
其实我觉得能把人类摇光提取出来了,那一定就有能模拟人脑思维的方法了,也就是说已经把人脑产生思想的机理给给搞懂了。
到了那一步的时候也许人类也会对自己的存在产生怀疑吧,就如同缸中之脑一般了,人工的摇光不也是一种缸中之脑吗。人类能创造缸中之脑,那从根源上就排除不了人类自身也是缸中之脑的可能,当然根据剃刀原理既然不可证伪那就当作不存在就好了。
如果从上面的前提看来,只要人类有的情绪摇光就都会有,人类面临何种情况时会如何,摇光也就会如何。
当然从现在的科技水平完全不能正真的模拟人类,人类和AI的能力偏向也有不同。至少我们这代人应该是看不到人工摇光(除了肉体层面,思维层面完全就是人类的AI)的可能。更多的是能够更加智能地为人类服务的特点领域的AI。
个人认为军队的作战能力更重要的是精准的直行能力和信息的获取以及策略的制定,如果真用有人类思维的战士,我觉得更多是用作指挥或者说控制(控制没有人格的普通AI)吧,能有人类随机应变的策略和想象力,实际上看过AI打人类的星际争霸比赛就可以知道,在控制上人类在变量和规则确定的情况下是绝对比不过AI的算力的,人正真有竞争力的还是思维的跳跃性。用虚拟的摇光我觉得还是舍本逐末吧,如果说真到了能用摇光来作战的话摇光的重要性也就不是那么大了。
- Endlesspainful
以这个角度思考的话我倒是觉得这样的人工智能会成为人类的一种进化(或者说是一种异变)
带入思考了一下如果这一刻的我,我的意识,投影到电脑中,我会怎么样
换做是我这样的废人的话大概反而是放松吧
现实之中仍有“我”的本体作为我在家庭和社会中应有的成员,而虚拟之中的“我”可以说是脱离了整个社会,不再有责任和期待在我身上,换句话说,这时的我是仅仅只对自己负责的一个灵魂,大概是像玩游戏一样的心态面对接下来的世界,虚拟种的一切对我应当是相当新奇的。
而进一步,我应当会思考我是否还能称作人类,我作为一个虚拟的意识,和现实相关的仅仅只是拥有和现实种的”我“相同的记忆和意识,这样的我还会保持和真实世界中人类相似的世界观吗,若是世界观改变了,思考方式也会改变,那样的我又会怎么样思考呢?我又会怎么样认知这个世界,做出怎样的行为,或者直白点说,那时候的我应该就像是机械飞升的人类,成为一个新的物种。
我贫瘠的想象力想象不出这样的一种”新生物“会对人类有什么影响,但必然会永久性的改变人类的社会。
在以上非常不负责任的推演中我得出的结论:即使能够完完全全的复制人脑的意识和记忆,当这个生存在虚拟中的灵魂意识到自己是虚拟的时候,他就已经是另一种人类难以理解的生物,这个转变或许在一瞬间(考虑到电脑无以伦比的算力速度)也有可能需要这个灵魂自我探究一段时间,渐渐改变,直到完全认知”虚拟生命“这一事实后,这样一种新的机械生命,应该就诞生了
ps:话说我明明不怎么看刀剑的为什么也被邀请来了....
前由 Endlesspainful 修改
补充说明 - raynormj
虽然摇光是对人类功能的复刻,不过复刻的意义就在于,人类可以成为“神”而造“人”——创造自由意志的智慧生命体(哪怕是无机的机器)了。
机器能思维,但是不自由就类似于
人倒是不会因为bug陷入空转、死循环什么的。因为人的思维也不是程序。
而且机器与人不同,人是生物脑,需要漫长的养成、学习、多年的提供有机物营养,而且每个人条件各有不同,全都是“随机属性”,有各种缺陷的人也都是人。但是机器是可以完全复制的,算力完美且只取决于硬件的。“限制器”也是这样,人、生物脑是可以放弃的,但是机器和程序更容易陷入死循环。
另一个问题就是,人凭什么能创造出原理上就超出自己的东西呢?从逻辑上来讲这是不可能的事情。——功能上完善和加强就已经很不错了。
- raynormj
感觉就像是或许永远不可能完全实现的功能——人脑完全数字化=人造灵魂——在流行小说里出现了,还正好赶上人工智能、深度学习的热潮了,大家都很兴奋。。。
——其实人处理不了的问题多了去了~
不过就像段子里面说的,人总是“提前感受”、假想。特别是哲学上什么的。一旦出现就会改变全体人类的认知啊,世界观啊,道德准则啊。然后就恐惧。未知总是恐惧的,这里就是这种伦理问题怎么处理。
像人工智能总感觉必然扯上“天网”这个例子。但目前就连top-down的“人工智能”也还远不够智能。有个例子我印象很深刻,就是机器学习区分狼和狗,结果分析出来学习的模型,发现只要是背景有雪的就被认定为狼,反之则为狗,这学习结果就是完全扯淡了。自动驾驶也还没来呢。
——但是人也没法笃定的说就是永远不可能实现,因为或许真的很快就实现了。最终大家都在讲故事和听故事而已。
- raynormj
问题就在于“能创造,为啥不能复制呢”。就是说,假定人脑的功能被电子脑全面实现了,那把人的记忆和意识和所有脑电波活动全部“等价转换”到电子脑也没什么不可以。
然后就复杂了。。。“我们都是我,但也都不是我。。。”
- raynormj
这,我觉得讨论这种高大上的话题才是为了你和漫区年轻人好啊
要不然一天到晚都是三角恋啊,出轨啊,后宫啊,卖肉啊,废萌啊。。。打得我都不想打了。。。
你看我多么温柔~~~
所以很现实啊,这个动画不知道你会不会继续看,但是最终AI妹子爱丽丝杀到三次元,跟桐人一起生活了。。。——然后她就可以想复制多少就复制多少。。。
头痛不头痛?
你还别说,这个AI住的世界underworld还就是你说的黑客帝国的模式。
每个住民都以为自己在underworld里面爱居乐业,实际上在三次里,每一个人的“摇光”(脑)就是一个小方块,数据。
然后这些小方块就可以搭载在战斗机上面,然后在underworld里面他就会以为自己骑着龙在战斗。
——一切都和平当然没啥。但是用作战争工具就是“自以为自由”而已了。
跟人类比的话,就是人不得不面对死亡这个话题,而且还无解,还只能独自承担,但是人也不会轻易地就崩溃,毕竟人脑有自我保护机制在。
但是要是自己非要反复想,不自我保护的话,人本身也容易崩溃的呀。
再说什么抑郁症啊,心理疾病啊,都是人难以处理自己的心理问题的佐证啊。
没这些问题当然运气好了。
- raynormj
嗯,同感。VR这种虽然多感官啊脑电波啊,真的有把人脑子烧残的风险,但确实刀剑也算是在适当的时候火了。
应该算是软科幻,不过能引起观众的思考就很不错了。
是的。太现实了。
虽然我一般会自己跟自己论证,真正的要弄出一个bottom-up人工智能——人造脑——有多么多么困难,有多大的能耗,之类之类,
但是一旦这种AI的能耗比人类自己的能耗还要低、性能还要好,但是不能杀人,那么要它对“当权者”来说有什么用呢?——当保镖?
小说里面就是假想“量产”整合骑士,实际上就是AI士兵,能大批量生产。。。
但是话说回来,这种东西(技术)最终可能是先进入国家机器的手里,然后才会慢慢的“民用化”。所以。。。
——跪求不要世界末日?~~~
- raynormj
就是这样。人造脑。
可是underworld里的民众即便是每天都在用系统语言英语吟唱魔法,他们也完全不知道自己其实是缸中之脑,而认为自己是守护人界的住民。
然后等到发现自己是缸中之脑的时候,因为是以underworld里实在的【数字躯体】得到这个信息,所以也还算能接受现实。可怜的那些复制比嘉~~~
这种作战领域,当然是同时追求战略上的最优把控,和战术上的绝对优秀了。——所以要有最优秀的指挥,和最优秀的前线士兵。
从这个角度上来说,大概小说里面就要把整合骑士写成“完美的战士”的意思。脑力又优秀,又不需要遵守机器人三定律,又服从命令。
我记得好像每个整合骑士都是有点什么特别的吧。
前线士兵需要量产的优秀人工智能,后方指挥需要庞大的算力支持统筹。这种感觉~
- raynormj
唔,应该是某个早期主题的回复吧。关于刀剑的。
是的。这种心态上的转变是自然而然的,也是必须的,否则就无法继续“维持自我”了。
唯物论讲究人就是一个连续存在的活的人体。所以“复制人”实际上是在某个时间点凭空多出来的一个存在,一旦接受了这个设定,就不得不面对这个现实,虽然在现在的我们看来颇为残酷。。。
但是如果纯粹复制自己到网络中,感觉有点像茅场晶彦的感觉,永远不会彻底死透。。。可以“永远”与互联网一起存在下去。
但是如果复制出的自己就只在一个芯片里面,也没法“延伸”并“确保”自己的存在,那自己的“存在”就掌握在芯片(持有者)手上了。从这里来说,人反而是相对自由的。——但人最终也总要挂就是了。。。
- 萨卡
又是人工智能。。 我觉得要达到这类等级的的话只能说还早 还非常早 还早到看不到尽头。管他叫摇光还是啥瞎扯名词,当前的研究 当前现实里的应用里,人工智能没有任何完整的更别说更深层次的“潜意识”。
先不说假设现实里的肉体咋实现,反正SAO里并没肉体对吧。。目前的我所知道相对比较自然的角色移动动作等是有成型了。自然的语音生成差不多接近勉强(市场上各类语音识别,比如水果的siri等)
那么问题来了。。 有啥能接近人类所谓的“灵魂”所谓的“潜意识”呢?我还不知道。。。就连基础小毛孩都会的:给一个没有名字的物体进行描述。如果连这都没法稳定办到,又怎么去讲什么守护他人这种大道理。 当然可以程序可以去写进去, 但在关键情况下绝对boom。
与其想着这类看不到希望的人工智能实现,不如多期待更多的本子吧(
- raynormj
唔,说到底,潜意识似乎就是【人以为自己的大脑休息了,但实际上还在继续运作】留下的产物吧?
——不过光是脑科学这一条,就不知道要多久以后才能到【将脑损伤的桐人丢到underworld用【虚拟现实】来治疗】了。
话说,EVA和鲁路修里面的年份早在现实里已经过了,噗~
——但是哲学上的争论是由来已久也不会停歇的就是了。
同时只要知道一点皮毛,剧作家就能搬到书里去~~~
这个就是纯粹的bottom-up人工智能的路子了。目前能做到用少量数据来让机器学习“物理常识”之类。——模拟动物的动作什么的。
然后据说这种途径最终就需要强大的AI算力——庞大的功耗,还有强大的制冷系统——另一个庞大的能耗,用来比拟人脑的算力。
这辈子不一定能看到优秀的bottom-up人工智能落地呢?
啊说到这个。。。马斯克的脑子插线发布会我忘看了
- raynormj
噗,泰奶奶之前变了一天妖精桑把我笑死了,连签名都抠了,我还以为是妖精桑在活动栏鬼混呢?~~~
现在的视觉识别就是因为学的东西不知道是什么,才会毫无“常识”可言,也无法解释给人类“训练成果”。
但是关于成品人工智能,记忆、人格、脑功能全复制,想起来就觉得的好凶啊。。。
- 萨卡
没法top-down啊。。。top-down就全写死了
- 萨卡
没。。。如果那是top-down,就没有学习能力了
- raynormj
唔。。。
这么说来也是呢。就目前而言是这样啊。。。
好像很多这种小说啊动画人物已经把人“机器”人性化搞成常态了。。。
刚刚有人提到凉宫春日要出新作了,就想起来长门有希,就是“bug生情”。还有很多也是,常年积累的“bug”让机器带有温度了。。。
——但是现实中积累bug只会出大问题呐。。。
- 鸮寄
人工智能啊,感觉都要被各种艺术作品和学术论文用烂了(笑)
如果要讲真正的人工智能的话,我觉得像alice这样的才能算真正的人造智慧。不过说起来,智慧本身就是包含逻辑、联想、记忆、创造等能力的一系列技能集合。那么如此看来,并非是由于模仿人脑并长期模拟才创造了人工智能,而是在一开始写好基本的 库函数或者别的什么底层代码的时候就已经拥有智能了。
就像婴幼儿,虽然没有记忆没有知识没有社会常识什么的,但是拥有记忆、联想的能力,那么就是拥有智能。
(虽说如此,但其实对于智能的定义一直有争执)
而此类的底层代码是最难实现的,毕竟无论是写一堆if-else 还是直接模仿人脑的电信号传导,这样的技能也是很难实现的。
- raynormj
top-down型人工智能就是走的你说的路子,需要一个底层代码,或者一些基本功能,然后让它自己学习,自己记忆,自己优化,最后自己决策。
但是这到底算智慧吗?
alphago当然是有逻辑——有估值函数来合理决策的,能通过训练来记录、改进参数——记忆,能调用已有定式来处理官子部分——联想,甚至能走出人类没有见过的下法——创造。但是你只能说它是一个能够下围棋的,不需要人为干预的,工具。
很多方面则需要人工智能要和人的认知保持一致,特别比如图像识别,你不能让它学出来的东西指鹿为马。
人作为一个活物,到底什么样的功能让其成为一个人,而不是一个“低等动物”、程序甚至工具,这是一个很关键的问题。
婴幼儿在没有语言能力的过程中,其实跟小动物没有本质区别。小动物也是有智能的,乌鸦可以投石子到水杯里来帮助喝水,婴儿发现自己哭会引起关注就会选择更频繁的哭。
人的学习就是在学习各种各种常识,有光有影,由远有近,摔破皮会出血会痛,水往低处流,能够归纳信息——正确的信息——帮助自己生存,才是智能。
而且这些都是少量样本数据就训练出来的,归纳理解力。
——只可惜这种学习常识的智能,只能通过bottom-up的模式来构造,以创造一个纯粹自主学习的AI。但目前在某些方面AI超过乌鸦都不是很容易呢。。。
- Angrybear
这部番我倒是没有研究过……因为刀剑神域系列没看过所以没想到要去追这个
前段时间倒是听说了猪脑和芯片接口的新闻(马斯克,只读不写)
- h5j2t7xx
我没这些问题啊,比较乐观,不太忧郁,崩溃什么的肯定都会与啊,探讨也是不错的,可惜我不懂
日本的番总是有点为了剧情热闹,给出一堆设定让你思考的感觉,我从不纠结,看过就忘记了
这系列的番我看了前几部后就没看了,有点越来越离开我的喜好度的感觉,所以不勉强了
- Chen_Pj
这个嘛,我觉得两个都还是比较远的,比较近的是唯这样的AI,比如alpha go 或者小冰,都是通过积累经验和知识,再在实际使用中套用。而爱丽丝这样的AI除非脑科学有突破,不然有生之年都一定见不到
这个问题就比较主观了,如果本体已经挂了,以摇光形式唯一的存在可以简单的理解为灵魂出窍,这种情况一般不会那么容易崩坏;但是本体还在的话,就单纯的只是一份copy了。对于摇光本身,意义也不一样了,仿佛一觉醒来,身体没了,还得知自己的存在意义就是一个备份用的复制品,之前的人生对自己而言都是虚假的,无意义的。来自现实强烈的否定感和对自身存在的认同的激烈对撞可能就会导致摇光崩坏
前由 Chen_Pj 修改 - raynormj
我还是没空去看他的发布会,但是刀剑的深度潜入装置有把人脑烧坏的功能。——这就很让人担心机器设备的安全性了,特别是对脑起作用的仪器。
刀剑的剧情没什么特别的,人物冲突也是,但是软科幻设定的那种感觉当年还是很不错的。——一个疯狂游戏制作人/科学家把游戏玩家劫持在hardcore游戏里,只要人物死亡,头上戴的装置就在三次元将真人脑子烧了。。。外力强行拆解装置也会让携带者的脑子被烧了。好像是微波?凶不凶?
听人提了两句,说是只一个芯片在脑子里,通过意念控制电器?
但是做手术植入脑子以后,居然还要充电。。。
我认为普通人还是踏踏实实了解点科学过过一般日子就好了
- raynormj
这种top-down的,还是功能型AI,能下棋,能打星际,能决策,但是属于任务特化型,根本上还是工具,没有自主意识。但是目前也还没到很好的地步。
——最近特斯拉的车好像可以识别路边的限速牌了。
其实也不一定是要脑科学。只要是计算机科学能够构造出来拥有自主意识、自由意志的AI就够了。电脑和人脑的信息转换还要更困难一些,更脑科学一些。
据说目前至少bottom-up型,可以用少量数据让电脑学会物理常识什么的了。——能像动物一样思考,即全面超越某些生物脑的功能,就已经不错了。
是的。前面跟几个层主也聊过了,就是缸中之脑的问题。——简言之,一个自以为是正常人的意识突然发现自己就成了额头以下截肢的残废。。。
几乎所有的生理功能都没了。还是恐怖的。
还有“身份”都失去了的问题。
然后电脑就很容易陷入死循环?~~
- raynormj
这个想法作为故事设定而言是很有趣的,只是立足点个人感觉不大充足。听起来跟“天网”的故事其实还有些相似的。
不过从实际层面上来说,如果是top-down型机器,其形成“反抗造物主”的意志,并且跳离出其原本的功能性设计,那么等同于是说该机器累积的bug居然促进它“自我进化”了。——然而【寄望于bug的累积往好的方向发展】是十分不现实的事情。程序上的错误应该几乎不会带来正面效果。
而bottom-up型,一个计算机慢慢的学起一切常识,适应人类社会,或是深刻理解并利用社会规则,虽然小概率仍然可能让它竖起反旗,但是这种电子意识对比前一种的技术要求而言,就更为遥远了。
不过总体而言,研究者还是会事先做很多保护措施的。不然与其被称为科研人员,不如被称为(无意识的)破坏分子了~
- 野生的黑猫
关于复制摇光崩坏这点,比嘉健复制了自己的摇光以后,看到的是完全漆黑一片的空间并且感受不到自己的身体,这放在现实里也是相当异常的状态,推测这是崩坏的主要原因。
- raynormj
没错,以为自己在潜行,结果。。。当然还不得不面对一些更深层次的问题:
- songzidong
机器学习这一块,自从13年深度学习因为计算机性能的发展从而展现出威力之后就再也没实质上的进步了
更坑的是深度学习这东西就是一层一层神经网络的叠加,训练之后发现有奇效才被发现的,至于其中的原理根本就不知道。一层神经网络还能去研究,两层也行,三层四层困难点,但是深度学习一叠叠几百上千层的现阶段没法研究…
也就是现阶段深度学习网络能到什么程度完全取决于计算机性能
如果想要到达基本和人类相同的程度…那要看具有突破意义的研究理论什么时候能出来
- raynormj
top-down目前就这样了现在学习出来的模型就是因为不可靠才会有那么多人热衷于“攻击”模型。——结衣啊!~~
而bottom-up就更远了。但是这个方向的还是有人做的,我个人也更加看好。
至于理论嘛。。。这个还真就是长期上的随机事件了
反正动画小说看完就会觉得,啊爱丽丝真的好,但是现实里想要终究还是,有生之年?后宫=遥不可及的梦啊。。。
- songzidong
攻击模型
真有top-down技术,以现在网络上的信息训练出来的机器人怕不是会成“暴君”这样的人
- raynormj
所以我一直都觉得结衣啊,长门有希啊,瓦力啊,他的对象啊,这些机器产生感情都是艺术美化产物。。。
——有爱这种偏离均值的,就有恨这种偏离均值的,有正向的bug,又有负向的bug。。。