当房间遇上房间时的疑问

knismooth

最近关于人工智能，自我意识的东西看得有些多，对如何定义意识，如何定义生命产生了很大疑问。
感觉人生观就此崩溃也不为过。。。
不过作为一个很有意思的思考实验，我决定把它写出来供大家一同思考。

在思考我提出的问题之前，需要先阅读两个思考实验，并在一定程度上给出自己的答案。
如果你以前已经阅读过了，并做过了相关思考，那么请忽略这两个问题。

玛丽的房间：
http://ja.wikipedia.org/wiki/%E3%83%9E%E3%83%AA%E3%83%BC%E3%81%AE%E9%83%A8%E5%B1%8B

中文房间：
http://ja.wikipedia.org/wiki/%E4%B8%AD%E5%9B%BD%E8%AA%9E%E3%81%AE%E9%83%A8%E5%B1%8B

具体内容太长，并且考虑到可能很多人都知道这两个实验，我就不手写了。
日文wiki并没有被墙，大家可以放心访问，不需要梯子。
如果看不懂日文可以跟我说一下，我会动手把这两个思考实验的内容翻译成中文。

如果你已经对以上两个问题完成了思考，那么请看一下我的问题，并给出你的想法。

如果一台机器，它知道所有事物（即只要条件被提出，就会自动变成前提）
正确（这里的正确指，人类无法通过该行为来区别这台机器和人类。不是指客观正确）的对应方法。
并且它能正确（客观正确，“我在打鼾”→“发出鼾声”而不是“发出鬼叫”）的表现这些对应方法。

那么，
这台机器会像人类一样思考吗？

更近一步，假设这台机器在物质层面上无法和人类作出任何区别。

那么，
这台机器是人吗？

清水星

这个问题涉及了哲学和伦理道德什么的，对于现在来说还是没有解，各有各的观点什么的
我自己的想法就是……很难当作人，无论怎么像，精神上也很难分

源之壬环

答：
1.不会。具备上述条件的这台机器只能对给定的特定动作以相对应的反应，同简单程序的输入输出没有区别。没有条件允许他具有思考的能力与动机。


2.就物理主义来说是的。现在我们无法解析人就像14世纪的人们无法解析植物而诉诸于“生命力”一样，只是囿于认知水平而做出的判断。如果一台机器具备人的一切物质条件与机能而又不多余，那他与人就没有分别（或许你要诉诸“灵魂”？）
你可能要提到自由意志，笛卡尔将其视为分别人与机器的最终途径——人具有自由意志，但机器服从决定论——但量子理论早早地撼动了其地位：即使我们不遵守决定论，也不能排除我们是纯粹物理实体的可能性。人可以在遵从决定论的同时拥有自由意志，为什么机器不行？

时停の计步器

第一条的话，感觉更像是单纯因为受到了外界信号的刺激而做出的回应，也就是近似于高级的条件反射（比如田径运动员听到枪声就会跑一样），而人类的思考有时候更像是由于人本身的意识引导自身出现的思维，而不是受到外界的某种信号后做出的反应
至于第二个的话……感觉可以算作孩童时期的人类？虽然作为“人”这种社会单位还不算完全，但是作为“人”这种生物单位的话，应该已经具备条件了吧……

新生骑士

某：人工智能就是查字典

Kag

补充一个思想实验：twin earth
说起来这些问题和另外一个领域的争论应该也不无关系：
是语言决定思考还是语言仅仅是思想表达的工具？
那么也说说对原帖自己的看法。
不知道楼主是怎么定义“人”和“像人类一样思考”，那么我们只能以可能并不可靠的常识来讨论下，

问题1：
反问，这个机器人向人类表白被拒了，它该如何反应使被告白者觉得那是“正确的（这里替换成“自然的”不知楼主不会会觉得更合适）反应”？考虑到这个机器人向某个巨大数量级的人告白，它如何使这些人都觉得被拒绝之后反应是正确的/自然的？两点，a、考虑“反应”本身的复杂度（这里面涉及到了感情这一很难被编程的因素）；b、考虑评估反应是否正确的人的多样性。

问题2：
同环神，首先即是有正确反应也不代表有意志，或说意识的主观能动性。

notebook

嗯……LZ会编程吗？推荐一下喵玉技术群。（忍不住广告一下

那三个条件，本质上是与“全知”等价的，为了正确预测所有情况，“全知”必不可少——事实上就算在同一个语言圈子内的人类本身也有互相间无法交流的情况出现，而能让互相间认同“对方是人类思维”的仅仅只是某种容错度而已。所以如果那台机器在任何情况下说的话都会被人类认为是“正确”的，那更应该被认为是“神”而非“人”。
其次，人类的思考，仅仅只是在表意识以语言表达出来了而已，很多思考其实是在语言进行表达的前一瞬间就完成了的，这不是别人的资料而是我自身解析我个人思维过程而得到的结论——在思维转化为语言可描述的字句之前，我会想象，会构思事情的情况究竟如何，会推究，而普通人类语言本身在这方面（指描述方面）的缺陷是很大的，如果要用普通语言细致描述的话起码得写上几百字，而我们的思考过程显然没有“写上数百字”这么长。
什么情况才是“机器像人一样思考”？这有两种方向，一种是机器模拟人思考，另一种是机器创造“像人一样”的思考过程，我认为后者才算得上是“机器是人”。

Tsubiki

想到上映不久的电影机械姬(Ex Machina)。男主被邀请去做图灵测试，里面也提到了玛丽的房间。测试对象是个几乎完美的有性别的AI。对白都挺值得反思的，楼主如果有闲不妨去看看的说。

チェン

1、过程上，人类是怎么思考的还不是很清楚，也就无所谓像不像了。但是另一个角度说，结果上如果能做到一致，那么我觉得可以认为机器能够像人类一样思考。
2、如果在现阶段人类对于自己的认知水平上，无法做出任何区分，那我觉得是可以视作人类。不过也许随着认知水平的进一步加深，人类也许会变得有能力区分人类和这种机器。就好像对于自闭症儿童的治疗，对于那些问题不严重的自闭症儿童，可以通过治疗和干预手段使他们融入社会，一般人在普通的社交活动中不能发现他们有什么不同，然而这并不代表他们就和我们有着一样的思维模式，如果同这些人深入交往，还是会感觉到些许不同的。

ararar

对第一点 最近在学一些视觉信号之类的东西 人类有三种视锥细胞 分别对不同波长的光有感应然后产生颜色 然而看上去是一样的颜色可能会对应多种不同的光的波长的组合 比如蝴蝶就有6种视锥细胞 人看起来一样的颜色蝴蝶看起来就不一样 蝴蝶看起来一样的颜色也可能是有多种不同波长光的组合方式 就和你那测试一样归根结底不是本质 而只是一种表现形式罢了
你这样就好像在说”这两种颜色我看起来没有区别 实际上是不是有区别“一样 然而不搞懂实际上是什么（比如说本质上是不同波长的波的组合）的话看起来一样大概只是简便的方法罢了

第二点抽象的多了 如果（使用任何方式都）分不出来那自然就是人 但是实际上难以达到的不是结论而是这个抽象的前提


考虑一下可能的反驳 看到LZ之前的反驳 都好像有基于知道”思考的本质是什么“或者直接定义”思考的本质是什么“的感觉 然而如果真的完全明白了思考的机理的话 哪里还需要做什么黑箱测试装作摸着石头过河。。 那么这个测试根本不存在什么意义 应该直接问的问题是”思考的本质是什么 “ 我想这就不是不做研究就能想的出来的了