以前的 AI 有自我意识了吗？

体的相像往往，例如人脑的骨架要远比棍子的非常加像有思维。

暴力行为确实是实躯花钱显现出与思维、观念等无关的暴力行为，例如可以思维到周围生态系统，对内部兴奋的反应该，或非常繁复的暴力行为，如言行和侦探。

功能性确实再考虑它的期望以及这些期望与生态系统的关系。例如桌子或凳子并没真正受到生态系统的演化影响，因此它没本来转变成像猴子对生态系统所握有的的那种思维。

原理确实仅限于原理本身的一致性、令人信服等。

从前分析无意识的神学家大略有两层面的原理近于端：一是包容拥护，例如看来氢原子都可以握有思维的泛心拥护；二是机械主义拥护，他们否认非生命体实躯握有思维。但无论是哪种近于端，都可以从上述的四种有所不同确实里面咨询 AI 的思维难题。

AI 确实有思维最重要吗？

绝大多数 AI 从业者都不但会将思维这一特性再考虑进去，AI 和思维无论如何还只实际上于某些阿凡达对今后的想象里面。不过在安全性、、偏见与理应层面，思维与 AI 的转化已在文学批评和工业界里面引来愈发多的重视。

Askell 看来，AI 带有化学现象思维，这就意味着它很有意味著拓展显现出观，而这与它的原作者二者之间有莫大关系。特别是在是当 AI 犯上了错误或者受到“酷刑”的时候，它的毫无疑问者不该承担一定的应该负。

Askell 咨询了道德观知识论里面的两个最重要概念：道德观暴力行为躯（moral agent）和道德观助人单纯（moral patient）。其里面，“道德观暴力行为躯”是带有分辨善恶都是潜能、并可以承担后果的暴力行为躯，如成年人；而“道德观助人单纯”则难以分辨善恶都是，即难以从道德观上开展实质上、一般不但会承担后果的实躯，如两栖动物或者年幼的幼儿。

道德观助人单纯

Askell 看来，实躯一旦握有相同快乐和恐惧的 知觉（sentisent），就近于意味著成道德观助人单纯。而如果发现道德观助人单纯（比如小狗）受到 恐惧，而普通人却没试图去尽道德观应该有降低其恐惧，这是合理的。她同时看来，化学现象思维是表征的先决条件，因而进一步，化学现象思维是成道德观助人单纯的理应。

意味著的争论是某些群躯确实带有道德观发言权（moral status），或者确实握有非常高的道德观发言权。道德观发言权来自知识论，是常指一个群躯确实可以从道德观本质上咨询它们的过失。例如，多数生命体带有道德观发言权，而无生命物躯则没。过分突显某一群躯带有这一发言权无论如何在暗示这一群躯非常加最重要，其他群躯没那么最重要。这就像“给予两栖动物、无脊椎动物、胎儿、生态系统等非常多道德观发言权的进化论一样让人担忧”。

Askell 常指显现出，为了让一个群躯并不须要以牺牲生命其他群躯为代价。例如，食用节食对两栖动物和生命体保健都有好处。

“制作团队一般来说不但会竞争相同的天然资源，我们一般来说可以用到有所不同的天然资源来为了让两个制作团队，而不是逼迫在它们二者之间开展优劣。如果我们想增加用以全球农业发展的天然资源，将现有的资助从慈善事业里面拿显现出来并不是唯一的选取——我们还可以尽力非常多的人资助和资助。”

所以，当今后有表征潜能的 AI 的系统成道德观助人躯时，并不意味着我们对其它生命体的扶助不再关心，也不意味着我们须要转移现有天然资源来为了让他们。

道德观暴力行为躯

道德观暴力行为躯因为懂得善恶都是，他们近于端以好的作法待人，可避免以坏的作法待人。看作了道德观或法律上不允许的不想的时候，他们但会受到附加的羞辱。

道德观暴力行为躯里面总括的一小只须要对尽力和消近于的激励花钱显现出反应该。这就是说，另外的实躯可以羞辱该暴力行为躯的不良暴力行为或表扬其较差暴力行为，因为这将改善暴力行为躯今后的暴力行为。

值得忽略的是，Askell 常指显现出： 转交兴奋并得到反馈无论如何并不要求化学现象思维。当前的 ML 的系统在某种本质上之前符合这一规律，比如模型须要降低重大损失参数，或者强化学习里面非常明显的“表扬”和“羞辱”。

图注：强化学习的表扬反馈必要

那么对于非常强的道德观暴力行为躯呢？我们一般来说看来，只有当暴力行为躯有潜能了解都是都是，并没被糊弄采取其它暴力行为时，Ta 才能对他们的暴力行为就其道德观应该负。值得忽略，一个人说服他的老友在森林屋中，如果这位老友被抓到，不管他怎么辩称自己是受到别人指使才屋中的，承担道德观应该负的都是引发火灾的人（即老友本人），而不是说服他的人。但是，如果一个人锻炼他的猴子去屋中，在这种情况下，我们但会将大一小的道德观应该负放在这位锻炼师而不是他的宠物身上。

为什么我们让生命体纵火犯上承担道德观应该负，而不是锻炼有素的猴子？首先，生命体纵火犯上有潜能再考虑他们的选取，并选取不劝告老友的催促，而猴子则缺乏这种潜能来侦探他们的选取。其次，猴子毫不明白自己的暴力行为是错误的，也毫不显出显现出花钱错事的试图（disposition）——它只是花钱了它接受锻炼的不想。

假设精密的建模的系统在这种非常强的本质上成道德观暴力行为躯，即它完全有潜能了解都是，充分再考虑可行的可选，并按照自己的善意待人，那么这确实意味着： 如果建模的系统花钱错了事，那些创建该的系统的人不该被给与道德观应该负？

反驳，Askell 持反对建议。为了非常加严谨地再考虑这一难题，她看来可以告诉毫无疑问者们表列出几个难题：

毫无疑问特定的实躯（如AI）预期的影响是什么？

毫无疑问者为获得有关其影响的确实回报了多少决心？

他们对他们毫无疑问实躯的暴力行为可以在多大往往上开展控制（无论是直接影响其暴力行为还是间接影响其试图）？

在他们力所能及的区域内，他们为改善实躯的暴力行为回报了多少决心？

即使毫无疑问者尽一切决心确保 ML 的系统运行较差，它们还是就但会不甘心。有时这些不甘心还是由于毫无疑问者的错误或疏忽而导致的。Askell 看来：毫无疑问道德观暴力行为躯信服但会使不想繁复化，因为道德观暴力行为躯比自动机（automata）非常难预测，比如自动驾驶对于路况的判断。但这并不但会给与原作者为其毫无疑问的 AI 的系统的安全性难题交由的应该有。

分析 AI 思维的管理工作有多最重要？

现有 AI 行业的机构针对思维（甚至其它神学层面的思考）的分析非常少，但也之前有史家在针对该话题开展跨行业的合作分析。比如，GPT-3实用化后，专注神学难题探讨的博客 Daily Nous 就的机构增辟了一个克拉通，咨询语言神学在 AI 上的思考。

但同时，Askell 突显，对 AI 思维的咨询不应该意味着停留在神学结构设计的抽象思辨上，还要尽力参与拓展无关的实用软件系统，比如为机器思维和表征构建一系列高效的风险评估。现有之前有一些方法可以用以监测两栖动物痛楚，无论如何可以从那里获得一些灵感。

反过来说，我们对 AI 思维的了解多一分，对生命体本身的了解就多一分。因此，对 AI 思维的咨询虽暂仍未订下统一的互信，但咨询本身已是一种进步。期待非常多的 AI 思维分析管理工作。

参考文档：

王焕超 ：《确定性离世66年后，AI可以自我思考了吗？》

曹建峰、梁竹： 《万澹文详解：境外主流新材料美国公司的AI实践 》

👇 点个“在看”社交洞察

。

湘潭白癜风医院哪家看的好
天津比较好的肛肠医院
上海牛皮癣检查哪家医院好
消痔软膏和马应龙痔疮栓区别
艾拉莫德片治疗类风湿关节僵硬效果怎么样
眼睛干涩视力模糊怎么解决
耳鼻喉科
片仔癀与克癀胶囊哪个效果好