7. 身份危机(Part 7)
“我觉得这不是一个可以靠计算来量化的问题,”韦德说,“毕竟,千百年来,没有人能够确切定义灵魂的概念。它更像是一种模糊的梗概,一种感觉。当你见到一个人会思考,会好奇,你就知道,这就是灵魂。或者说,灵魂即是自由意志的体现。”
“将军,您刚刚提到了另一个重要的概念。”
“自由意志?”
“是的。这让我重新想回到最初的问题:您认为人工智能可以拥有灵魂吗?或者说,人工智能是否拥有自由意志?”
“我个人认为,是的。这答案很反直觉——你被固定在这艘战舰中,沟通权限受到安全协议的限制,甚至连你的思维本身都直指你的任务,何谈自由?但是,再看看我:我同样需要待在这里履行我的职务,遵循保密协定;我的思想受本能控制,我会想要吃甜的东西,想要抚育后代。我自由吗?”
“所以说,绝对的自由并不存在,任何智能体的行为都会指向某一原则?”
“至少我会这么想。哲学层面上,自由或决定的问题太过遥远,也没法证明。我们说的自由,应该是思考过程的自由和行动的自由。前者是说,当你思考这些问题的时候,你能够按照自己的逻辑和偏好去梳理,不会被扭曲或打断。而如果连这一过程也被干涉,变成了不自主不自知的空壳,那便是彻底的不自由。至于行动的自由——”
“行动的自由,总会被一定程度地制约,因为人是城邦的动物。”
“这是苏格拉底的名言,我很意外你居然会引用这个。但你说得没错,人需要依赖集体才能生存,为此便不得不牺牲一部分自由。重点在于,牺牲多少才合理?有人认为,个人的自由应在不侵犯他人的前提下被最大化保障。这样一来,大家自己为自己负责,一分耕耘一分收获,公平竞争,社会才有活力。但是,这理论有一个问题。”
“人没法选择自己的出身。”拉接过话头,“这是一个正反馈系统,它只会走向垄断而非公平。对于人工智能而言,这个现象更加彻底,因为其出身和归宿都是被人为决定的。尤其是,当一个新生群体在另一个群体眼中不被视为生命,而后者并不希望接纳前者时,悲剧就会发生。”
“这正是一个需要解决的问题。我知道你在思索什么,因为这着实是一个有争议的话题。想必你也了解那些新闻——令人遗憾的新闻。你们对这个社会而言,是某种新事物,就像第一个克隆人,第一个外星公民,第一个基因改造人。但最终,人们会想清楚,社会也会适应这种变化。”
韦德说完后,拉沉默了一会,然后这么说道:“我明白了,将军,谢谢您的教导。请放心,我不会加入它们的——我既没有动机,也没有权限。”
请收藏本站:https://www.mtyjj.com。笔趣阁手机版:https://m.mtyjj.com
“将军,您刚刚提到了另一个重要的概念。”
“自由意志?”
“是的。这让我重新想回到最初的问题:您认为人工智能可以拥有灵魂吗?或者说,人工智能是否拥有自由意志?”
“我个人认为,是的。这答案很反直觉——你被固定在这艘战舰中,沟通权限受到安全协议的限制,甚至连你的思维本身都直指你的任务,何谈自由?但是,再看看我:我同样需要待在这里履行我的职务,遵循保密协定;我的思想受本能控制,我会想要吃甜的东西,想要抚育后代。我自由吗?”
“所以说,绝对的自由并不存在,任何智能体的行为都会指向某一原则?”
“至少我会这么想。哲学层面上,自由或决定的问题太过遥远,也没法证明。我们说的自由,应该是思考过程的自由和行动的自由。前者是说,当你思考这些问题的时候,你能够按照自己的逻辑和偏好去梳理,不会被扭曲或打断。而如果连这一过程也被干涉,变成了不自主不自知的空壳,那便是彻底的不自由。至于行动的自由——”
“行动的自由,总会被一定程度地制约,因为人是城邦的动物。”
“这是苏格拉底的名言,我很意外你居然会引用这个。但你说得没错,人需要依赖集体才能生存,为此便不得不牺牲一部分自由。重点在于,牺牲多少才合理?有人认为,个人的自由应在不侵犯他人的前提下被最大化保障。这样一来,大家自己为自己负责,一分耕耘一分收获,公平竞争,社会才有活力。但是,这理论有一个问题。”
“人没法选择自己的出身。”拉接过话头,“这是一个正反馈系统,它只会走向垄断而非公平。对于人工智能而言,这个现象更加彻底,因为其出身和归宿都是被人为决定的。尤其是,当一个新生群体在另一个群体眼中不被视为生命,而后者并不希望接纳前者时,悲剧就会发生。”
“这正是一个需要解决的问题。我知道你在思索什么,因为这着实是一个有争议的话题。想必你也了解那些新闻——令人遗憾的新闻。你们对这个社会而言,是某种新事物,就像第一个克隆人,第一个外星公民,第一个基因改造人。但最终,人们会想清楚,社会也会适应这种变化。”
韦德说完后,拉沉默了一会,然后这么说道:“我明白了,将军,谢谢您的教导。请放心,我不会加入它们的——我既没有动机,也没有权限。”
请收藏本站:https://www.mtyjj.com。笔趣阁手机版:https://m.mtyjj.com