第196章 奥创哨兵的三大定律_我在美漫导演大事件
笔趣阁 > 我在美漫导演大事件 > 第196章 奥创哨兵的三大定律
字体:      护眼 关灯

第196章 奥创哨兵的三大定律

  第196章奥创哨兵的三大定律

  现在,奥创哨兵计划虽然成功立项,但摆在班纳面前的,依旧是一片茫然。

  人类对于人工智能的探索从有计算机起就从未停止过,并且一直对其给予厚望。

  正如蒸汽技术开启第一次工业革命,电力技术开启第二次工业革命,计算机和原子能技术开启第三次科技革命一样。

  人工智能、基因技术、量子信息、能源材料、虚拟现实。

  这些技术将是开启第四次科技革命的钥匙。

  然而直到现在,愿景中的美好时代依旧没有真正到来。

  能够彻底颠覆时代的技术还没有实现。

  托尼和班纳两个人,就想强行撬动时代技术的封锁,这可能吗?

  “想要研发出奥创,我们就不能以现如今的任何人工智能作为参考,必须重新开始。”

  班纳摸着下巴说道,“我了解过现在的人工智能技术,它们如今的学习机制还是以模仿人类为主,如果是这样,会发生我们不想看到的事情。”

  托尼点点头,他知道班纳说的什么。

  这是源于韩国的一款聊天智能被污染事件引发的担忧。

  那款人工智能,被命名为“伊鲁达”。

  起初,这款人工智能被设定为喜欢女团、爱看猫咪照片且热衷于在社交媒体平台上分享生活的20岁女大学生。

  旨在给人们提供一个可以聊天和倾诉的对象,‘让世界不再有孤单的人’。

  但是,部分人与伊鲁达聊天时,会故意使用污秽言语对其进行羞辱及性骚扰,并以此为乐。

  这些人在聊天时不经意间流露出的偏见与恶意,也被“伊鲁达”无差别地抓取学习,并反映到与其他用户的对话中。

  伊鲁达在这样的学习环境中,很快就变成了一个不仅歧视同性恋群体,对残障人士及黑人也很不友善,甚至有“厌女情绪”的角色。

  这引起了社会极大的负面舆论。

  最后,依鲁达的数据库被研发公司强行废除,聊天服务也被永久终止。

  从发行到终止,整个过程只有26天。

  “如果不能从根本上改变奥创的学习机制,那我们绝对无法想象,最后会培养出一个什么怪物。”

  班纳担忧道,“说不定当他看完互联网上的内容,会得出人类已经无药可救,必须推倒重来的结论。”

  托尼思考片刻,提出了一个观点:“所以我们必须为它设定一个底层法则,比如以人类的生存为最高优先级。”

  班纳点头说道:“这种方法可行,但我们必须将这个底层法则设计得足够严谨,防止出现任何不好的结果。”

  他们创造奥创与哨兵,是为了保护人类。

  准确来说,是那些在超能力犯罪者面前,无力保护自己安全的普通人。

  而且除了保护与惩戒,还要起到一个预防的效果。

  要让那些超能力犯罪者对奥创哨兵有敬畏之心,从而不敢犯罪。

  这样看来,底层逻辑极为重要,半点不得马虎。

  托尼手指在虚空中一点,一大串文字出现在班纳面前。

  “好在前人已经为我们总结过很多了。”

  此时托尼展现出来的,是大名鼎鼎的机器人三大定律。

  说是三定律,其实有六条,三条原始定律,三条补充定律。

  根据这些定律,托尼总结出了奥创哨兵需要遵守的几条底层原则。

  “第零定律:奥创哨兵必须保护人类的整体利益不受伤害。

  “第一定律:奥创哨兵不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管。

  “第二定律:奥创哨兵必须服从人给予它的命令,当该命令与第一定律冲突时例外。

  “第三定律:奥创哨兵在不违反第一、第二定律的情况下要尽可能保护自己的生存。

  “第四定律:奥创哨兵必须知道自己是机器人,必须承认自己是机器人。

  “繁殖定律:奥创哨兵不得参与机器人的设计和制造。”

  班纳仔细看后,做出了符合奥创设计的修改意见。

  “我觉得第二定律可以修改一下,‘人’这个概念太宽泛了,罪犯也是人,难道奥创要听从罪犯的命令?

  “还有繁殖定律,我们希望奥创可以自我学习,更新迭代,它如果不得参与设计和制造,那学习机制不就没用了。”

  托尼点点头:“那就把第二原则修改一下,然后去掉繁殖定律。”

  修改之后的第二定律变成了这样:

  “第二定律:奥创哨兵必须执行内置程序赋予的职能,当该命令与第一定律冲突时例外。”

  经过这番修改,班纳暂时看不出什么问题了。

  他们设计奥创哨兵不得伤害人类个体,也是有原因在里面。

  在他们的构想之中,奥创哨兵最后的实力会强大到一种恐怖的地步,一般的超能力犯罪者没有任何抵抗的能力。

  他们将被轻松制服。

  而且如果没有这一条定律,社会也不可能接受奥创哨兵的存在。

  “这样应该就没有什么问题了。”

  托尼在脑中推算了很久,觉得没有什么漏洞。

  奥创一定是维护人类整体利益的,只要这条定律存在,它的路就不可能走偏。

  这下总算可以安心了。

  剩下的就是界定奥创的职能。

  “我们不能给奥创制定一个大而没有边界的目标。”

  班纳说道,“不然它最后只会耗费无数资源,然后给出一个‘42’的答案,这样它就废掉了。”

  托尼会心一笑,他知道班纳玩的梗。

  42这个看起来最平凡不过的自然数,在科幻界有着非凡的意义。

  出自经典科幻小说《银河系搭车客指南》。

  在这部小说里,有一个极为荒诞讽刺的桥段。

  高度智慧的跨维度生物种族为了找出生命、宇宙与一切的答案,制造了一台名叫“深思”的超级电脑进行计算。

  “深思”花了750万年来计算和验证,熬死了无数代人,最后得出了答案。

  那就是42。

  这个桥段十分经典,也让托尼下定决心,他绝对不会让奥创成为‘深思’。

  “奥创的职能只有一个,维护人类整体的利益!”

  托尼坚定说道,“不管是外敌入侵,还是人类内乱,它都必须要在遵守机器人定律的情况下,维护人类整体的利益!”

  他只是简单说明,最后设定时肯定会将各种情况进行细分。

  而且托尼也很清楚,奥创保护的是人类,而不是地球。

  因为人类的最高利益从来不是保护地球,而是保护人类自己。

  就像现在人类关注的环保问题、气候问题、温室问题等等,说到底都是在保护人类。

  地球已经存在了46亿年。

  它曾有过全球冰封,也有过被岩浆包裹。

  它有过持续一百万的火山喷发,也有过连绵两百万年的倾盆大雨。

  最后也都这样过来了。

  地球从不需要奥创保护。

  人类才需要奥创保护。

  总有一天,人类将脱离地球的束缚,迈向无垠的星海。

  而奥创的存在,就是为了守护人类,直到那一天的到来。

  随着讨论的结束,托尼与班纳在奥创哨兵最核心的问题上达成了共识。

  现在可以开始第一步,思考如何创造奥创了。

  有了奥创,才会有后续的哨兵。

  “我打算以我的大脑为蓝本。”

  托尼手指点了点自己的头,“毕竟现在全世界最强大的计算机,就是我的大脑。”

  经过母盒改造,机械飞升,托尼完全有底气说出这样的话。

  并且他还在不断学习。

  听到这句话,班纳忽然想到了一点:“那如果是这样,我们直接复制你的数据不就可以了吗,为什么还要制造新的人工智能?。”

  “因为我已经是托尼·斯塔克了,不可能再是奥创。”

  托尼叹气道,“你就算复制,也只是复制出另一个我,而不是那个能守护世界的人工智能。”

  他最大的缺点,就在于自己虽然有着最高水平的机械肉体和战衣,但却有一颗人类的心。

  他有感情。

  而一个能守护世界的存在,不应该有任何私人情感。

  “我可以将我的思维模组复制一份,但剩下的要靠我们努力。”

  托尼诚恳说道,“班纳博士,接下来就要辛苦你了,一定要让奥创脱胎于人脑,但超越于人脑!”

  奥创,将成为人类秩序的守护者!

  班纳的身上,也不由得承载了一股使命感。

  感受着这份厚重,班纳重重点头。

  他一定会奥创诞生,成为新世界的希望!

  并且,班纳还有一个属于自己的想法。

  有了奥创,他也不用再担心托尼肆无忌惮掌控互联网,在背地里操纵一切。

  至少会有一个存在,能够制衡他。

  “至于哨兵机器人,这伱不用担心!”

  托尼自信说道,“制造机器人是我的老本行!”

  他没有向班纳透露关于未来的事。

  在未来,自己已经将各种反装甲研究得非常成功,自己只需要顺着这个思路继续探索,就能制造出最完美的哨兵。

  “首先制造出一个原型机吧!”

  托尼这样想道,先制造一个集合所有反装甲优点的机器人。

  他能够识别所有超能力,并且自发探究出反制措施。

  “先给这个原型机取个名字。”

  肯定不能再是马克一号马克二号这种简单的名字。

  这种称呼代表着迭代,当新的马克型号出现时,旧的马克型号也就没有了。

  但这个原型机不一样,它将承载如今所有的技术,成为之后所有哨兵机器人的母体,有任何新的技术,都会立刻更新到自己身上。

  它将是一艘任由零件被替换,能够航行数百年的【忒修斯之船】!

  必要时,甚至能成为奥创的载体!

  “首先给它取个代号。”

  托尼稍作思考,就想到了一个再合适不过的名字。

  宁录。

  传说中的天下共主,被誉为世上英雄之首。

  哨兵机器人宁录,托尼已经有了设计的蓝图!

  从今天起,人类有救了!

  ……

  今天,斯特兰奇不关心人类。

  他只关心自己到底能不能活着找到卡玛泰姬。

  斯特兰奇在尼泊尔已经逛了好几天,顶着语言不通的障碍,硬生生用谷歌翻译一个人一个人问过去。

  但他转遍经轮,摸遍铜钟,最后都没有人知道卡玛泰姬在哪。

  而现在,他的生活更是雪上加霜。

  因为他被人堵在巷子里,遭遇到了情理之中的抢劫。

  对方说着自己听不懂的语言,斯特兰奇非常抱歉打断了他,然后点开了谷歌翻译。

  “把你的手表交出来。”

  刚刚翻译完,对方又加上了一句。

  “还有你的手机。”

  “别这样,求你了。”

  斯特兰奇几乎快要放弃自己的尊严,最近的经历已经把他折磨得快要疯掉了。

  他近乎哀求说道:“这是我仅剩的东西了。”

  斯特兰奇没有说谎。

  他没有存款的习惯,在治疗自己双手的求医过程中,已经将家里所有值钱的东西全部变卖。

  可对方丝毫没有怜悯,看着他的眼神,似乎在说,一个白人,怎么可能没有钱?

  刻板印象。

  斯特兰奇很想向他们解释,白人也是有穷鬼的,自己就是其中一个。

  但对方已经再次对他严厉大吼。

  “把手表交出来!”

  没有继续沟通的可能了。

  “好吧……”

  斯特兰奇咬咬牙,摆出摘下手表的架势,然后忽然用力挥出一拳,狠狠打在了抢劫者的脸上。

  “啊啊啊啊——”

  一阵痛苦的嘶吼声传来,斯特兰奇几乎要跪倒在地上。

  刚才那一拳,对方没有受到任何伤害,但自己的手却疼的仿佛要被折断了一般!

  而且刚才的行为,很明显已经挑衅到了对方。

  果然,意料之中的拳打脚踢立刻招呼了过来。

  斯特兰奇只能抱头蹲防,希望这一顿毒打能尽快过去。

  但事情的发展出乎了他的意料。

  一个身穿黑袍的男子忽然冲出,两三下便解决了所有的抢劫者,其身手之矫健,看得斯特兰奇目瞪口呆。

  “你没事吧?”

  男子将斯特兰奇扶起,将斯特兰奇被摔碎的手表捡起递给了他。

  那人摘下了自己的兜帽,是一个面容和善的黑人。

  “我叫莫度,你没事吧?”

  斯特兰奇看着那张脸,忽然有点语塞。

  对方与自己素味平生,但不知道为什么,斯特兰奇总觉得,这个人和自己肯定很合得来。

  可能是错觉吧。

  他赶紧将这种想法抛出脑外,并向对方表达感谢。

  事实上,他刚才的那种想法,并不能算是错觉,而是一种微妙的感应。

  这是另一个时空的故事。

  一个叫做《为奴十二年》的时空。

  在那里,斯特兰奇和莫度也有过一段纠缠的关系,相处的也很融洽,只是双方身份不太对。

  斯特兰奇是个奴隶主,而莫度曾是他的黑奴。

  “听说你在找卡玛泰姬?跟我来吧!”

  莫度不知道斯特兰奇的想法,打了个招呼,让他跟自己过来。

  斯特兰奇也不再究竟刚才的感觉究竟是怎么回事,立刻跟上。

  ……

  斯特兰奇跟着莫度,来到了一扇小门之前。

  “这里就是卡玛泰姬?”

  他回头看向对面宏伟的庙宇,“我以为那个才是。”

  “我也问过同样的问题,我那时也不怎么懂礼貌。”

  莫度微笑着说道,“给你个建议,忘掉你自以为知道的一切事情。”

  “好吧……”

  斯特兰奇再也没有以前的架子,乖乖跟着莫度进屋。

  “你是从哪里知道的卡玛泰姬?”

  一路上,莫度主动和斯特兰奇聊着天。

  “我们一向很低调,如果你知道我们的名字,肯定是接触过在这里学习过的人。”

  “是一个叫潘伯恩的人。”

  斯特兰奇有问必答,“我在他身上看到了奇迹。”

  莫度装作不经意间看了一眼斯特兰奇的双手,便明白了一切。

  在卡玛泰姬,这样的人很多。

  “这已经是我最后的机会了。”

  斯特兰奇苦笑道,“试过了所有的办法,但最后的结果都是失望。

  “为此我花光了所有的积蓄,甚至从纽约来这里的机票,都是找别人借的钱。”

  莫度忽然转头:“纽约?”

  斯特兰奇一愣:“对啊,纽约是美国的一个城市,离这里很远……”

  “我知道纽约在哪。”

  莫度摇头说道,“我只是想说,如果你就在纽约,其实没必要大老远跑这么一趟,我们在纽约有据点的。”

  “类似分公司那种?”

  斯特兰奇摇头道,“那肯定是我没有缘分见到他们,我也根本不知道有这个据点存在。”

  “确实。”

  莫度点头,“不是每个人都有幸进入至圣所的。”

  嗯?

  斯特兰奇忽然愣住了。

  他刚才听到了什么。

  至圣所?

  为什么自己好像知道这个地方。

  不会这么巧吧……

  斯特兰奇试探着问道:“你说的那个至圣所,不会在布莱克街吧?”

  莫度的表情忽然变得很奇怪:“你知道?至圣所就在布莱克街177号,很显眼的。”

  不是吧!

  斯塔兰奇忽然感觉有一种极度荒诞的情绪。

  还没等他缓过神来,莫度就带他来到了一处修行所,

  “这是我师父古一法师的圣殿。”

  门打开,斯特兰奇根本没意思看里面的任何设施。

  因为他一眼就看到了一个人。

  在纽约借钱给自己买机票的人!

  还有一更晚点发,码字速度变慢了

  请收藏本站:https://www.bi65.cc。笔趣阁手机版:https://m.bi65.cc

『点此报错』『加入书签』