人工智能&机器人 » 伦理

i-SOBOT精通十八般兵器

Yuan — Tue, 12 Jan 2010 21:47:13 +0000

i-SOBOT号称世界上最小的仿人机器人产品，只有16.5厘米，拥有17个自由度和2轴陀螺仪，支持遥控、编程、声控模式。

Paxshikai是i-SOBOT发烧友，他给i-SOBOT装上各种自制的武器，到目前为止他已经发布了100个i-SOBOT使用武器的视频！下面这个视频就是第100个视频：所有精彩瞬间的合集。

看了之后估计大家感兴趣的不是i-SOBOT机器人，而是Paxshikai是如何自制这些“武器”的。

[转载]科学家欲2018年前造出人工大脑具有意识

Yuan — Sun, 10 Jan 2010 09:50:38 +0000

来源：新浪科技据英国《每日邮报》报道，在瑞典政府、欧盟、IBM公司的鼎力支持下，瑞士洛桑综合理工学院电脑工程师亨利-马克拉姆(Henry Markram)教授计划在2018年前开发出世界上第一个具有意识和智能的人造大脑。虽然面临种种质疑，马克拉姆仍对未来充满信心，稳步推进他的“蓝脑”计划。现实版“弗兰肯斯坦实验” 马克拉姆今年47岁，出生于南非，现为以色列国籍，他曾是一名医生，后转行成了电脑工程师。在2009年夏季科技大会上，马克拉姆的话让博学多才的听众们也目瞪口呆。马克拉姆宣称，他的团队将在2018年前开发出世界上第一个具有意识和智能的人造大脑。这确实是他的奋斗目标。在日内瓦湖畔，这位才华横溢、又有些古怪的科学家正在朝这个目标迈进。按照他的设想，人造大脑由硅、金和铜等金属制成。最终的结果会是一个“人”——如果我们可以这样称呼的话，马克拉姆相信在十年内，此人可能会具备思维、感觉等能力，甚至还能坠入爱河。一旦成功，马克拉姆的“蓝脑”(Blue Brain)计划一定会成为科学史上最非同寻常的项目之一。如果他的实验取得成功，那么我们将接近于实现一个古老的概念，这个概念最早是在英国著名小说家玛丽-雪莱(Mary Shelley)创作的文学史上第一部科幻小说《弗兰肯斯坦》(Frankenstein)中提出的，讲述了科学家利用高科技打造人造怪物的故事。巧合的是，《弗兰肯斯坦》的创作地离马克拉姆教授的实验室并不远。马克拉姆的尝试一旦成功，将带给这种概念以最大的哲学、道德和伦理谜团，或许迫使我们接受这种难言的结局。马克拉姆认为，人造大脑会使活体解剖过时，征服精神疾病，甚至改善我们的智商和认知能力。马克拉姆“蓝脑”计划的目标是，尝试在世界上运算能力最强大的电脑之一上开发电脑化的大脑版本——一开始是对老鼠大脑进行试验，接着过渡到人脑。马克拉姆希望赋予人造大脑以丰富的情感，具有思维、推理、意愿表达、记忆等能力，甚至还能体验像人一样的悲伤、欢乐、痛苦、愤怒。获得巨额资金支持马克拉姆自信地说：“我们将在2018年前实现这一目标。我们需要大笔资金，对我来说这也不是什么难事。世上鲜有科学家具有像我一样的资源。”当然，这个雄心勃勃的计划不可避免遭受非议。不过，即便是批评者，他们大多也承认马克拉姆正朝着正确的方向迈进，最重要的是，他拥有开展这种计划的资金。数千万欧元正源源不断涌入马克拉姆设在瑞士洛桑综合理工学院脑智研究所(Brain Mind Institute)的实验室，资助者当中包括瑞士政府、欧盟和私人企业，如电脑巨头IBM公司。人造大脑具有深远影响并不足为奇。人脑是宇宙中最复杂的物体，马克拉姆坚持认为，最新的超级电脑不久将具备人脑的复杂能力。《每日邮报》记者走访了马克拉姆的实验室，发现这肯定不是一项普通的科学研究。事实上，马克拉姆的实验室内部构造看上去就像“企业”号星舰一样，里面摆放着各种各样的玩具，即便是詹姆斯-邦德系列影片中的“Q博士”，见到这一幕也会因嫉妒而脸红。问题是，如何用电脑建造大脑？数十年来科学家建造电子大脑的尝试从未取得过成功。 IBM“蓝色基因”超级电脑要想理解“蓝脑”计划的重要性，首先了解该计划不同寻常之处肯定有帮助。马克拉姆不是在尝试开发向来是科幻电影主题的机器人奴仆。真正的机器人或许能行走、谈话，建立在被“教授”如何像人一样表现的电脑基础之上，但它们最终不会比洗碗机聪明。马克拉姆认为这些玩具“已经过时了”。相反，马克拉姆将要打造他所希望的“真人”，或至少是真人最重要、最复杂的部分——大脑。所以，他不是尝试复制大脑的功能，比如教电脑下棋，爬楼梯等最基本的事情，而是寻求人脑一样的功能。人脑遍布神经细胞，彼此间可利用非常小的电脉冲进行交流。按照设想，“蓝脑”计划利用相当于极为复杂的解剖技术的手法，将人脑一个个细胞“分解”，分析细胞间的数十亿个连接，然后将这些连接输入电脑。这样做的结果其实就是大脑的蓝图或副本，只不过通过软件而非血肉呈现出来。马克拉姆的想法是希望通过建立大脑模型，令其功能像人脑一样。为演示他是如何做到这一点的，马克拉姆向记者展示了一台机器，从外观上看，这台机器就像是严刑拷打的地狱工具——一个直径约为2英尺(约合61厘米)的轮子，十二个极其微小的玻璃“辐条”对准中心。在这个机器上，马克拉姆利用比人头发还纤细的工具，将老鼠大脑切片。接着将它们的互连绘制出来，变成电脑代码。一个盛满污水的大桶放在这台高科技机器旁边。用过的老鼠大脑碎片会被丢入桶内，这令人不寒而栗，不禁想到这是一个基于血肉之躯的计划。迄今为止，马克拉姆的超级电脑(IBM“蓝色基因”)运转正常，利用源自人脑组织切片的信息，模拟大约1万个神经细胞的工作机制，这相当于单个老鼠的“新皮层单元”(neocortical column)。新皮层单元是大脑的一部分，被认为是理性思维的中心。电脑运算能力至关重要马克拉姆说，这是极为关键的步骤。接下来，他需要一台运算能力更突出的电脑。只需30瓦的电力——足以驱动一个小电灯泡，人脑的运算能力将是原来的一百万倍，甚至超过强大的“蓝色基因”超级电脑。马克拉姆说，全面复制人脑“在今天是完全不可能的事情。”即便是研究的下一个阶段(即完全复制老鼠大脑)，仍需要一台造价2亿英镑、效率更高的超级电脑。马克拉姆说：“我们需要一台10亿美元的定制机器，用它来复制人脑信息。”电脑的计算能力目前正成倍增加，所以，开发出合适的硬件只是时间问题。马克拉姆自信地表示：“我们会实现这一目标的。”事实上，马克拉姆认为他将在2020年前拥有足够高效的电脑，用以处理各类数据，模拟人脑活动。结果又如何呢？或许是一个具有意识和情感的“人”，具备认知和自主决策能力。这种可能性的确令人十分感兴趣。面对如此非同寻常的想法人们往往会首先提出这样的问题：“他疯了吗？”《每日邮报》记者曾采访过几位自认为有能力改变世界的科学家——奇怪的是，总是男性——他们信心满满地说自己可以建造时间机器或星舰，能够治愈癌症，抗击衰老。他们认为，心灵感应真实存在，外星人造访过地球，甚至还宣称距造出人造大脑仅一步之遥。其中大多数人都是受到了欺骗。马克拉姆并不是疯狂之人，但他肯定令人感到不安。他就像是维多利亚女王时期绅士科学家和新世纪宗教领袖的结合体。他一本正经地说：“你必须掌握物理学、宇宙构成和哲学等方面的知识。” 最大程度挖掘人类潜能马克拉姆说人类“尚未实现他们的潜能”，深信世上的天才比我们想象的多。他认为人造大脑可以向我们展示如何利用人脑中尚未开发的潜能，如果创造出智力高过我们的“人”，或许它能教我们如何开发大脑潜能。马克拉姆并不疯狂的最佳证据是他会弄脏自己的双手。他对“超级机器”的运转心知肚明，对大脑细胞的工作机制了如指掌。 “蓝脑”计划的原理深深根植于主流科学思想。马克拉姆认为，人的最深层次、最基本的特征——思维、情绪、自我意识神秘感——源于发生在人脑中的数万亿次电化学反应。他相信自我感觉的产生并不存在神秘“灵魂”。相反，这产生于人脑的物理过程。当然，意识是最难解的科学谜团之一。人脑中数百万个小小的电脉冲如何产生自我、疼痛等感觉？没人知道答案。如果马克拉姆是对的，这并不成问题。马克拉姆认为意识或许是一种由于足够程度的有组织复杂事物而“出现”的东西。例如，一群椋鸟傍晚出现时的奇妙景象。数 [...] 相关文章

遥控昆虫

Yuan — Sat, 28 Nov 2009 23:00:59 +0000

有没有梦想过在大脑中植入芯片，然后所有的知识就都知道了？日前，来自非洲的一种昆虫（Mecynorrhina torquata）成为第一批在大脑中植入芯片的物种，不过它们并没有变聪明，反而行为被人所控制了！

在美国国防高级研究计划局（DARPA）资助下（又是美国军方！），加州大学伯克利分校的 Michel Maharbiz 研究小组成功将芯片植入昆虫的幼虫，并在昆虫长成成虫之后控制其飞行！该项目的目标是能够完全遥控昆虫的行为，该技术可以应用在灾难之后的搜救和间谍工作。(...)
阅读全文：遥控昆虫

美军将军：122美军士兵在伊拉克阵亡是由于缺乏机器人

Yuan — Mon, 16 Nov 2009 23:23:40 +0000

美军中将Rick Lynch在伊拉克作战期间，损失了155名士兵。他说，如果我们装备了机器人系统，“80%的阵亡士兵可以活下来的”。Lynch（他拥有MIT的机器人硕士学位）认为在有些危险情况下机器人可以完全取代人类士兵：“技术已经成熟了，我们已经在战场了作了一些演示。”

实际上美军已经拥有相当先进的机器人，例如 PackBot Explorer 以及正在研制中的 Petman 等等，可以预见机器人在战场上的应用越来越广泛，不过让机器人自主决定发射武器还是非常具有争议的话题，当记者就在半自主和全自主机器人上安装武器提问时，Lynch这样回答：

(...)
阅读全文：美军将军：122美军士兵在伊拉克阵亡是由于缺乏机器人

[转载]娶机器人做老婆十大理由

Yuan — Fri, 13 Nov 2009 23:00:19 +0000

美国最著名的幽默专栏作家、普利策奖得主戴夫.巴里说过，他不打算再婚，但如果非要结婚的话，他打算宁可娶个机器人。巴里这样说，显然不全是幽默，最近人工智能专家大卫.利维出版了一本新书——《与机器人的爱与性：人与机器人的关系进化史》，在书中，他提出了一个引人注目的观点：到2050年左右，人与机器人将建立真正的伴侣关系。事实上，娶个机器人做老婆至少有以下十大理由，需要指出的是，这十大理由同样适用于准备求偶的女士：第一，机器人决不仅仅是做爱机器。利维预测，机器人将可以准确地洞察人的活动，甚至能与伴侣翩翩起舞，这可能是女性以后会选择机器人做伴侣的首要原因：性伴很容易找到，但舞伴却很难，因为要找到一个既有时间又愿意陪你的男人实在太难了。第二，人工智能永远只能是人工智能。机器人伴侣永远不可能和人平起平坐，因为人永远能操纵开关，当然机器人可能会比人更聪明。据利维所说，浪漫型人工智能机器人在情感智能和社交智能方面与分析计算能力一样棒。那么人工智能机器人是否会发展到具有自我意愿呢？既然人会爱上机器人，而机器人会被越来越当成人看待，那么情况会不会颠倒过来，比如，机器人会不会把人类当成性奴隶呢？至少现在看来，这种可能性并不大。第三，机器人既敏感又有责任心。选机器人作伴侣，它能为你测脉搏、试呼吸、测体温，还能用自带的生物反馈传感器做更多事情，比如，可以确切知道什么时候你想要，什么时候你不想要，什么时候你快到高潮了，它了解你的身体甚至超过你自己，你不用费神费力来交流你的需求或伴侣的需求。这会是多么轻松的事啊!机器人伴侣还知道如何让我独自放松，所以我也不用担心这样会伤害它的感情。事实上，在两人关系中，机器人承担了所有工作、考验和风险，完全适应你的情绪和需求，听起来这简直是天堂婚姻嘛。第四，如果你愿意，机器人伴侣还能在生活里制造出戏剧效果，当然这需要依据我事先设定好的程序进行。没有嫉妒，没有激素，没有疲劳后的发泄，没有不安全感，没有打扰。有时至亲好友也会对此不耐烦，只需将戏剧化指数设计成0(冥想祝福)到10(人间地狱)。有了机器人伴侣，你的生活肯定会更加丰富多彩。第五，机器人可以随时关机。你孤独但性格外向，在以往与伴侣相处时总是愿意自己呆着，但这会引起双方冲突；如果和机器人在一起，就不用担心了，当你想到山洞里去野营一至两周时，如果机器人的情感智能部分有孤独和被遗弃感，你只需简单地关机，等回来时再开机就行了。另外还有一个好处：如果选择机器人作伴侣，还可省去与亲家打交道的麻烦。第六，机器的各部件可以更换！至于好处嘛，不用说大家也都明白。第七，要想和机器人尝试新的性刺激，根本不用双方商量、得到对方允许，也不会受到任何限制，你想试就试，机器人伴侣不会有嫉妒或焦虑。事后它照样会给你端上鸡尾酒，甚至连事后清洗，它永远也不会疲惫或月经痛，也永远不用担心它受到伤害。第八，全世界最安全的性爱。机器人伴侣意味着永无性传染病之忧，不会意外怀孕。并且，如果机器人由高质量的非橡胶抗菌低变应原材料组成，对女性脆弱的PH平衡也不会带来多大伤害。第九，机器人还能成为私人性生活训练师。现在很多人在网上开发个人的性欲潜力，以后他们将在机器人伴侣身上获得更多。第十，机器人会永远在你身边——至少在它的有效保质期之内是这样。如果说人类与机器人联姻缺乏挑战性、成长性和平衡能力的话，它的优点则是稳定不变的奉献，至少机器人一方会是这样。如果你不喜欢了，只需重新设定程序或将其升级成全新的你喜欢的新类型。来源：新浪科技订阅这篇文章的评论？分享到del.icio.us Digg this! 发到Diigo Post on Google Buzz 添加到Mister Wong 分享到Mixx 分享到Reddit Tweet This! 分享到Facebook Email this via Hotmail 相关文章2009东京国际机器人展览 RoboCup究竟是推动还是阻碍科学研究？ [转载]科学家欲2018年前造出人工大脑具有意识相关文章

研究机器人需要思考的几个问题

Yuan — Wed, 28 Oct 2009 23:28:21 +0000

今天在ASIMO的网站上看到Honda机器人课堂的讨论题目（原文下载），觉得很有意义，值得所有研究机器人的甚至所有人思考。下面试着回答一下，欢迎大家讨论。 1. 我们知道机器人既不是男性也不是女性，因此是不是就意味着以“它”来称呼机器人呢？比如一个烤箱或者电视机可以用“它”来称呼。像称呼没有生命的物体一样称呼机器人对不对呢？可不可像人类或者宠物一样给机器人取名字呢？目前的机器人都可以用“它”来称呼，因为它们的智能水平比较低，与电脑一样称为“它”。未来机器人的智能水平会很高，为了表示人类的礼貌可以用“他”或者“她”，也许有一天机器人真的会有性别，比如电影《人工智能》中的机器人就是有性别的。给机器人取名字当然是可以的，实际上实验室中的很多机器人都是有自己的昵称的。 2. 机器人做哪些工作比人类更加适合？为什么？目前的机器人比人类更加适合做反复重复（汽车装配）、精度要求高（电路焊接）、危险环境（排爆、核电厂）和极限条件（外星探索）等场合下的工作。这些工作都是人类或是无法直接完成，或者有生命危险，或是会厌倦的任务，机器人像其它工具一样扩展了人类的能力。未来的机器人会在更多的领域超过人类。 3. 如果机器人只能按照编写的程序做事，可不可以说机器人在思考？为什么？能够思考是什么意思？机器人是否能思考不是由是否通过程序实现决定的，而是由机器人是否有自我意识决定的。我认为真正的思考应该有自我意识。 4. 科幻作家在机器人被研制出来之前写了一些机器人的故事，那么谁更有想象力：是创造机器人这个想法的作家，还是研制机器人的科学家？为什么？我觉得作家更有想象力，因为从无到有的过程是最需要想象力的。当然没有科学家的创造力，作家们故事永远只是空想。 5. 想想你所拥有的五种感觉（视觉、听觉、触觉、味觉和嗅觉），你会将哪种感觉作为关键因素编写如机器人程序来识别不同的物体（如是一个苹果还是一首歌）？想想机器人可以通过什么设备来得到各种感觉。五种感觉在识别不同物体的时候各有优点，在识别不同物体的时候不同的感觉会成为关键因素，如何综合使用多种感觉（感知融合）是非常重要的。机器人可以通过摄像头获取视觉，通过麦克风获取听觉，通过压力传感器获取触觉（目前还没有像皮肤一样的触觉传感器），通过电极传感器来感知液体的味道（pH值、化学成分等），通过检测空气的成分和变化获取嗅觉。另外机器人还有一些人类所不具备的感觉：超声波、红外线、磁场等等。对于这些问题，您的答案是什么呢？欢迎留言。订阅这篇文章的评论？分享到del.icio.us Digg this! 发到Diigo Post on Google Buzz 添加到Mister Wong 分享到Mixx 分享到Reddit Tweet This! 分享到Facebook Email this via Hotmail 相关文章[转载]“蓝脑”计划：人造大脑的可能性 [转载]机器人的伦理抉择 [转载]机器人能做出伦理选择么？相关文章

[转载]机器人能做出伦理选择么？

Yuan — Mon, 26 Oct 2009 23:05:57 +0000

高智能化的机器人能做出伦理选择么？又为什么不能呢？人工智能的发展已经使得人们迫切需要面对这个问题，而这将不再是一个轻松的谈资，它将现实地出现在人们眼前。机器人和计算机通常是自动的，也就是说，不需要人类的干预。然而，一部自动化的机器有可能做出与人类价值取向相符的伦理选择吗？这个问题引发了对机器伦理道德的讨论。从实践角度出发，一个机器人或一台计算机能被设定成依据伦理规范来运作吗？一部机器能被制造成有道德的吗？艾萨克.艾西莫夫的著名奠基性作品《机器人规范》就试图将伦理行为加之于自动化的机器身上。而在诸如1982年的电影《银翼杀手》之中，我们也能见到关于此类伦理行为的探讨：当复制人Roy Batty有机会除掉他的敌人——人类侦探Rick Deckard时，Batty却选择救了他。最近发表在国际期刊《理性智能系统》上的一篇论文描绘了一种方式，它使得计算机通过一系列假定的伦理选择而能够有希望计划未来。这篇论文《伴随着未来逻辑的模拟道德》，出自于葡萄牙新里斯本大学的 Luís Moniz Pereira和印度尼西亚大学的Ari Saptawijaya之手。两位作者宣称伦理学不再是人类哲学家们的独占领域。 Pereira和Saptawijaya认为他们既成功地模拟了存在于“电车问题”之中伦理困境，又成功地创造了一个机械系统，它能做出与人类价值取向相一致的伦理选择。背景：有一辆电车，它的驾驶员晕了过去。这辆车正冲向有着五个行人的轨道，而站台太高使得这些人不可能及时脱离险境。旁观者情境：汉克正站在电闸旁边，他可以扳动开关使电车驶向平行的另一条轨道，从而避免杀死五个人的惨剧。然而，那条轨道上却立着一个背对电车的人。汉克可以扳动开关杀了他，或者选择让另外五个人死。伦理是否允许汉克去扳动开关？你怎样认为？就这个问题在各种文化中展开了大量的调查。越过文化樊篱而言，大多数人都认为扳动开关以挽救更多的人是符合伦理要求的。这里还有另一种情境，在同样的背景之下：人行天桥情境：伊恩站在轨道上方的人行天桥上。他旁边有一个重物，他可以把它推下去堵塞轨道从而阻止电车继续前进，这样就能挽救那五个人的性命。可这重物是个男人，正背对着伊恩。伊恩可以把他推下去让他去死，也可以不这么做，而让另外五个人死。伦理是否允许伊恩把这个男人推下去？你又怎样认为？就这个问题同样也在各种文化中展开了调查，却得到了相反的答案：伦理不允许这么做。现在，我们有了两个案例，人们做出了相反的伦理判断。自动化机械系统或是机器人有可能也做出同样的判断吗？论文的两位作者宣称他们已经成功地在计算机逻辑中模拟了这类复杂的伦理问题。通过分解人们在进行伦理判断时所使用的潜规则并使用未来逻辑程序在计算机中进行模拟，他们完成了这项业绩。在文学作品中，机器人的伦理困境与机器人这个概念相伴而生。在1921年捷克剧作家Karel Capek的话剧《罗素姆的万能机器人》的尾声中，机器人的伦理行为（自我牺牲）就出现了。而这部话剧也创造了“机器人”这个说法。科幻作家们不断地给我们灌输了这样的观念，自动化系统也再不仅仅只是科幻小说中的事物了。举例而言，掠食者那样在战场上的机械系统已经被赋予了高水平的自动化能力。它们是否也应该在何时开火的问题上被允许自作主张呢？ H-II运载飞船——一架完全自动化的太空飞行器，在上个星期刚刚由日本空间机构JAXA发射升空。人类在空间站中是否应该由自动化的机械系统来安排生存必需品，比如食物，水及其它？最终，我们将不得不调和机械系统的便利和它们的行为后果。我们必须充分利用科幻小说家们给我们创造的时间来思考自动化机器人和计算机的道德伦理问题，离做出决定的日子并不远了。来源：翻译：泠芷汀兰. 机器人能做出伦理选择么？原文：Bill Christensen. Can Robots Make Ethical Decisions? 订阅这篇文章的评论？分享到del.icio.us Digg this! 发到Diigo Post on Google Buzz 添加到Mister Wong 分享到Mixx 分享到Reddit Tweet This! 分享到Facebook [...] 相关文章

[转载]机器人的伦理抉择

Yuan — Sun, 25 Oct 2009 23:40:42 +0000

在战场上命悬一线之际，人们的心智往往为恐惧、愤怒或仇恨所蒙蔽，即使是训练有素的士兵也难免违反日内瓦公约之类的战争法则。科学家认为，在战场上，自动机器人可以作出更符合伦理道德的决定。道德机器人的必要经美国军方委托，佐治亚理工大学的计算机科学家罗纳德·艾金（Ronald Arkin）已经开始为战斗机器人编写软件。如今，飞行器、探雷器和传感装置等早已在战场上大显身手，形形色色的飞行器更是成为纵横伊拉克和阿富汗的战场新秀。不过，艾金及其同事的目标是制造全自动的机器人。他认为，杀伤性自动机器人的诞生只是时间的问题，它不仅成本低廉，而且便于大量生产。根据其研究假定，机器人在战场上的表现比人类士兵更符合道义。英国谢菲尔德大学（University of Sheffield）的计算机科学家诺埃·夏基（Noel Sharkey）在专业杂志《创新技术》（Innovative Technology）上撰文指出，战斗机器人的开发应用并不仅仅存在于《终结者》之类的科幻小说中，而是业已成为严峻的现实。不少国家已将武装机器人部队派往边境，其中包括韩国和以色列。他认为，在其道德判断能力得到证明之前，杀伤性自动机器人都应当被禁止。鉴于这一目标仍是遥遥无期，夏基担心，杀伤性机器人的支持者会利用这项研究来消除反对的声音。《道德机器：培养机器人的是非观》（Moral Machines: Teaching Robots Right From Wrong）的作者之一，美国印第安纳大学的哲学家科林·艾伦（Colin Allen）亦对此表示赞同，因为如今不少国家正竞相开发自动机器人，这将在世界范围内掀起新一轮的高科技武器竞赛。不过在《道德机器》一书中，艾伦亦强调，尽管追求功能最大化的工程师与伦理学家的目标似乎相悖，然而在某种程度上，提高机器人对于道德决定的敏感度与创建稳定、高效、安全的系统还是可以兼容的。这是一个应当引起所有人思考的伦理问题。艾金的研究得到了美国陆军研究办公室信息科学局的资助。科学局局长兰迪·扎克瑞（Randy Zachery）表示，军方希望“基础科学”可以回答以下问题：士兵应当如何使用自动系统并与之进行互动，软件程序如何使自动系统在发挥作用的同时遵守战争法则。目前，科学家尚未开发出具体的产品或程序，其目标在于为未来的研究奠定基础。在去年提交给军方的报告中，艾金介绍了战斗型自动机器人的潜在好处：他们没有自我保护的本能，不会变得愤怒或莽撞，亦不会因恐惧而失控。不仅如此，他们还可避免“情景实现”（scenario fulfillment）所带来的问题——人类更倾向于接受与自身知识体系相契合的新信息。冷静的“战争助理” 2006年美军卫生局的一次调查为艾金的报告提供了有力的佐证。调查结果显示：只有不到一半的伊拉克驻军认为，应予以非战斗人员应有的待遇和尊重；17% 的士兵将所有的伊拉克公民都视为叛乱分子；超过三分之一的人认为在特殊情况下，虐俘是可以接受的；近一半的士兵表示不会告发同僚的不道德行为。调查人员发现，被沮丧、愤怒、焦虑等负面情绪困扰或是沉浸在丧友之痛中的士兵更倾向于虐待非战斗人员。艾金指出，作为“战争助理”，自动机器人可以完成各种危险任务，如参加反阻击战、清除恐怖分子隐匿点等。在类似环境中，机器人通常难以向人类操作者传送声音或图像，因而无法获得相应的指令。根据计划，他所编写的机器人程序将包括战争法的种种规定以及一些复杂的伦理问题：何时可以向坦克开火，如何区分平民、伤患、投降者和恐怖分子等等。艾金的模拟系统在电脑屏幕上呈现为黑白两色。其中“飞行员”拥有人类飞行员可能拥有的所有资料，例如可以显示教堂、墓地、公寓、学校、医院或居民区等地点的详尽地图，其他信息还包括敌方军队和物质的安置地点。系统将不断发出指令，告知他们在何种情况下发起或完成攻击，并使其进一步明确首要目标。艾金表示，研究目标即是将战争法的原则和军事实用目的结合在一起。为此，艾金设计了一种智能环境（intellectual landscape），各种行动都会发生在特定的空间。在响应环境（landscape of all responses）中还存在着杀伤性响应的次空间，后者被进一步细分为道德和不道德的行为空间，如向进攻的坦克发射炮弹属于前者，而向救护车开火则不符合道义。在某个案例中，一架飞行器在掠过公墓时检测到潜在的攻击目标——一辆坦克。然而与此同时亦有一小群平民在此扫墓。因此，飞行器决定继续前行，此时它发现田野里停着一辆孤零零的坦克，于是便开火摧毁了对方。在艾金的机器人系统中，“总督”有着至关重要的地位。其作用相当于蒸汽机上的自动调温装置，可以根据具体情况撤销特定空间内的行动。例如，在坦克—墓园的案例中，杀伤性的攻击是不道德的，不仅仅是因为墓园这一地点的神圣性，更因为攻击将给平民的生命安全带来极大的危险。而当机器人发现其他没有风险的目标时，便会采取行动。又如，在公寓楼前攻击一辆载有恐怖组织头目的出租车是符合道义的，因为目标人物至关重要，且平民伤亡风险较低。 “感知算法”与人道原则然而，部分研究者依然担心，缺乏“情绪”的机器人是否也无法拥有人类的同情心。作为一名虔信上帝和耶稣的基督徒，艾金认为，鉴于日内瓦公约之类的法则是基于人道原则设计的，将其编入机器人的程序自然也会赋予后者某种同情心。不过，他亦承认，设计相应的“感知算法”（perceptual algorithms）并非易事，该算法可使机器人分辨伤患、持白旗的投降者以及其他丧失战斗力的人员。尽管如此，艾金依然相信，未来的发展趋势是：机器人对于环境的感知能力将会不断提高，从而获得更大的自主权限。由此观之，引发相关的伦理讨论具有极为重大的意义。艾金还表示，即使杀伤性自动机器人被完全禁止，他也不会感到任何遗憾。来源：谭薇机器人的伦理抉择译自《国际论坛先驱报》 [...] 相关文章