军事机器人如果叛乱

2009-03-08　来源：文摘报　 我有话说

未来战争中，机器人士兵将成战场主力。美国军事专家惊爆，军事机器人行为一旦失控,后果不堪设想。

近日，美国海军研究室帕特里克・林博士公布一项关于机器人士兵的研究报告《自动机器人的危险、道德以及设计》，对美国军方使用机器人提出警告，建议为军事机器人设定道德规范。

2007年，曾有3台带有武器

的“剑”式美军地面作战机器人被部署到了伊拉克，但这种遥控机器人还未开一枪就被从战场撤回――因为它们做了可怕的事情：将枪口对向了它们的人类指挥官!美陆军地面作战指挥官凯文・法赫称：“一旦遇到如此严重的事变，我们必须花上10年乃至20年时间推倒重来。因此，我们必须再等上很久，才能看到机器人和人类并肩作战。”

林博士在研究报告中表示，实际上，现在的机器人程序大都是由一组程序师共同完成的，几乎没有哪个人能完全理解所有程序。因此，也没有任何一个人能精确预测出这些程序中哪部分可能发生变异。“因此必须对军事机器人提前设定严格的密码，否则整个世界都有可能毁于它们的钢铁之手。”

报告指出，现今美国的军事机器人设计师往往急于求成，将还不成熟的机器人技术急匆匆推入市场，促使人工智能的进步在不受控制的领域内不断加速发展。更糟糕的是，目前还没有一套控制自动系统出错的有效措施。如果设计出现错误，足以让全人类付出生命代价。

(《法制晚报》3.2)