1000多名知名科学家和人工智能领域专家近日签署公开信,警告可能出现人工智能军备竞赛,并敦促联合国发布针对“攻击性自动化武器”的禁令。(8月4日《科技日报》)

　　这则新闻恰恰表现出当下科技发展存在的某种隐忧。人类对科技的评价早已不是单纯的非此即彼态度。一方面,科学与技术的存在和变革一直是推动人类发展进程中不可或缺的稳定增量,人类渴望通过技术实现财富的积累,需要仰仗技术的进步实现从生活品质到社会演进的目标。另一方面,技术的狂飙式发展却不可避免地产生科技伦理问题,譬如对于克隆人的争议、转基因食物的恐慌、“机器杀人”的反思……

　　其实,科技进步带来的人类困境早已有之,从机器大工业时代开始,我们的认知仅仅局限在机器改变生活,并且将最初的阶级压迫的根源归咎于机器,于是产生了纺织工人砸毁机器的事件。然而,随着人们对于科技认知的不断深入,以及对于自身利用科技的价值评价的不断深入,科学技术已不再简单地只是一种工具或者手段,而是最终会带来整个社会价值体系的变化。我们创造科技,还是科技最终支配人类,看似是一个悖论,但它确实存在。记得一部国外短片《badrobot》讲述的是在不久的未来,家用机器人因为被植入人类感情,具备更加智能化的系统,为此杀了人,最终成为人类生存的威胁。虽然,人类已经在机器智能化(科技进步)的路上走得足够远,并一直处于主导地位,但倘若这种支配地位发生转化,相信是让人无法接受的。

　　哈贝马斯曾认为科学技术已经毫无疑问地具有了意识形态的功能,并为统治集团所利用成为统治大众的工具,这一见解或许也体现了这位德国哲学家的担忧。技术(包括正处于发展中的人工智能)进步会不会最终走向自身发展的反面,并逐步统治人类?以笔者之见,这其中存在着一个技术利用的限度和科技伦理问题。人类科技创新的过程其实就是不断实现其作为工具的有用性的过程,期间是以效力为标准,这样就会增加其走向极端化的风险,或者漠视人类情感和精神影响。因此必须在科技进步中适当引入对于价值理性的判断,使其遵守应有的伦理和规范,即科技伦理。从第一只克隆羊的诞生到各种攻击性自动化武器的运用,这其中存在的伦理问题一直如影随形,那么就需要包括科研工作者在内的社会共同体成员不断反思。

　　人类给予了科技存在的可能性,其发展不应酿成反人类的恶果,也不应成为摧毁人类良知和秩序的杀手,更不能凌驾于法律与道德伦理之上,它理应成为人类极尽完善之目的工具,与人类共存。