当ai谍战遭遇伦理拷问怎么办

下面是好好范文网小编收集整理的当ai谍战遭遇伦理拷问怎么办，仅供参考，欢迎大家阅读！

2020年8月23日，一台机器人在埃及坦塔为一名男子进行核酸采样

由于隐蔽性和保密性得到从业人员和大众的基本认可，撒谎和“肮脏的勾当”也在某种程度上被理解和接受。这就使得谍战几乎无时无处不在突破伦理的界限。

吴敏文

自有人类战争以来，战争伦理问题就广受关注。事实上，伦理问题渗透在战争形式、作战过程和参战要素里。谍战作为一种作战方式，自然不例外。人工智能（AI）的加入，促使谍战发生深刻改变，也使谍战伦理面临新课题。

“谍战”与“伦理”的悖论

在汉语中，伦理是指人类活动特别是人与人交往所需遵循的道德准则；在英语里，伦理亦被解释为道德准则。

谍战是作战方式的一种，而道德伦理并不具有履行和实行上的强制性，因此谍战伦理中的“战”与“伦理”天然就存在冲突和矛盾。如西方军事学家克劳塞维茨所言，作战双方都有将对抗推向顶点的趋势。据此，谍战中的对抗双方不可避免地都潜伏着无所不用其极的倾向和动力，对其进行伦理约束虽说具有天然的合理性，但大多数时候几乎不可能。

孙子曰，“兵者，诡道也”，又曰“知彼知己，百战不殆”，即可使用诡诈和计谋实现“知彼”，获取对手情报。克劳塞维茨在《战争论》中也说，“当兵力很弱，任何谨慎和智慧都无济于事，一切办法似乎都无能为力的时候，诡诈就成为最后的手段了。”

随着社会和文明的发展进步，舆论对战争特别是暴力程度相对较低的谍战符合基本伦理的要求日益迫切。为此，情报机构和相关个人都不得不至少在表面上表现出对道德伦理的尊重。

美国中情局是迄今世界上最强大的谍战机构，铭刻在弗吉尼亚州兰利市中央情报局总部大厅大理石墙上的，是来自《约翰福音》里的话：“你们必须知道真理，而真理必将使你获得自由”；1939年，美国时任国务卿亨利·史汀生以“君子不该偷看信件”为由，关闭了国务院的密码分析处……

然而谍战无法改变其内在和实质。由于谍报工作往往是以维护“国家安全”和满足国防需要为目的，一些职业性的不道德会被允许甚至鼓励。美国情报机构前头目理查德·比尔斯公然宣称，中央情报局人员“具有一种更崇高的忠诚感，他们的恶性动作正是为了表达那种更崇高的忠诚感而采取的”，以至于在某种程度上，谍战人员津津乐道着这样的信条，“正义的目的可以通过无原则的、通常是不能接受的手段来达到”。

事实上，绝大部分美国政客和政策制定者，都认为用“肮脏的勾当”来维护美国国家利益天经地义。1972年10月，时任美国参议院军事委员会主席约翰·斯坦尼斯宣称：“你必须下定决心拥有一个情报局，把它作为情报局而加以保护，并且眼开眼闭，听之任之。”

这就使得对谍战的道德承诺或宣示，成了掩人耳目的策略。在亨利·史汀生关闭国务院的密码分析处后不久，美国的无线电通信解惑与破译即得以复活，并在二战期间为美国的情报工作发挥了重要作用。1952年，美方以总统颁发秘密行政令的方式，彻底为截取和破译敌对国家和友好国家的通信信号大开方便之门。

实际结果，正如美国著名作家和学者马尔科姆·马格里奇所说：“我们的后代必将看到，我们在捍卫自由的时候毁掉了自由；我们为刺探敌人的资源和意图而建立起来的巨大的秘密机构，到头来足以混淆我们自己的种种目的；为国家的利益而欺骗他人，到头来必定会欺骗自己；为达到这些目的而建立起来的巨大的情报队伍，曾几何时，就陷入我们自己手造的狂想之网而无法解脱，从而给所有人带来灾难性后果。”

AI时代三大隐忧

以技术优势获取作战优势是美军传统，谍战亦然。20世纪五六十年代，U-2“龙夫人”和SR-71“黑鸟”间谍飞机在美军情报系统中崭露头角，照相侦察卫星和电子侦察卫星也开始在全球搜集情报。海湾战争中，美国时任国防部长切尼之所以能成功说服沙特国王法赫德允许美军进驻，关键是向其展示了伊拉克侦察部队深入沙特阿拉伯沙漠20公里的清晰卫星照片，这成为美军实施对伊拉克夹击的“左勾拳”行动的基本前提。

通过技术手段获取大量原始情报之后，数据处理成为瓶颈问题。1946年，美国和世界第一台电子计算机“埃尼阿克”诞生。随即，美国负责情报处理的主要机构国家安全局就成了全球拥有最多电子计算机的单位。1950年，AI的主要创始人、英国科学家图灵发表其具有里程碑意义的论文《电脑能思考吗》，并提出著名的AI“图灵假设”。AI与谍报的结合，成为将最新技术用于谍战的自然拓展。

谍战具有高度隐蔽性。由于隐蔽性和保密性得到从业人员和大众的基本认可，撒谎和“肮脏的勾当”也在某种程度上被理解和接受。这就使得谍战几乎无时无处不在突破伦理的界限。

AI用于谍战也具有隐蔽性。无论是情报的获取、分析，还是利用，AI的角色越隐蔽，人们越是感觉不到它的存在，它的效果就越好，表现也越突出。这不仅导致传统的谍战伦理问题更加突出，也生发出一系列新问题。

一是信息的无差别采集。谍战中的信息采集作为一种作战行为，其对象应限于敌对国家、组织和个人。但无论是侦察卫星、有人无人侦察机、侦察船只，还是有人无人侦察车辆，在进行信息采集时无论是出于操作和控制人员的主观意愿，还是限于技术侦察平台的客观能力，都不太可能区分相关与无关、平民与战士、军用与民用，而是进行广泛采集和充分采集，不仅不会尽量避开不应采集的部分，还唯恐采集不全。

二是对所采集信息的过度分析。所谓过度分析，即对信息的分析和处理超过作战所需。数学模型和智能算法加超级计算机，使信息分析能力得到极大增强。对所采集的信息进行哪些方面的信息挖掘和特征分析，决策和主导因素来自相关责任人。构建数学模型和设计智能算法的技术人员，主观上不会故意、技术上也难以做到对信息分析进行程度和等级控制，这就导致对信息的过度分析几乎无法避免。

三是滥用信息分析和处理的结果。所谓结果滥用，即对所采集信息的分析处理结果，不仅用于作战目的，还用于与作战无关的目的，包括用于某些人、某个组织、某个国家以获取不正当利益。比如目前，在美国国防战略聚焦“大国竞争”的背景下，美国政军高官声称要与对手进行“极度竞争”和“无限博弈”。美国具有全球最强的信息搜集和分析处理能力，既然是“极度竞争”和“无限博弈”，对信息处理结果的滥用几乎毫无悬念。

边界日益模糊后果难测

越过伦理界限的信息采集、处理和结果滥用导致的后果难以预测，但至少会体现在个人和组织或国家两大层面。

在个人层面，主要聚焦三种可能后果。

首先，无差别的信息采集很可能侵犯个人隐私。普通公民的日常生活、行踪轨迹和其他活动，属于个人隐私和基本人权，他人或团体无权知晓和干涉。但是，谍报人员或系统在监视某特定人物活动和行踪轨迹时，可能导致无关人员个人隐私的暴露。

其次，对信息的过度处理可能产生言行诱导。当前，被广泛运用的AI技术，已经在商业领域产生冲击伦理底线的后果，例如，相关行为者通过分析大量网购者的消费行为，向其推送具有诱导性的商品信息，诱导消费者的消费倾向和行为，进而从中渔利。谍战中的言行诱导对象，既包括谍战相关人员，也包含对算法、系统等技术成果或信息分析结果等有需求的商家。

第三，对信息处理结果的滥用可能危及无辜者的生命财产安全。谍战人员与系统所拥有的高水平、高等级信息处理系统和高附加值的分析结果如被滥用，可能导致受害人银行账户、有价证券、保险理财等财产损失，极端情况下甚至可能危及生命。

在组织或国家层面，主要有两大隐忧。

一是可能导致大规模、多手段、多渠道的信息窃取。随着人类社会进入信息和智能社会，信息和数据成为一个国家的战略资源，大规模的信息窃取可能危及国家安全和民生福祉。现代社会，商业行为与谍战活动难以截然区分，许多商业机构、网上平台和手机App等，动辄要求顾客和用户填报个人信息，其中就可能包含难以预估的隐患。

与此同时，一个国家或社群的基因信息若被大量窃取，可能危及族群健康与安全。

二是对信息的过度分析和结果滥用，可能成为干涉他国内政，甚至颠覆合法政权的帮凶。目前，低强度、全时化、介于传统战争与非战争行为之间的“灰色地带”较量，已成为国家间战略博弈的重要战场。美国依托其遍布全球的技术谍战系统和手段获取海量信息与数据，委托战略与国际问题研究中心、兰德公司等智库，进行深度挖掘和分析处理，针对与特定国家的“灰色地带”博弈进行研究。此类研究结果，可为其进行“极度竞争”和“无限博弈”提供情报支持。

此外，虽然AI技术不断成熟，在军用民用领域的应用也不断普及，但任何技术都无法保证不出错，越是前沿技术风险越大。航空工业已经发展超过百年，至今仍有因技术问题造成的空难。谍战中的AI技术无论在信息采集、分析和利用中的哪个环节发生错误，后果都是灾难性的。

（作者单位：国防科技大学信息通信学院）

《环球》杂志授权使用，其他媒体如需转载，请与本刊联系