法医毒物学决策中的情境偏差研究
何宁1, 王玲1, 郝红霞1,2,*
1.中国政法大学,北京 100088
2.证据科学教育部重点实验室〔中国政法大学〕,2011计划司法文明协同创新中心,北京 100088
* 通信作者简介:郝红霞,女,内蒙古包头人,博士,教授,研究方向为药毒物分析、司法鉴定。E-mail: hongxiah@cupl.edu.cn

第一作者简介:何宁,男,湖南益阳人,博士研究生,研究方向为物证技术。E-mail: 826317747@qq.com

摘要

由与分析任务不相关的案件背景信息造成的情境偏差是认知法庭科学领域最为关注的一类认知偏差。近二十年来,大量的错误鉴定案例、理论与实证研究以及官方调查报告已经证明了情境偏差对法庭科学决策的影响,尤其是对基于经验和主观解释的形态比对学科,如指纹、笔迹、工具痕迹等。最近的几个报道表明,情境偏差甚至会影响到DNA分型、法医毒物学这类基于仪器和客观量化的实验室分析学科。本文首先介绍了情境偏差的概念与认知法庭科学的发展历史,然后举例阐述了法医毒物学工作流程中情境偏差的影响,并总结了目前关于支持或反对专家接触情境信息的一些争论,最后提出了建立信息管理程序、加强认知教育培训、开展盲态验证、完善记录、实时更新技术等五个偏差控制措施,以期为开展国内毒物分析实验室中认知偏差的理论和实证研究提供借鉴与参考。

关键词: 法医毒物学; 认知法庭科学; 认知偏差; 情境偏差; 主观决策
中图分类号:DF795.1 文献标志码:A 文章编号:1008-3650(2022)03-0285-10
Perception into Contextual Bias Influencing Decision Making in Forensic Toxicology
HE Ning1, WANG Ling1, HAO Hongxia1,2,*
1. China University of Political Science and Law (CUPSL)
2. CUPSL-based Key Laboratory (Ministry of Education) of Evidence Science & 2011 Collaborative Innovation Center of Judicial Civilization, Beijing 100088, China
Abstract

For cognitive forensics, contextual bias is used to describe an inclination that the results of a forensic analysis are influenced from task-irrelevant background information. Over the past twenty years, such correlative events occurred and/or were reported with erroneous identifications (e.g., Brandon Mayfield Case in 2004), theoretical and empirical researches (e.g., one of the best known forensic bias research papers by Dror, Peron and Charlton in 2006) and official notices (e.g., The U.S. National Research Council report on forensic science in 2009), demonstrating that contextual bias can influence decision making in forensic science, especially in empirical and subjective disciplines based on visual pattern recognition (among them are perhaps the inclusions of traditional examinations of fingerprint, handwriting, toolmark and others alike). Several recent publications suggest that contextual bias can even affect objective and quantitative instrument-based disciplines, mentioning about DNA typing, forensic toxicology. Here, an introduction was firstly carried out into the contextual bias about its conception and history of cognitive forensics, followed to respectively illustrate the effect of contextual bias on screening test, confirmatory analysis and result interpretation in forensic toxicology practice. Moreover, discussions were made with the current disagreements on whether examinators should be exposed to contextual information, having summarized three points against access to task-irrelevant background information: role’s confusion of forensic scientist, illusional reasoning and subconscious cognitive bias. Finally, six measures were proposed about bias controlling from information management procedure, cognitive education and training, blind verification, detailed document to updating technique. There is a big expectation about cognitive forensics in China, demanding launching active cooperations between forensic scientists and cognitive psychologists to investigate cognitive factors in forensic science practice.

Key words: forensic toxicology; cognitive forensics; cognitive bias; contextual bias; subjective decision making
1 情境偏差与认知法庭科学

认知偏差(cognitive bias)是一个心理学概念, 是指人类决策和判断过程中的系统性错误[1], 也被称作观察者效应(observer effect)[2, 3]。情境偏差(contextual bias)是认知偏差的一种表现形式, 用以描述人们对外部刺激的感知受到周围环境影响的情况[2, 3]。与情境偏差密切相关的术语还包括期望偏差(expectation bias)[2, 3]、确认偏差(conformation bias)[4], 在法庭科学的语境下, 三者可以相互替换使用, 例如Kassin、Dror和Kukucla就使用鉴证确认偏差(forensic conformation bias)一词概括了办理刑事案件过程中由个人先存信念、期望、动机和情境影响证据收集、感知和解释的偏差效应[5]。本文统一使用情境偏差来描述法庭科学专家基于与当前分析任务无关的案件背景信息得出结论的倾向。由于法庭科学专家与警察、检察官等外部送检人员以及其他内部专家之间有着密切的交流与联系, 不可避免地会接触到一些案件背景信息, 包括嫌疑人的性别、年龄、种族、违法犯罪记录、认罪供述、不在场证明, 以及侦查人员的推断、证人证言、其他物证的指向、其他专家的鉴定意见等等。专家受到这些无关信息的影响容易对结果产生先验性的期望或假设, 他们可能会倾向于得到与期望或假设一致的结果, 而低估或忽视了某些结果存在的可能性。比如, 警方常常告诉检验人员, 他们只是需要一份报告, 因为嫌疑人已经全部交代了。这种由期望或假设驱动而不是由数据驱动的逆向决策过程(先有结果再有数据, 而不是由数据到结果), 很有可能会导致错误结论。

法庭科学界对情境偏差最早的评论大概可以追溯到1894年, Hagan在他的笔迹鉴定专著中写道:“ 法庭科学专家必须完全依赖于所看到的内容作出决策, 不能考虑利益相关方的任何建议或暗示。如果专家不了解道德证据或案件的其他方方面面, 就没有什么可以误导他, 或影响其意见的形成。” [6] 此后, Faulds在他1912年的指纹学专著中也记录了伦敦一家报社的评论:“ 尽管指纹理论几乎已被简化成一门准确的科学, 在应用它时仍然可能出错, 而且警察常常过分着急地想证明他的案件, 这可能会扭曲他的观点。” [7]然而, 直到20世纪80年代, 才出现了支持Hagan和Faulds的实证数据。Miller分别采用组间设计和组内设计, 通过控制向实验对象提供简要案情, 证明了在笔迹分析[8, 9]、毛发比对[10]中检验人员可能存在的无意识偏差。Miller结合社会心理学的思想对此进行了分析:“ 在刑事调查中, 警方通常对犯罪嫌疑人的罪行很少或几乎没有任何怀疑。他们的首要任务是找到充足的证据将其定罪。这种态度可以通过个人互动或由附在待检证据上的案情概要传达给检验人员。可以想象, 检验人员可能会无意识地认为嫌疑人一定有罪, 否则警察就不会逮捕他。这种无意识的信念可能会潜在地造成检验人员对证据结论产生偏见和刻板印象。” [10]

进入21世纪以来, 以下几个事件促使认知偏差问题成为了法庭科学界重点关注的主题, 并逐渐建立起了一个新的学科分支— — “ 认知法庭科学” (cognitive forensics)[11, 12]

1)在2004年Mayfield案[13]和1999年McKie案[14] 两个备受公众关注的重大案件中出现了鉴定错误, 检验人员的认知偏差被认为是错误的成因。

2)认知心理学与法庭科学交叉领域的理论性文章大量涌现, 如2002年Risinger等第一次系统地描述了法庭科学中的观察者效应[2], 近年来Dror教授团队首次提出了鉴证确认偏差的概念[5]、法庭科学中认知偏差的来源[15, 16]以及最小化偏差的程序[17, 18], 并总结了专家认知机制[19, 20]

3)针对各个学科开展了广泛的实证研究, 如指纹、足迹、工具痕迹、咬痕、血迹形态、笔迹、毛发、法医人类学、法医病理学、电子取证、火灾调查、DNA分型等[21, 22, 23, 24, 25], 其中最具开创性的一项实证研究是, 2006年Dror、Peron和Charlton采用组内设计秘密测试了在日常工作中指纹鉴定专家的情境偏差[26]

4)2009年美国国家科学院[27]、2015年美国法庭科学委员会[28]、2016年美国总统科学技术顾问委员会[29], 与2015年英国法庭科学监管机构[30]、2019年英国上议院科学技术特别委员会[31]的官方调查报告, 以及发表在权威期刊上的几篇相关评述(2010年Spinney Nature[32]、2015年Servick Science[33]、2018年Dror Science[34]等), 均表达了对法庭科学专家容易受到认知和情境偏差影响的担忧。

2 法医毒物学中的情境偏差

法医毒物学依靠于分析化学、药学等基础学科的知识体系, 被认为是最为科学客观的法庭科学学科之一。经典的毒物分析流程是首先对检材(如血液、尿液样本)进行一系列的药物种类测试, 即筛查测试阶段; 之后根据筛查结果, 对推定为阳性的药物进行特定的确证和定量, 即确证分析阶段; 最后, 专家会综合数据和相关案件信息, 对分析结果进行解释。然而, 当检材的数量和质量较低, 专家必须依赖模糊的数据作出决策时, 依然会涉及主观判断和评估过程, 不相关的情境信息对专家结论有更大的影响空间, 表1对本章所举例子进行了总结。

表1 毒物分析流程中的情境偏差 Table 1 Contextual bias occurred in toxicological analysis
2.1 筛查测试

当法医毒物分析实验室收到检材时, 首先需要对检测目标和范围作出初步判定, 比如酒精、常见的毒品(阿片类、苯丙胺类、大麻类)、安眠镇静药(苯二氮卓类)等。通常做法是先采用免疫学分析等筛查方法快速确定药、毒物的种类, 由于免疫分析结果是推定性质的, 不能提供某个物质存在的明确证据, 因此其阳性结果需要再采用更具特异性的气相色谱-质谱联用(GC-MS)或液相色谱-质谱联用(LC-MS)技术对具体物质进行确证。目前, 有条件的实验室正转向采用高灵敏技术, 如基于高分辨质谱(HRMS)的未知毒物综合筛查方法直接进行确证[40]。然而在实践中主观的专家决策仍然存在, 例如, 毒物学家往往会根据案件情况以及送检方的要求来决定需要进行哪种药毒物的筛查测试。

2019年英国法庭科学监管机构发布了一期毒物分析工作中经验教训的报告[35]。送检机关向一个毒物分析实验室提交了一份样本量较少的血液检材, 并在附上的简要案情中描述到, “ 这是一起与毒品有关的死亡, 死者是一名静脉注射的海洛因吸毒者” 。在了解案情后, 一位资深的毒物学家作出决定, 该样本不需要通过免疫分析来筛查可能存在的药物种类, 直接使用仪器对有限范围内的阿片类药物(吗啡、可待因和其他海洛因标志物)进行确证和定量。该分析使用了几乎所有的检材, 对该范围内阿片类药物的分析结果均呈阴性, 最后, 不得不使用免疫分析法对残留的少量检材进行药物种类的筛查。筛查测试对上述范围内的阿片类药物呈阴性, 但显示可能存在美沙酮(一种用于治疗海洛因依赖的阿片类替代药物), 这在第一次分析中没有进行检测, 然而, 现已没有足够的检材来进行下一步的确证和定量。在就海洛因阴性结果与送检机关联系后, 发现收到的案件信息不完整, 死者在死亡前曾为其海洛因依赖寻求治疗。虽然情境信息可以而且应该用于确定分析方法, 但专家们收到的信息往往是在警方最初的调查阶段收集的, 因此这些信息可能是不可靠、不完整或过时的。警方事先向毒物学家提供了一个情境信息, 即吸食毒品过量或已知死者有吸食海洛因历史, 该信息使得毒物学家对“ 死者是吸食海洛因过量死亡” 的事实产生了一种期望或假设, 并完全基于这样的期望或假设作出了一个关键性的决策, 即选择直接确证和定量有限范围内的阿片类药物, 偏离了既定的筛查程序。虽然在某些情况下有必要偏离常规流程, 但该实验室并没有针对这种情况进行审查, 直到检材被消耗完后才与送检方联系。由于该分析具有破坏性, 而且检材量有限, 最终血液中是否存在美沙酮无法得到证实。

2020年的一项实证研究考察了情境信息对法医毒物学分析方法选择的影响[36]。作者选择法庭化学专业的三年级本科生作为研究对象, 分为“ 提供情境信息” 和“ 不提供情境信息” 两组。第一个实验要求参与者根据阿片类药物(吗啡、可待因等)的免疫学分析数据来决定是否需要进行下一步的确证分析; 第二个实验给参与者提供了5个不同的毒物分析案件, 要求参与者为每一个案件选择分析方法。结果显示:当法医毒物学的免疫学数据处在临界值附近或不明确时, 获取情境信息(包括医生在手术后给死者开过吗啡、死者进行过安宁疗护、死者因背伤找医生开过可待因片剂、死者是静脉注射吸毒者并在尸体旁发现了装有棕色液体的注射器、死者没有任何药物治疗记录)将会使检验人员朝着与这些情境信息达成一致的方向作出是否需要进行确证分析的决定; 死者的年龄信息会影响筛查方法的选择, 对于老年人, 通常会选择医用药物进行分析, 而对于年轻人, 一般会选择滥用药物进行分析。

在一起利用CO投毒进而伪装汽车内CO中毒的死亡案件中也出现了情境偏差导致的鉴定错误[37]。该案的第一次毒物分析结果显示两名死者碳氧血红蛋白饱和度均已达CO中毒致死量, 最初案件的性质倾向于意外, 而后因家属多次上访, 坚持不相信此案件是由于意外事故造成, 故对两名死者心血标本中的镇静催眠类药物进行检测。第二次毒物分析结果显示两名死者的心血标本中均检出艾司唑仑成分, 其含量远未达中毒致死量。后经查明, 犯罪嫌疑人在死者的咖啡中加入艾司唑仑使其昏睡, 之后将其扶入车内, 打开事先购买的纯CO钢瓶, 顺利伪造成汽车内CO中毒意外死亡的现场。办案人员综合现场勘查信息和尸体解剖情况, 先入为主地将案件性质定为意外, 在该案的第一次毒物分析中检验人员受此影响草率地认为只需要对血液中的碳氧血红蛋白进行定量分析即可, 忽略了其他药毒物存在的可能性, 比如犯罪嫌疑人可能使用生物碱、镇静催眠药等这类作用于中枢神经系统的药毒物致人麻痹或昏睡后将其带入密闭空间, 再利用CO投毒进而伪装成CO中毒死亡。由于没有对可能参与死亡过程的药毒物进行全面排查, 最终导致血液中艾司唑仑的漏检, 使得初次案件性质判断错误。

此外, 在我国的某些地区为了严厉打击吸毒行为, 尽管已知免疫学分析存在假阳性问题, 所得出的结果具有推定性质, 需要通过GC-MS或者LC-MS这些特异性技术进行确证, 但如果免疫学结果与口供、证人证言等这些无关情境信息一致时, 这样的标准方法并没有被有效地贯彻, 而是将免疫学结果直接用作行政处罚的依据。

2.2 确证分析

毒物学家在确证分析阶段通常会使用色谱、质谱以及光谱等这类更具特异性的检测技术, 这些检测技术需要将未知样本与已知的标准药、毒物数据进行比对, 或者使用匹配软件, 将未知样本图谱在质谱库或光谱库中进行检索, 产生匹配度排序。在数量、质量较差的复杂、模糊样本比对中, 如果分析人员知道案件中有关药物的使用信息(如药物处方、现场药物使用的证据等), 甚至其他样本的分析结果, 就可能产生情境偏差[38]。在这种情况下, 基于样品应该是阳性的期望, 一个匹配度较差的药物色谱图或质谱图可能会被有意识或潜意识地升级为阳性结果。相反, 如果分析人员不期望某种药物的存在, 或者某种药物的存在不符合案件的情况, 类似的低匹配度可能会被认为阴性。在2014年的“ 念斌投毒案” 中, 由于受到警方错误的侦查思维影响, 检验人员更是直接用氟乙酸盐鼠药标样的质谱图充当了死者尿液、心血、呕吐物的质谱图, 并据此出具了理化检验报告, 这也成为了酿成此次刑事错案的重要一环[39]。显然, 在这些决策中毒物分析人员犯了一个致命的错误, 认为情境信息比科学数据的证明能力更强, 同时将情境信息作为决策的重要基础。在数据比对过程中, 这些案件信息与正在作出的决定是无关的(即这些信息是与当前分析任务无关的), 是否匹配的结论只能根据仪器的信号特征进行判断, 应该基于一致应用的科学标准, 例如保留时间、质谱特征离子碎片峰、相对丰度等这类与当前分析任务相关的信息[41]

2.3 结果解释

法医毒物学最后的分析阶段是结果解释。一组毒物分析结果可能有几种不同的解释, 而无关的情境信息可能使毒物学家倾向于对分析结果进行唯一的解释。2019年英国学者对法医毒物学中情境信息的使用情况进行了问卷调查[38], 来自23个不同国家的36名具有1~35年法医毒物学报告经验的志愿者参与了这次调查。志愿者首先阅读了一组简单的死者血液毒物分析结果(吗啡0.15 mg/L, 可待因0.09 mg/L), 然后指出他们在日常案件工作中解释这些结果时通常会使用哪些信息。问卷中的选项包括死亡情况(日期、时间、地点、现场勘查情况、尸检报告)、死者资料(年龄、职业、性别、种族、人际关系、案史)、死者医疗信息(药物处方、急诊记录、病史、药物滥用史)以及其他可注明的信息。绝大多数(94%)志愿者报告他们在解释毒物学结果时使用了一些情境信息。最常见的情境信息是给死者开的药物处方(n=31, 86%)和药物滥用史(n=30, 83%), 其次是现场情况和死者的急诊记录(两个均为n=29, 81%)。需要强调的是, 并非所有的情境信息都会导致认知偏差, 因为一些信息与解释任务相关。例如, 最常用的情境信息是药物处方和药物滥用史, 这在考虑个体对药物的耐受性、急性或慢性等因素时是必须了解的。同样浓度的美沙酮(一种用于治疗海洛因依赖的阿片类替代药物)对未接触过药物的个体来说是过量的、致命的, 但对慢性(长期)使用的患者来说仍是治疗量。报告使用的第二个最普遍的信息是死者的急诊记录, 这可能有助于排除创伤病人使用的药物, 如吗啡、氯胺酮和咪达唑仑。而现场勘查情况的情境信息(如现场发现的空药瓶, 或者注射器、针头、烧过的锡箔纸等吸毒工具)虽然可能有助于快速确定分析目标, 但这些大多都是与解释任务无关的信息, 可能会导致毒物学家向送检方只报告一种分析结果的解释, 而忽略其他可能实际存在的多种解释。

3 接触无关情境信息的不适当性

目前, 对于法庭科学家是否应该接触情境信息存在两种截然不同的观点, 一种是出于对情境无知的担忧, 认为法庭科学家应该尽可能多地了解案件信息, 以便更全面、快速、准确地分析和评估证据; 另一种则是出于对情境偏差的担忧, 认为法庭科学家在鉴定过程中应当尽可能少地了解相关案件事实, 以提供更加公正、客观的证据。

支持第一种观点的论据主要有两点。第一, 情境信息能够帮助法庭科学家快速、高效地完成分析任务, 作出更加正确的判断[42, 43, 44, 45]。详细了解案情, 能够使检验工作有更强的针对性, 避免盲目分析而消耗有限的检材, 尤其在案件积压量大的实验室中或者出现重大紧急的案情时可以帮助节约大量的时间和成本。有些情境信息与当前的分析任务紧密相关, 专家必须对其进行详细了解后才能进行科学判断, 而且通过考虑所有的已知信息和证据, 从整体的案件背景出发, 更能得出与其他案件事实相符的结论, 这一点类似于临床医生在诊断疾病时需要考虑患者的所有病历信息, 而不是仅仅关注某项医学测试和检验的结果。第二, 情境偏差即使存在, 也可以完全依靠专家的意志力克服[42, 44]。这种看法认为情境偏差只会出现在那些没有受过良好的专业训练或者缺乏职业道德的专家身上, 一个专注、诚实、正直、称职的专家不会允许自己存在偏差。针对这些论据, 可以从以下几个方面进行反驳。

3.1 法庭科学家职责的混淆

刑事侦查是一项具有推定性质的情报工作[46], 必然存在大量的错误推断, 而法庭科学是一项具有确定性质的取证工作, 对结果的准确性有着非常严格的要求。因此, 从工作性质上来看, 法庭科学既是为侦查、起诉提供证据的手段, 也是纠正错误侦查方向的方式。侦查人员的任务是通过收集与考虑所有可能的线索以查清案件事实, 在综合一切可用资源(如各种证据和信息)的基础上进行整体研判, 有利于保障侦查活动的快速、及时、高效、顺利开展。甚至在某些情况下, 侦查人员还会利用一些不太可靠的技术手段来拓展侦查思路与方向, 如心理画像[47]。如果法庭科学家基于侦查人员提供的信息来进行判断和决策, 那么就可能将侦查活动的不准确性带入到法庭科学中, 破坏了它的独立价值。

在法庭审判中, 法官更需要考虑所有的案件信息和证据对案件事实的真实性进行判断, “ 印证证明” 要求法官在认定案件事实时至少有两个以上的证据, 其证据内容相互支持(具有同一指向), 排除了自身矛盾以及彼此间矛盾, 由此而形成一个稳定可靠的结构[48]

因此, 法庭科学家的职责应当被限制为仅在其专业领域内根据相关数据和科学标准对专门性问题出具鉴定意见, 而通过考虑其他案件信息进行决策超出了法律赋予他们的可靠决策范围[2]。整合所有案件信息和证据的任务属于法官、检察官、侦查人员, 而不是法庭科学家[49]。就医学上的类比而言, 法庭科学家的作用更接近于辅助诊疗的医疗技术人员(如医学检验科、放射科的专家), 而不是最终作出诊断的临床医生[42]

3.2 法律推理的错觉

当一份证据受到另一份证据或者其他案件信息的影响时, 由于难以认识到这些证据之间存在的依赖性, 法官通常会将其视作具有独立证明价值的证据, 从而赋予它们所证明事实更多的内心确信程度, 导致有罪判决的可能性比实际更高, 这被称为“ 回音室效应” [2]或者“ 证据重复计算” [42]。例如, 假设有三份相互独立的证据可以将嫌疑人与犯罪现场联系起来, 且每一份证据的随机匹配概率为0.1, 那么三份证据的累积随机匹配概率则为0.001(0.1× 0.1× 0.1), 即从人群中随机挑选出一个人与嫌疑人具有相同特征的概率为0.001, 随着获得的独立证据越来越多, 遇到这种个体的可能性就越小, 说明这样的匹配并不像是一个随机事件, 支持这个人就是犯罪嫌疑人的假设。然而, 假设这三份证据中只有一份证据(如嫌疑人认罪供述)是独立的, 其他两份是交叉污染的产物, 如指纹证据、鞋印证据受到了嫌疑人认罪供述的影响, 那么累积随机匹配概率会更接近0.1而不是0.001, 在这种情况下, 指纹、鞋印的证据价值取决于认罪供述的准确性, 其自身独立的证明价值和可靠性却被削弱了, 但对证据依赖性不知情的法官仍然可能认为累积随机匹配概率达到了0.001, 从而高估了这些证据的价值。当然, 如果案件中的其他证据总是指向正确的方向, 那么情境信息对法庭科学的影响就不会成为一个重大问题, 但其他证据有时也会指向错误的方向, 比如嫌疑人认罪供述可能是由刑讯逼供得到的, 其真实性成疑。当其他证据指向错误的方向时, 法庭科学纠正问题、使调查回到正轨的能力就会降低。由一份证据影响另一份证据, 随着更多的证据被影响并影响其他证据(偏差级联效应[16, 34]), 就会累积成更大的扭曲力量, 导致偏差越来越大(偏差雪球效应[11, 50])。

3.3 人类固有的潜意识属性

将认知偏差归结为个人的职业道德问题或专业水平问题是对人类判断和决策机制的一种误解。需要强调的是, 这些认知机制实际上是在无意识条件下自动发生的, 这意味着认知偏差不是由专家伪造篡改、弄虚作假等主观故意行为或专业能力不足造成的, 它同样会影响那些勤奋专注、诚信正直、能力出色的专家[2]

人类的认知活动依赖于两种信息加工机制, 一种是自下而上的加工, 指的是对输入大脑的外部数据进行加工, 另一种是自上而下的加工, 指的是对大脑中已经存在的经验、知识、情境、期望等进行加工[51]。Dror教授从认知神经科学的角度解释了为什么专家也会产生认知偏差[19]。由于自下向上输入的信息太多, 大脑处理信息的能力有限, 因此人们会更多地利用自上而下的加工机制, 如图式、选择性注意、组块、自动化等来选择更相关、更重要的信息进行加工。这些自上而下的加工机制是人类智慧和专业知识的核心。随着人们获得更多的经验和知识, 自上而下的加工机制会变得越来越强大, 直到最终成为专家。Dror教授认为, 大脑的权衡取舍导致自上而下的加工机制具有矛盾性, 一方面, 自上而下的加工机制使专家能够快速有效地完成任务, 另一方面, 这些机制又限制了灵活性和创造力, 表现得十分机械和僵硬, 可能会导致专家漏掉重要信息, 引入隧道视野和偏差。

著名心理学家Kahneman与Tversky在他们的一篇经典论文中也描述了产生认知偏差的大脑认知机制[1]。他们认为, 人们在进行判断和决策时常常依赖于三种固有的启发式思维, 即代表性启发式(根据相似度作出判断)、可得性启发式(根据记忆作出判断)、锚定和调整启发式(通过初始值来确定最后的答案), 这些启发式可以使人们利用已有的知识经验快速做出决策, 但有时它们也会导致严重的系统性错误。这也即Kahneman提出的双系统思维模型中的“ 快思考” 系统[52]。“ 快思考” 在日常生活中通常能够产生正确的判断和行动, 但它也是思维偏差的来源, 因为通过“ 快思考” 得到的结论是基于个人偏好和期望, 而不是数据。

此外, 认知失调理论认为, 如果一个人同时接触到两种相互矛盾的想法, 就会感到精神上的不适, 从而会产生消除这种不适的动机[53]。比如人们会寻找证据以证实其中一个想法的真实性, 同时怀疑另一个, 或者专注于其中一种想法而忘记另一种。这样的做法使得人们在寻找或解释证据时偏向于先存的信念、期望或假设, 寻找肯定性的证据以直接支持他们的假设, 而不是寻找相互矛盾的证据来证明他们的假设是错误的, 由此产生确认偏差[4]。在法庭科学这样的职业环境中, 专家对自己角色的认知(隶属于侦查机关的专家认为自己是控方的一员)和实验室文化(上下级的服从关系、鉴定服务于侦查等)会使得这样的偏差效应更加显著。

4 情境偏差的控制措施
4.1 信息管理

采取完全屏蔽信息的盲态分析程序对法医毒物学实践工作来说是不现实的, 因为毒物学家需要了解一些与分析任务相关的情境信息, 以便对应该进行哪些测试、如何测试以及怎样解释测试结果等做出合理的判断。同时, 为了最小化情境偏差的影响, 又必须避免毒物学家接触与分析任务不相关的情境信息。在法医毒物分析实验室建立适当的信息管理程序可以解决这个两难问题[42, 45]

该程序采取分离专家职能的方法, 将实验室的毒物学专家划分为信息管理人员与分析人员。信息管理人员充分了解相关的案件背景信息, 对于要执行的每个检验任务, 信息管理人员决定哪些信息与任务相关、哪些信息与任务无关, 并只向分析人员传递与该任务相关的信息。这种模式的工作流程如下, 首先信息管理人员负责与警察等外部送检人员进行详细沟通, 以确定在犯罪现场需要收集哪些样本、检验哪些样本以及优先考虑哪些测试等, 再将提交实验室的样本分配给负责进行具体检验的分析人员; 之后分析人员按照信息管理人员的指示, 对样本进行分析和比对, 并将他们的盲态分析结果记录在书面报告中, 然后将书面报告传达给信息管理人员; 最后, 信息管理人员向送检方提交这些报告, 并提供送检方理解报告所需的任何建议和解释。在分析人员完成检验任务并记录结果之后可以向其披露所有的情境信息。实验室可以指定一名专家担任多名分析人员的信息管理者, 也可以在分析人员中轮换信息管理者的角色, 使他们的经验多样化。轮换安排特别适合于人员有限的小型实验室, 即使在一个实验室中只有两名专家, 一名专家都可以作为另一名专家所检验案件的信息管理者, 这样在进行鉴定工作时, 他们都可以避免接触到与任务无关的情境信息。

在这个程序中, 制定标准和指南以明确哪些类型的信息与任务相关、哪些类型的信息与任务不相关是十分关键的。2015年美国法庭科学国家委员会在《确保法庭科学分析基于与任务相关的信息》报告中阐述了信息与特定分析任务的相关性[28]。首先应区分法庭科学家可能参与刑事调查的三个阶段:

1)收集阶段, 法庭科学家调查犯罪现场, 决定收集什么证据, 并决定需要进行什么检验。

2)分析阶段, 具体证据被检验和比对。

3)评估阶段, 法庭科学家结合情境, 帮助警察、律师等理解分析结果的含义。

在证据收集和评估阶段与任务相关的信息, 在分析阶段可能与任务无关。例如, 当决定在犯罪现场收集什么证据或者需要进行什么检验时, 证人关于犯罪过程的证言可能与任务有关, 而证据的检验和比对结果应仅取决于所检验的物证, 因此证人证言对分析阶段的任务而言又是无关的。当执行分析阶段的任务时, 法庭科学家应该仅仅从他们被要求评估的物证(以及任何与任务相关的情境)得出结论, 为此, 该报告针对分析阶段任务相关性的判断提出了三个原则:

1)与提出的命题相关。

2)从被指定检验的物证中提取。

3)通过一位有能力的分析人员正确地应用一种公认的分析方法。

如果它不是得出有关命题的结论所必需的, 或者它只有助于从指定检验的物证以外的东西得出结论, 或者它只有助于用某种方法而不是适当的分析方法得出结论, 则信息是与任务无关的。

4.2 教育培训

适当的认知教育培训可以帮助毒物学家消除对偏差的误解, 以正确的态度对待分析工作中存在的偏差因素, 充分发挥偏差控制程序的有效性。法庭科学领域普遍持有的几个错误观点是, 认知偏差是一个道德上的故意行为或者是因专业能力不足造成的错误, 因而靠意志力就能克服[42, 44], 专家可以免受偏差的影响[54], 引入技术、仪器就可以消除偏差[55], 以及别人存在偏差但自己不存在偏差[54](亦被称为“ 偏差盲点” [56])等。如果我们不承认并消除这些误解, 实际上就不可能继续前进, 因为这些误解最小化了偏差的存在。应对偏差的第一步是意识到并承认它们的存在, 以及它们可能会对勤奋专注、诚信正直、能力出色的专家产生影响[16]

认知教育培训还可以帮助毒物学家理解实验室环境中存在哪些偏差来源以及什么时候偏差最具影响力等。研究表明, 包括由情境信息带来的情境偏差, 目前有八种因素可以在实验室环境中引入认知偏差, 大致可以分为三类[16]

第一类与特定案件有关, 该案件的某些方面导致了对数据感知、分析和解释的偏差, 包括案件数据、参考材料与情境信息。

第二类与特定法庭科学专家的环境、文化、经验等有关, 主要有基础概率期望、组织因素、教育培训以及其他个人因素。

第三类则是认知偏差更深层次的来源, 来自于人类本性, 即我们都具有的人类大脑特殊的认知架构, 与特定案件和专家均无关。

只有了解认知偏差的来源, 才能更容易地识别和揭露它们, 最重要的是, 每种不同的偏差来源都需要特定的对策。此外, 就由情境信息带来的情境偏差来说, 当数据简单、明确时, 偏差信息对结论的影响不如在决策阈值附近时那么大, 而当样本的数量和质量较低时, 不相关的情境信息对专家结论有更大的影响空间[20]。理解这一点也很重要, 类似于临床医学上的分诊, 根据偏差的影响力大小对案件进行分类处理, 可以让实验室有选择地适用不同方案, 避免以同样的方式来对待所有案件, 达到节约资源、降低成本的目的[57]

4.3 验证、记录与技术

1)盲态验证。盲态验证是指, 在执行验证步骤时对验证人员屏蔽第一次分析的结论以及第一名分析人员的信息, 以确定两者是否可以在不了解对方工作的情况下独立地得出相同结论[58]。关于第一次分析的任何信息(样本是什么、谁做的、如何得出的结论等)都可能使验证结果产生偏差, 降低验证程序的有效性。盲态验证可以确保结论是严格基于案件证据中获得的数据以及一致的司法鉴定标准得出, 而不是依靠外部信息、专家经验、个人期望。

2)完善记录。在技术记录、鉴定报告中都需要详细记录毒物学家的决策基础、与客户沟通的所有记录、所利用的外部信息或资料, 这也是《检测和校准实验室能力认可准则》(CNAS-CL01)[59]第7.8.7节、《司法鉴定/法庭科学机构能力认可准则》(CNAS-CL08)[60]第7.5.4、7.8.7节的规定。此外, 鉴定报告应呈现所有可能的结论或解释以及它们的统计学数据(如概率、不确定度等), 而不是仅仅只给出一种结论或解释。这些措施为毒物学家的决策过程提供了透明度, 同时也便于重新审查证据是如何评估以及评估过程可能受到了哪些因素的影响。

3)技术更新。先进的技术和仪器仍然是由人类建立、编程、操作和解释的, 它们是人类感官的延伸, 虽然不能完全消除偏差, 但可以帮助毒物学家减少偏差。在有条件的实验室, 使用基于高分辨质谱(HRMS)的未知毒物综合筛查方法取代基于免疫分析的筛查方法[40], 可以减少基于情境和期望的测试方法选择。

5 结语

情境偏差不一定导致错误的结论, 但却使专家基于错误的原因得出结论[11]。专家应该只关注相关数据, 由数据到结果, 而不是基于他们期望的目标结果进行逆向决策和循环推理。通过考虑情境信息, 分析人员更有可能正确地解释他们的证据, 即得出与实际发生的事情相符的结论, 但与此同时也削弱了事实认定者确定真相的能力。正如Thompson所说的“ 犯罪学家悖论” [42]:“ 这些分析人员通过帮助自己得到正确的结论而使司法系统更有可能出错。他们试图给出正确的答案, 却阻止自己提供最好的证据。” 毒物学家必须采取切实可行的控制措施来尽量减少或避免这样的潜在危险, 确保鉴定工作的公正客观, 提高科学证据的价值, 因为他们的工作与法律后果紧密相连, 他们一次错误的决策就可能导致一次不公正的审判, 让无辜的人遭受牢狱之苦, 让有罪的人逃脱法律惩罚。

近二十年来, 针对认知偏差对法庭科学实践工作的影响, 国外开展了大量的理论与实证研究, 且已得到了包括英、美、澳等多国司法机关的广泛承认, 这在他们的多个官方调查报告和政策文件中均有重点体现, 而国内在认知法庭科学领域的理论和实证研究尚属空白, 仍停留在译作、综述和评论阶段[61, 62, 63, 64], 亟需法庭科学家和认知心理学家进行积极合作以调研和解决国内法庭科学实践工作中相关的认知问题。

参考文献
[1] TVERSKY A, KAHNEMAN D. Judgment under uncertainty: heuristics and biases[J]. Science, 1974, 185(4157): 1124-1131. [本文引用:2]
[2] RISINGER D M, SAKS M J, THOMPSON W C, et al. The Daubert/Kumho implications of observer effects in forensic science: hidden problems of expectation and suggestion[J]. California Law Review, 2002, 90(1): 1-56. [本文引用:7]
[3] SAKS M J, RISINGER D M, ROSENTHAL R, et al. Context effects in forensic science[J]. Science and Justice, 2003, 43(2): 77-90. [本文引用:3]
[4] NICKERSON R S. Confirmation bias: a ubiquitous phenomenon in many guises[J]. Review of General Psychology, 1998, 2(2): 175-220. [本文引用:2]
[5] KASSIN S M, DROR I E, KUKUCKA J. The forensic confirmation bias: problems, perspectives, and proposed solutions[J]. Journal of Applied Research in Memory Cognition, 2013, 2(1): 42-52. [本文引用:2]
[6] HAGAN W E. A treatise on disputed hand writing and the determination of genuine from forged signatures[M]. New York: Banks & Brothers, 1894: 82. [本文引用:1]
[7] FAULDS H. Dactylography, or the study of finger-prints[M]. London: Halifax, Milner and Co. , 1912: 67. [本文引用:1]
[8] MILLER L S. Bias among forensic document examiners: a need for procedural change[J]. Journal of Police Science and Administration, 1984, 12: 407-410. [本文引用:1]
[9] STOEL R D, DROR I E, MILLER L S. Bias among forensic document examiners: still a need for procedural changes[J]. Australian Journal of Forensic Sciences, 2014, 46(1): 91-97. [本文引用:1]
[10] MILLER L S. Procedural bias in forensic examination of hair[J]. Law and Human Behavior, 1987, 11(2): 157-163. [本文引用:2]
[11] DROR I E, STOEL R D. Cognitive forensics: human cognition, contextual information, and bias[M]//BRUINSMA G, WEISBURD D. Encyclopaedia of Criminology and Criminal Justice. New York: Springer Publishing, 2014: 353-363. [本文引用:3]
[12] FOUND B. Deciphering the human condition: the rise of cognitive forensics[J]. Australian Journal of Forensic Sciences, 2015, 47(4): 386-401. [本文引用:1]
[13] A review of the FBI’s hand ling of the Brand on Mayfield case [R]. Office of the Inspector General, Oversight and Review Division, U. S. A review of the FBI’s hand ling of the Brand on Mayfield case[R]. Office of the Inspector General, Oversight and Review Division, U. S. Department of Justice, 2006. [本文引用:1]
[14] CAMPBELL A. The fingerprint inquiry report[R]. 2011. [本文引用:1]
[15] DROR I E. Human expert performance in forensic decision making: seven different sources of bias[J]. Australian Journal of Forensic Sciences, 2017, 49(5): 541-547. [本文引用:1]
[16] DROR I E. Cognitive and human factors in expert decision making: six fallacies and the eight sources of bias[J]. Analytical Chemistry, 2020, 92(12): 7998-8004. [本文引用:4]
[17] DROR I E. Practical solutions to cognitive and human factor challenges in forensic science[J]. Forensic Science Policy and Management An International Journal, 2013, 4(3-4): 105-113. [本文引用:1]
[18] DROR I E, KUKUCKA J. Linear sequential unmasking-expand ed (LSU-E): a general approach for improving decision making as well as minimizing noise and bias[J]. Forensic Science International: Synergy, 2021, 3: 100161. [本文引用:1]
[19] DROR I E. The paradox of human expertise: why experts can get it wrong[M]// KAPUR N. The Paradoxical Brain. Cambridge: Cambridge University Press, 2011: 177-188. [本文引用:2]
[20] DROR I E. A hierarchy of expert performance[J]. Journal of Applied Research in Memory Cognition, 2016, 5(2): 121-127. [本文引用:2]
[21] COOPER G S, METERKO V. Cognitive bias research in forensic science: a systematic review[J]. Forensic Science International, 2019, 297: 35-46. [本文引用:1]
[22] DROR I E, MELINEK J, ARDEN J L, et al. Cognitive bias in forensic pathology decisions[J]. Journal of Forensic Sciences, 2021, 66(5): 1751-1757. [本文引用:1]
[23] SUNDE N, DROR I E. A hierarchy of expert performance (HEP) applied to digital forensics: reliability and biasability in digital forensics decision making[J]. Forensic Science International: Digital Investigation, 2021, 37: 301175. [本文引用:1]
[24] MORLING N R, HENNEBERG M L. Contextual information and cognitive bias in the forensic investigation of fatal fires: do these incidents present an increased risk of flawed decision-making[J]. International Journal of Law, Crime and Justice, 2020, 62: 100406. [本文引用:1]
[25] DROR I E, HAMPIKIAN G. Subjectivity and bias in forensic DNA mixture interpretation[J]. Science and Justice, 2011, 51(4): 204-208. [本文引用:1]
[26] DROR I E, CHARLTON D, PÉRON A E. Contextual information renders experts vulnerable to making erroneous identifications[J]. Forensic Science International, 2006, 156(1): 74-78. [本文引用:1]
[27] 美国国家科学院国家研究委员会. 美国法庭科学的加强之路[M]. 王进喜, 等译, 北京: 中国人民大学出版社, 2012.
(National Research Council, The U. S. National Academy of Sciences. Strengthening forensic science in the united states: a path forward[M]. WANG Jinxi, trans. Beijing: China Renmin University Press, 2012. ) [本文引用:1]
[28] Ensuring that forensic analysis is based upon task-relevant information[R]. The U. S. National Commission on Forensic Science, 2015. [本文引用:2]
[29] Forensic science in criminal courts: ensuring scientific validity of feature-comparison methods[R]. President’s Council of Advisors on Science and Technology, Executive Office of the President of the United States, Washington, DC, 2016. [本文引用:1]
[30] Cognitive bias effects relevant to forensic science examinations[R]. The U. K. Forensic Science Regulator, 2015. [本文引用:1]
[31] Forensic science and the criminal justice system: a blueprint for change[R]. The U. K. House of Lords Science and Technology Select Committee, 2019. [本文引用:1]
[32] SPINNEY L. Science in court: the fine print[J]. Nature, 2010, 464: 344-346. [本文引用:1]
[33] SERVICK K. Forensic labs explore blind testing to prevent errors[J]. Science, 2015, 349(6247): 462-463. [本文引用:1]
[34] DROR I E. Biases in forensic experts[J]. Science, 2018, 360(6386): 243. [本文引用:2]
[35] Lessons learnt: contextual bias in forensic toxicology[R]. The U. K. Forensic Science Regulator, 2019. [本文引用:1]
[36] HAMNETT H J, DROR I E. The effect of contextual information on decision-making in forensic toxicology[J]. Forensic Science International: Synergy, 2020, 2: 339-348. [本文引用:1]
[37] 聂忠宇, 占梦军, 邓振华. 伪装成汽车内CO中毒死亡案件的法医学分析[J]. 刑事技术, 2020, 45(3): 325-327.
(NIE Zhongyu, ZHAN Mengjun, Deng Zhenhua. Murder disguised as death from carbon monoxide poisoning inside car[J]. Forensic Science and Technology, 2020, 45(3): 325-327. ) [本文引用:1]
[38] HAMNETT H J, JACK R. The use of contextual information in forensic toxicology: an international survey of toxicologists’ experiences[J]. Science and Justice, 2019, 59(4): 380-389. [本文引用:2]
[39] 福建省高级人民法院(2012)闵刑终字第10号判决书[Z/OL]. (2014-08-22)[2021-07-30]. https: //www. pkulaw. com/pfnl/a25051f3312b07f3c84bfc542387b9d4564d21c8d78f441fbdfb. html.
( The final criminal judgment on Nian Bin case[Z/OL]. (2014-08-22)[2021-07-30]. https://www.pkulaw.com/pfnl/a25051f3312b07f3c84bfc542387b9d4564d21c8d78f441fbdfb.html.) [本文引用:1]
[40] 施妍, 向平, 马栋, . 《未知毒物系统筛选分析技术研究》课题研究进展[J]. 中国司法鉴定, 2018(2): 66-68.
(SHI Yan, XIANG Ping, MA Dong, et al. Research progress of Systematic Screening and Analysis Technology of Unknown Toxicants[J]. Chinese Journal of Forensic Sciences, 2018(2): 66-68. ) [本文引用:2]
[41] 全国刑事技术标准化技术委员会毒物分析分技术委员会. 法庭科学毒物检验方法确认规范: GA/T 1649-2019[S]. 北京: 中国标准出版社, 2020.
(Subtechnical Committee on Toxicological Analysis of National Technical Committee on Criminal Technology of Stand ardization Administration of China. Forensic sciences -specifications for validation of examination methods for toxicants: GA/T 1649-2019[S]. Beijing: Stand ards Press of China, 2020. ) [本文引用:1]
[42] THOMPSON W C. What role should investigative facts play in the evaluation of scientific evidence[J]. Australian Journal of Forensic Sciences, 2011, 43(2-3): 123-134. [本文引用:7]
[43] CURLEY L J, MUNRO J, LAGES M, et al. Assessing cognitive bias in forensic decisions: a review and outlook[J]. Journal of Forensic Sciences, 2020, 65(2): 354-360. [本文引用:1]
[44] THORNTON J I. Letter to the editor - a rejection of “working blind” as a cure for contextual bias[J]. Journal of Forensic Sciences, 2010, 55(6): 1663. [本文引用:3]
[45] THOMPSON W C, FORD S, GILDER J R, et al. Commentary on: letter to the editor - a rejection of “working blind” as a cure for contextual bias[J]. Journal of Forensic Sciences, 2011, 56(2): 562-563. [本文引用:2]
[46] 张文琴. 论侦查情报信息研判推动侦查决策[J]. 山东警察学院学报, 2017, 29(1): 60-67.
(ZHANG Wenqin. On promotion of investigation decision by investigation intelligence study and judgment[J]. Journal of Shand ong Police College, 2017, 29(1): 60-67. ) [本文引用:1]
[47] 刘启刚. 侦查假设在情报分析过程中的提出、应用与验证[J]. 中国刑警学院学报, 2018(2): 22-26.
(LIU Qigang. The proposal, application and confirmation of investigation hypothesis in intelligence analysis[J]. Journal of Criminal Investigation Police University of China, 2018(2): 22-26. ) [本文引用:1]
[48] 龙宗智. 中国法语境中的“排除合理怀疑”[J]. 中外法学, 2012, 24(6): 1124-1144.
(LONG Zongzhi. “Beyond reasonable doubt” in Chinese law context[J]. Peking University Law Journal, 2012, 24(6): 1124-1144. ) [本文引用:1]
[49] DROR I E, KUKUCK J, KASSIN S M, et al. When expert decision making goes wrong: consensus, bias, the role of experts, and accuracy[J]. Journal of Applied Research in Memory Cognition, 2018, 7(1): 162-163. [本文引用:1]
[50] DROR I E. Cognitive bias in forensic science[M]// Yearbook of science and technology 2012. New York: McGraw-Hill, 2012: 43-45. [本文引用:1]
[51] 彭聃龄. 普通心理学[M]. 北京: 北京师范大学出版社, 2018: 140-141.
(PENG Danling. General psychology [M]. Beijing: Beijing Normal University Press, 2018: 140-141. ) [本文引用:1]
[52] TAVRIS C, ARONSON E. Mistakes were made, but not by me[M]. Orland o: Houghton Mifflin Harcourt, 2007. [本文引用:1]
[53] KAHNEMAN D. Thinking fast and slow[M]. New York: Farrar Straus & Giroux, 2011. [本文引用:1]
[54] KUKUCKA J, KASSIN S M, ZAPF P A, et al. Cognitive bias and blindness: a global survey of forensic science examiners[J]. Journal of Applied Research in Memory Cognition, 2017, 6(4): 452-459. [本文引用:2]
[55] DROR I E, WERTHEIM K, MACKENZIE P F, et al. The impact of human-technology cooperation and distributed cognition in forensic science: biasing effects of afis contextual information on human experts[J]. Journal of Forensic Science, 2012, 57(2): 343-352. [本文引用:1]
[56] PRONIN E, LIN D Y, ROSS L. The bias blind spot: perceptions of bias in self versus others[J]. Personality and Social Psychology Bulletin, 2002, 28(3): 369-381. [本文引用:1]
[57] DROR I E, KASSIN S M, KUKUCKA J. New application of psychology to law: improving forensic evidence and expert witness contributions[J]. Journal of Applied Research in Memory Cognition, 2013, 2(1): 78-81. [本文引用:1]
[58] DROR I E, PIERCE M L. ISO stand ards addressing issues of bias and impartiality in forensic work[J]. Journal of Forensic Sciences, 2020, 65(3): 800-808. [本文引用:1]
[59] 中国合格评定认可委员会. 检测和校准实验室能力认可准则: CNAS-CL01[S]. 2018.
(China National Accreditation Service for Conformity Assessment. Accreditation criteria for the competence of testing and calibration laboratories: CNAS-CL01[S]. 2018. ) [本文引用:1]
[60] 中国合格评定认可委员会. 司法鉴定/法庭科学机构能力认可准则: CNAS-CL08[S]. 2018.
(China National Accreditation Service for Conformity Assessment. Accreditation Criteria for the Competence of Forensic Units: CNAS-CL08[S]. 2018. ) [本文引用:1]
[61] 王桂强. 物证鉴定错误问题研析[J]. 刑事技术, 2017, 42(6): 431-440.
(WANG Guiqiang. Dissection on forensic error[J]. Forensic Science and Technology, 2017, 42(6): 431-440. ) [本文引用:1]
[62] 王桂强. 物证鉴定错误减少对策研究[J]. 刑事技术, 2018, 43(1): 1-10.
(WANG Guiqiang. Strategies to mitigate forensic error[J]. Forensic Science and Technology, 2018, 43(1): 1-10. ) [本文引用:1]
[63] 周建余. 认知偏见对鉴定意见的影响及其对策研究[D]. 重庆: 西南政法大学, 2019.
(ZHOU Jianyu. The influence of cognitive bias on expert opinions and its countermeasures[D]. Chongqing: Southwest University of Political Science and Law, 2019. ) [本文引用:1]
[64] 朱海. 论司法鉴定中的法证认知偏差[D]. 北京: 中国政法大学, 2021.
(ZHU Hai. On forensic cognitive bias in forensic expertise[D]. Beijing: China University of Political Science and Law, 2021. ) [本文引用:1]