审判机器人：人工智能满足认识要求的探索

故意的认知层面包括认识，因此，与之相关的问题是人工智能技术是否能够形成意识。因为术语“意识”可能在不同学科领域具有不同含义（比如，心理学、神学或法学），为回答该问题，我们必须审查该术语的法学含义；尤其是，我们必须根据刑法中的法律定义来审查意识。即使该术语的法学含义可能与其他含义不同，鉴于我们的讨论关涉刑事责任，因此只有法律意义是相关的。

在刑法中，意识是指感官对事实数据的感知及其理解。[168]该定义的根源是19世纪晚期的心理学理解。以前，意识等同于知觉（consciousness），即人类清醒时大脑的生理—身体状态。到19世纪末，心理学家认为意识涉及人类思维的更为复杂的情况。[169]20世纪60年代，人们对人类思维的现代理解强化“人类思维是个体在特定时间意识到的内部刺激和外部刺激总和”的概念。

因此，很明显，人类思维不是恒定的，而是动态的、经常变化的。人类思维可以被描述为感受、想法和情感的流动（“意识流”）。[170]人们还开始理解，人类思维是有选择性的。这意味着人类能够将自己的思想集中在某些特定刺激上，而忽略其他刺激，使得被忽略的刺激根本无法进入人类思维。如果人类思维包括所有的内部刺激和外部刺激，并且必须关注每个刺激，那么人类思维将无法发挥作用。

人类和动物的感知系统的功能是吸收刺激（光、声、热、压力等）并将其传递到大脑，以处理事实信息。处理过程发生在大脑内部，直到出现关于事实数据的总体印象（general image）。该过程被称为感知（perception），被认为是人类思维的基本技能之一。

许多刺激无论何时都处于活跃状态。为了能够创建有组织的事实数据印象，人类大脑必须关注一些刺激，并忽略其他刺激。这是通过注意力过程来实现的，注意力使得大脑能够专注一些刺激而忽略其他刺激。在实践中，其他刺激并未完全被忽略，它们仍然存在于感知过程的背景中。神经系统仍然保持足够的警觉，当注意力发挥作用时，它可以吸收其他刺激。

例如，阿奇（Archie）正在聚精会神地看电视。伊迪丝（Edith）喊他，因为她想跟他说话。当她第一次喊他时，他没有反应。当她第二次喊他时，她的声音更大。这一次，他作出反应，问她想要什么，并说他要去洗手间。当阿奇专注于电视时，环境中的许多刺激都被他忽略了（例如，他的心跳声、厨房里的气味以及膀胱中的压力），这样他才能专注于看电视。但是，他的神经系统仍然足够警觉，能够吸收这些刺激。伊迪丝的第一次喊他的声音是被他的注意力忽略了。但是，当她第二次喊他时，他专注于电视的注意过程停止了，因此，其他刺激能够被吸收，并受到一些关注。而这正是为什么阿奇会突然想起他要去洗手间。

感知不仅包括吸收刺激，还包括将它们处理为相应的总体印象。因此，重复刺激才能发生效果。将事实数据处理为相应的总体印象是通过无意识推断来完成的，所以，绝对不需要意识来实现这一点。[171]但是，处理的结果（即，相应的总体印象）是有意识的结果。因此，虽然人类的大脑并没有意识到大部分过程，但是只要相应的总体印象被接受，大脑就会意识到过程的结果。结果就是，只有当相应的总体印象被接受时，人类大脑才被视为对此具有意识。

这个过程形成了人类意识的本质：意识是感知的最后阶段。通过感官对事实数据的感知及其理解，由此形成相应的总体印象，而这正是对事实数据的意识。例如，眼睛不是人类的视觉器官，大脑才是。眼睛仅仅是向大脑传递事实数据的传感器。只有当大脑创建相应的总体印象时，才能认为人类意识到相关的景象。因此，植物人虽然有健康的眼睛，但也被视为是看不见的（或者，不能够意识到他看到了什么），除非他能将景象组合为相应的总体印象。

因此，若要认定自然人意识到某些事实数据，则需要同时满足两个条件：（1）通过感官吸收事实数据；（2）在大脑中创建关于该数据的总体印象。若缺乏上述任何一个条件，则不认为该人有意识。意识是一个非此即彼的问题：犯罪人要么意识到，要么没有意识到。部分意识毫无意义。犯罪人可能意识到部分事实数据，即完全意识到这些数据，但并未部分意识到某一特定事实。如果事实未被吸收，或者如果没有创建相应的总体印象，则认为犯罪人没有意识到。

如上所述，有些时候，术语“明知”会被用来描述故意的认识层面。问题在于：“明知”和“意识”之间有区别吗？在功能上进行审查时，就刑事责任而言，这些术语之间没有区别，因为它们指的是相同的认识概念。[172]此外，“明知”有时被明确定义为“意识”。[173]但是，在心理因素的背景下，更准确的术语似乎是意识而不是明知。

在刑法背景之外，意识更多地与知觉相关，而不是明知。明知也与认识过程有关，但它比知觉更加关注信息。明知可能代表比意识更深层次的认识过程，但在刑法中心理要素要求的特定背景下，意识似乎是更准确的术语。

在法庭上，根据刑法的要求，超出一切合理怀疑地证明犯罪人具有完全意识，并非易事。意识与心理的内部过程有关，意识不一定具有外在表现。因此，刑法已经为此任务发展出代替证据的解决方案。这些替代解决方案就是推定，即在特定情况下推定存在意识。绝大多数法律制度都承认两个主要的推定：（1）有意无视（willful blindness）之推定，取代对行为和情节的意识；（2）意识推定，取代对结果发生可能性的意识。在探索这些推定及其与人工智能技术的关联之前，我们必须审查人工智能技术如何能够满足故意认识方面的要求。

人工智能机器人是否能够意识到刑法中的行为、情节或结果发生的可能性？[174]如上所述，意识的过程可分为两个阶段。第一阶段包括通过感官吸收事实数据。该阶段，吸收事实数据的装置发挥主要作用。人体设备是器官，例如眼睛（用于感测光线）、耳朵（用于感测声音）等。这些器官吸收事实数据（如景象、光线、声音、压力和质地等）并将其转移给大脑进行处理。

人类五种感官吸收事实数据的能力，人工智能技术通过相应设备同样都能够具有。照相机吸收光线并将数据传输到处理器，[175]麦克风收集声音，[176]传感器感应压力，温度计感应温度，湿度计感应湿度等。实际上，先进的技术能够比相应的人体器官更加准确地进行感知。例如，照相机可以吸收人眼无法看到的频率的光波，麦克风可以感知人耳听不到的声波。

我们中有多少人准确地“猜出”精确到0.1度的室外温度和湿度？0.0001度呢？相对湿度呢？我们大多数人都不能。相比之下，即使是最简单的电子传感器也可以对这些数据进行精确测量，并将信息传输给适当的处理器。因此，人工智能技术满足意识第一阶段要求的能力，实际上要比人类高级得多。

意识过程的第二阶段包括创建关于大脑中这些数据的相应总体印象，即完全感知。自然，大多数人工智能技术、机器人和计算机都不拥有生物大脑，但它们拥有人工大脑。大多数这些“大脑”都具体体现在他们使用技术的硬件（处理器、存储器等）之中。这些“大脑”是否能够从他们吸收的事实数据中创建相应的总体印象呢？人类通过分析事实数据来创建相应的总体印象，这使得他们能够使用信息、传递信息、整合信息，并根据这些信息实施行为，换言之，理解这些信息。[177]

考虑一下以人工智能技术为基础的保安机器人。[178]这些机器人的任务是识别入侵者，并向人类部队（警察、军队）报警或自己阻止入侵者。它们的传感器（摄像头、麦克风）吸收事实信息并将其传输至处理器，之后由处理器识别入侵者。为此，处理器分析事实数据，确保不要误将该地区的警察和其他安保工作人员误认为是入侵者。该分析基于识别并区分不断变化的景象和声音。机器人可以比较衣服的形状和颜色，并使用其所需要的任何其他属性来进行识别。(www.xing528.com)

在这个短暂的过程之后，机器人评估概率。如果这些概率不能产生准确的识别，机器人会启动声音识别过程，并要求可疑人物表明身份，提供密码，或执行任何其他与情况相关的行动。如果入侵者应答，那就将声音与存储在存储器中的声音格式进行比较。在收集了所有必要的事实数据之后，机器人有足够的信息来作出决定，并根据该决定，采取行动。事实上，这个机器人从传感器吸收的事实数据中创建了一个相应的总体印象，它能够使用、传输、整合信息，然后根据这些信息采取行动，换言之，理解这些信息。

考虑一个自然人保安在这种情况下如何行动。很可能，他也是以同样的方式行动。自然人保安会认为某个人或某个声音可疑，而机器人则会检查当前景象或声音的变化。我们更喜欢机器人保安，因为他们比自然人保安更能好好地工作，不会在工作中打瞌睡。自然人保安和机器人保安都使用他们的记忆来尝试识别人物或声音，这通过将它们与存储在存储器中的样式进行比较来实现。但是，机器人不可能忘记任何数据，人类却有可能忘记。自然人保安并不总是能够确定，但机器人会评估所有概率。自然人保安要求可疑人物表明身份，机器人也是如此。自然人和机器人都将应答与存储在存储器中的信息进行比较，这又是一项机器人能比自然人更加准确地予以执行的功能。在所有数据收集完成之后，自然人和机器人保安都会作出决定。他们都理解这一情况。

我们认为自然人保安可以意识到相关的事实数据。我们能不认为机器人保安也是如此吗？没有理由不这么认为。它的内部过程与自然人保安的内部过程基本相同，只是机器人比自然人更准确、更快速、更好地工作。当他们意识到可疑的人或声音时，他们都会吸收数据并采取相应的行动。

有人可能认为，自然人保安可能比机器人吸收了更多的事实信息，例如气味，并且自然人保安能够过滤掉不相关的信息，例如蟋蟀的声音。这种论点并不会使上述分析无效。首先，机器人也能够吸收额外的事实数据，如气味。但是如上所述，自然人使用注意力过程以集中于事实数据的一部分，就像阿奇在前文引用的例子中所做的那样。尽管人类有能力吸收极为广泛的事实数据，但这可能会分散注意力，使他们无法完成手头的任务。而机器人可以被编程为忽略这些数据。

如果气味被认为与保安任务无关，那么机器人就不会考虑这些数据。如果他们是自然人，我们会说他们不会注意这些数据。自然人使用在人类大脑中运行的注意力过程，过滤掉不相关的数据。然而，机器人只有在彻底分析所有事实数据之后，才会检查这些数据，并排除不相关的选项。我们现在可能会问自己，作为人类，我们更喜欢哪一种保安：那些不自觉地不注意事实数据的保安，还是那些彻底检查所有事实数据的保安？

总之，人工智能技术同样有能力满足意识第二阶段的要求。鉴于上述两个阶段是刑法承认的意识过程的全部阶段，可以得出结论：人工智能技术有能力满足刑法中的意识要求。

尽管如此，在我们断定机器有能力形成意识之前，我们中的一些人可能还是会有一种“少了某些东西”的感觉。如果我们从更广泛的意义上考虑意识，这种感觉可能是正确的，因为意识被用于心理学、哲学、认知科学等领域。但是，在这本书中，我们审查的是人工智能实体的刑事责任，而不是心理学、哲学、认知科学等领域中广泛意义上的意识。因此，与审查人工智能实体刑事责任相关的唯一认识标准，就是刑法中的标准。其他标准与评估自然人或人工智能实体的刑事责任并不相关。

刑法对意识的定义确实比其他知识领域对意识的定义要窄得多。不仅对人工智能实体赋予刑事责任如此，对自然人赋予刑事责任亦是如此。心理学、哲学或认知科学中的意识定义可能与对机械人的无尽追求有关，但却与基于刑法定义的机械犯罪人无关。[179]这一区别正是机械人与机械犯罪人区别的典型例子之一。

如前所述，在法庭上很难证明意识本身，特别是在必须证明超出一切合理怀疑的刑事案件之中。[180]因此，刑法发展出两种证明意识的解决方案：有意无视的推定和意识的推定。根据有意无视之推定，如果犯罪人怀疑存在行为和情节，但却没有核实这种怀疑，则推定犯罪人意识到这些行为和情节。[181]这一推定的理由是，由于犯罪人对事实的“无视”是有意的，那么他就被视为意识到这些事实，尽管他可能实际上并未意识到这些事实。

如果犯罪人希望避免犯罪，他就会检查事实。例如，怀疑“该女性可能不同意与他发生性行为”的强奸犯，预测到“如果他问她，她会拒绝”。在这种情况下，毫无疑问，与之发生性行为并未经过她的同意。因此，他无视自己的怀疑，在审讯中说，他认为她同意了，因为他没有听到拒绝之声。有意无视之推定将“未经检查的怀疑”等同于“对相关行为或情况具有充分意识”。问题是，这个推定是否与人工智能技术相关。

根据意识之推定，我们推定一个人意识到他的行为的自然结果有可能发生。[182]这种推定的基本原理是，人类具备必要的基本技能来评估其行为的自然后果。例如，当向某人头部开枪时，射击者被认为能够评估射击的自然后果是受害人可能死亡。永久或暂时缺乏这种技能之人，有机会反驳这种推定。问题是，这个推定是否与人工智能技术相关。

对于自然人来说，意识的确很难证明。但是，因为在刑法背景下，人工智能技术可以准确地监控意识的全部过程，所以没有必要采取任何证明的替代方案。若切换到自然人身上，就像是每个个体的大脑都不断被扫描，每个想法都被记录下来。如果通过脑部扫描能够识别出对事实数据的意识，那么超出一切合理怀疑地证明存在意识将是一项简单的任务。

鉴于人工智能实体的每一个行为都可以被监控和记录，包括刑法语境中的全部意识过程，因此，证明人工智能实体对特定事项的事实数据具有意识则是完全可以实现的。所以，没有必要通过替代方案来证明人工智能实体的意识，因为它的意识完全可以直接证明。但是，如果有必要使用这些替代方案来证明人工智能实体的意识，那么这也是可以实现的。强人工智能技术使用算法来评估概率，以便作出合理的决策。最小概率定义了每个事件的可行性、概率或“合理性”。如果使用意识替代方案更具有优势，那么，这也是完全可以实现的。

对自然人来说，只有现实的怀疑才能推定存在有意无视。因此，尽管特定事实事件发生的概率高于某个比率，而人工智能实体忽略了这种可能性，这可能被视为有意无视。自然人为什么不愿检查这种怀疑，对于适用有意无视之推定而言并不重要，对于人工智能实体来说，也是如此。因此，论点是：如果人工智能实体忽略了某种邪恶的或隐藏的欲望的可能性，正如自然人也可能做的那样，这种无视的原因是无关紧要的，正如自然人的案件那样。

如前所述，邪恶并不是刑事责任的构成要件之一。因此，无视怀疑（即，概率超出特定阈值的替代方案）的原因是无关紧要的，无论动机是否是邪恶的。某些行为的自然后果的发生具有合理的概率。机器可以通过权衡相关情节来量化评估这一合理性。强人工智能技术能够识别自然人称为“自然”的选项。因此，尽管证明人工智能实体的意识并不如证明人类意识那样困难，故而没有必要使用证明意识的替代解决方案，但是这些替代解决方案也可以用来证明人工智能实体的意识。