首页 理论教育 SSK强纲领经验拒斥的科学发现

SSK强纲领经验拒斥的科学发现

时间:2023-11-30 理论教育 版权反馈
【摘要】:第5章对SSK强纲领的经验拒斥围绕BACON,还发生了一场计算论者与建构论者之间的激烈争论。这场讨论的靶子文章是澳大利亚新南威尔士大学认知科学中心主任彼得·斯莱让克博士一篇近40页的檄文[68],标题充满火药味:“计算机科学发现对强纲领的经验拒斥”。

SSK强纲领经验拒斥的科学发现

第5章 对SSK强纲领的经验拒斥

围绕BACON,还发生了一场计算论者与建构论者之间的激烈争论。1989年和1991年,科学哲学科学史研究方面最主要的刊物《科学的社会研究》(Social Studies of Science)第19、21两卷进行了一场主题为“计算机发现和科学知识社会学”的专题讨论。这场讨论的靶子文章是澳大利亚新南威尔士(New South Wales)大学认知科学中心主任彼得·斯莱让克博士一篇近40页的檄文[68],标题充满火药味:“计算机科学发现对强纲领的经验拒斥”。据说,这篇文章在发表之前就已经引起了“极大的忙乱”[107],于是编辑推波助澜组织了这场有科学知识社会学(SSK)、人工智能(AI)、科学哲学、认知科学、语言学等方面的领军人物参加的讨论。

共有10人参加了这场讨论,根据他们发表的意见可粗略分成4个阵营:(1)斯莱让克与人工智能、认知心理学创始人之一西蒙、认知科学家萨伽德组成的支持计算心理学范式的阵营,认为拒斥是成功的;(2)科学知识社会学共同体的主要成员科林斯、伍尔加与进行认知社会学研究的哲学家福勒以及社会学家布兰尼根组成的支持社会建构论的阵营,认为拒斥是失败的;(3)认知科学倾向的科学哲学家吉尔与实验心理学家戈尔曼组成的主张计算心理学范式与社会学范式相融合的阵营,他们虽然认为拒斥失败了但同时也反对SSK的强纲领;(4)语言学者迈尔斯(Greg Myers)没有对拒斥成功与否发表意见,只是从语用学方面极力反对SSK。

就上述人物在这场争论中的立场和观点,我们不妨给他们各自贴上一个更简洁明了的“标签”,我们称第一个阵营中的人物为“计算论者”(computationalist),称第二个阵营中的人物为“建构论者”(constructivist),第三个阵营中的人物为“融合论者”(我给的称呼,非出自争论中相互的称呼)。需说明的是,各个阵营内部还有见解上的些微分歧,各个阵营之间也存在着争论之外的合作研究,因此我们强调这些“标签”基于本争论。

争论的焦点是BACON程序是否是对科学知识社会学(Sociology of Scientific Knowledge,简称SSK)的强纲领(strong programme)的经验拒斥。换句话阐述这场争论的主题就是,科学发现是否完全由社会因素因果决定。我们将看到,对这场心智主义(mentalism,或译心智论)和社会学主义之间关于科学发现的争论的研究,为我们复兴“发现的哲学”、收复波普尔拱手让给社会学、心理学、科学史的这块失地提供了另一些理由。

第1节 拒斥强纲领的“图灵检验”

从20世纪70年代开始兴起的科学知识社会学以社会建构论的话语重新阐释科学知识的本质,它告诉我们一个关于科学知识的不平常的理解:科学知识是平常的知识,对科学知识的信仰并不比人类其它知识具有更特殊、更优越的理由。爱丁堡学派的核心人物布鲁尔(David Bloor)提出了将一种社会决定论扩展到数学及经验科学方面的强纲领主张[108]

按照强纲领的主张,社会不仅仅是科学发现的一种情境,更确切地说,“社会因素是科学发现不可消除的组成部分,是理论真实内容的有因果效用的决定因素”[68]。而对此强纲领持反对意见的人若想批驳强纲领,最有力的武器就是:找出一个完全独立于任何社会因素的科学发现过程的实例,由此说明科学发现完全可以独立于社会因素而发生,也就是说社会因素不是决定科学理论内容的有因果效用的因素,就有力批驳了强纲领。

斯莱让克正是这样做的,他将BACON程序看作拒斥强纲领的经验性实例,而且在通过运演这个实例能够就某个命题得出“是”或“不是”答案这种判决性特征上,斯莱让克还把BACON比作类似“图灵检验”(Turning Test)的计算机实验。

英国数学家、逻辑学家A.M.图灵(Alan M.Turing,1912~1954)1950年在他的文章“计算机器与智能”中设计了一个著名的模仿游戏,一个提问者和两个回答者互相看不见也听不见,提问和回答都是通过电传打印机,提问者试图辨别出两个回答者中哪一个是计算机哪一个是人。

BACON与“图灵检验”不同的是,“图灵检验”回答的问题是“机器能思维吗?”,让计算机面对的是语言;而BACON实验回答的问题是“科学理论能否在完全没有社会因素的情况下生成?”,让计算机面对的是观察数据。

斯莱让克将BACON比作“图灵检验”表明他是强AI思想的热情支持者,他认为图灵为其检验所做的说明无意义不值得讨论,并认为只要经过若干时间比如5分钟的询问后,询问人没有获得适当的正确识别率,我们就应该承认机器有智能。事实上在AI的发展史中,不论图灵、纽厄尔、西蒙、明斯基这些强AI主义者怎样宣称他们的AI研究工作已经给这个检验明显的肯定回答,德雷福斯和塞尔等反对AI思想的人物都会同样旗帜鲜明地表明他们针锋相对的观点:计算机不仅现在不具有人的智能将来也不会有。所以几乎从图灵提出这个检验开始,人们的注意力就不在于计算机是否通过了“图灵检验”。事实情况是,“图灵检验”之所以有名完全是因为它引发了激烈的哲学争论。而且如果不把“图灵检验”引发的深刻哲学问题搞清楚,单纯回答计算机是否通过了检验也没有意义,或者说根本不可能回答计算机“是”或“否”通过了检验。

图5-1 图灵(左一,已踏上车者)1946年与沃尔顿运动俱乐部(the Walton Athletic Club)的其他成员可能即将乘车去参加一场周末比赛。
(图片来源:The Alan Turning Homepage http://www.turing.org.uk/turing/[2008-03-11)

关于AI的引起激烈争论的哲学问题有:1、凡是人脑能做的事情计算机(或者至少是未来的计算机)都能做吗?2、计算机做人脑所做的事情的方式是否与人脑相同,或者说计算机有意向性吗?计算机不仅是句法机器,其程序具有语义特性吗?3、“智能是仅仅体现于那些具有大脑般基本构造(包括有关联细胞组成的网络中的并行处理过程)的系统之中,还是也可以用某种别的方式来实现”?[33]4、AI是关于一般智能的科学吗?认知科学的方法是否有效,即建立模拟人类思维和心智的计算机程序是否对理解人实际的思维和心智有帮助?计算心理学派将大脑视为一种计算系统的哲学假定成立吗?等等。

这个长长的问题名单还可以不断增加,但核心争议的问题应该已经包括其中。这些问题有的是发生在AI思想的倡导者和支持者与反AI思想者之间的似乎“不可通约”的争论;有的则发生在AI思想中不同研究纲领之间的争论,比如被海于格兰(John Haugeland)称作“有效的老式AI”(Good Old Fashioned,简称GOFAI)的符号主义和联结主义(即神经网络(neural networks)建模的研究进路)之间的争论,该争论直接影响到替代行为主义心理学而盛行的心智主义心理学之中的不同研究进路。

图5-2 斯莱让克
(照片来源:hist-phil.arts.unsw.edu.au)

有趣的是,上述这些哲学争论由“图灵机”引发并随着AI近半个世纪的曲折发展愈演愈烈。如果我们认为与AI相关的这些问题是开放性的经验问题的话,那么像人工智能这样如此年轻的学科所取得的经验成就,与其说解决了部分问题不如说提出了更多有待解决的课题。如此,它们不仅没有让反对AI者闭嘴,反而令他们的反AI信念更加坚定,只要浏览一下部分文章或书的标题就可以明显感受到这一点(从德雷福斯1972年的《计算机不能做什么(第一版)》到1982年的《心智胜过机器:人的直觉和专长在计算机时代的力量》再到1992年《计算机(仍然)不能做什么(第三版)》;从塞尔1980年的文章“心智、大脑和程序”到1987年的文章“心智、大脑没有程序”)。

身为AI研究者时任麻省理工学院视觉研究实验室主任的玛尔(David C.Marr)对AI中许多工作进行了尖锐批评,他回顾AI的研究时认为AI从事的还是探索性的经验研究,而且这些经验性工作大多数不成功,他还强调AI领域错误主要是对已有AI工作价值判断的失误,但他同时说:“我认为,如果人们苛刻地评价这些判断的失误就会犯错误。它们只是必要的热情所产生的不可避免的结果,它们基于一个我认为正确的观点,该领域具有长远的重要性。人类所奋斗的所有重要领域,都始于一个基于信念、而不是基于后果的个人承诺。AI是又一个这样的例子。只有偏狭的、爱挑剔的、缺乏冒险精神的人才会用它作为反对我们的理由”[109]。应该说这是值得提倡的对待一个虽有许多问题但方兴未艾的事业的态度。

更有趣的是,在“计算机发现和科学知识社会学”的讨论中,围绕BACON引起争论的认识论、方法论问题依然没有超出上述哲学争论的范畴。这是否说明在积累充足经验成就以使哲学问题不言自明的漫漫“征途”中,所有争论都没有结果也没有意义呢?也许斯莱让克正是看到这一点才用BACON程序作为这场争论的“捻子”,他说:“有争议的哲学和方法论问题完全可以绕过去。以某种类似阿兰·图灵处理计算机智能问题的经典方式,我们可以避开这些声名狼籍的哲学难题,取而代之一个适当的检验”。

但是,在我们对这场争论做具体分析之前,有一个或许被斯莱让克忽视的问题应当提及。BACON程序与图灵检验虽然同为计算机实验,但它们各自检验的命题不同,导致前者碰到了后者没有碰到的复杂局面。

斯莱让克正确地看到,图灵检验的设计为了避免外在因素(比如人的外貌或声音属性)干扰所评价的问题——机器智能的可能性,图灵的设计把人的智能从它体现其中的不可剥离的人的其它身体属性构成的“情境”中抽取出来。但是斯莱让克没有看到,图灵检验真正实现了抽取,靠输入电子信息,把智能同人的其它身体属性成功隔离开了:声音或外貌等人所区别与机器的特有属性由于空间的隔离,都没有出现在这个检验所限定的情境中。而BACON为检验“科学理论能否在完全没有社会因素的情况下产生出来”,就必须“把科学从它可能体现其中的一种无处不在的社会情境中抽取出来”。但是这种隔离就远远比图灵检验中的隔离要复杂得多。因为社会属性比人的身体属性模糊多了,社会属性甚至已经渗入到人的智能中了,所以即使在图灵检验中,隔离开了智能属性与外貌、声音等其它属性,却不能隔离社会属性,因为人的所有身体属性中都体现有社会属性。

以上分析涉及到关系斯莱让克的拒斥是否成功的一个关键问题,即斯莱让克立论的前提——BACON的科学推理过程完全独立于社会因素,究竟是否成立?如果这个立论的前提都不成立,那么斯莱让克宣称的BACON对SSK强纲领的拒斥无疑是失败的。所以这场争论中的“建构论者”和“融合论者”将反对拒斥的“火力点”集中在这个要害问题上。下面我们对争论中这个焦点问题进行剖析。

第2节 “纯粹的”或“无社会污染的”吗

斯莱让克的挑战檄文一开始就以人工智能的机器发现尤其是BACON程序向“强纲领”宣战:“对科学知识社会学‘强纲领’的一个决定性和充分的拒斥由一个科学发现实例所表明,该科学发现完全独立于任何社会的或文化的因素。……。我想提出的主张是这些程序构成了一个‘纯粹的’或无社会污染的归纳推理实例,并且能自动从原始(raw)观察数据中导出经典的科学定律”。紧接着,他就例举BA-CON系统当被给予波义耳在1660年前后用过的粗糙或者说“有噪音的”数据时,对气体压力和体积关系定律的重新发现。

显然,斯莱让克在描述BACON的工作时使用的“完全独立于任何社会的或文化的因素”、“纯粹的”、“无社会污染的”这些字眼强烈刺激了赞成SSK主张者的神经。尽管反对拒斥的“建构论”者和“融合论”者对SSK强纲领的看法并不一致,但他们却一致反对说BACON是完全独立于任何社会因素的。下面我们就在剖析这些反对意见中讨论关于科学发现的一个问题:科学发现是否完全由社会因素因果决定。

1.布兰尼根用“归因模型”捍卫对发现的社会学解释

1.1 归因模型

布兰尼根是加拿大卡尔加里(Calgary)大学社会学系的学者,1981年撰写了《科学发现的社会基础》。该书批判了以往研究科学发现的理论,而代之以对科学发现做社会学情境分析的“归因模型”(attributional model)。SSK的一位纲领性人物马尔凯(Michael Mulkay)为该书作序评论道:70年代中期以来社会学家对科学进行重新诠释时,却几乎没有触及“科学发现”这个主题,原因是因为发现是关于科学的概念中“最突出”的概念。因此他称赞该书的工作,“填补了科学社会学概念化工作中的一个重要缺口”,并且“修正了传统科学发现研究工作的社会学进路”。

图5-3 布兰尼根
(照片来源:www.cmss.ucalgary.ca)

斯莱让克的靶子文章是攻击SSK的,却在第三部分专门批驳了布兰尼根此书的观点:一是因斯莱让克认为,布兰尼根关于科学发现的社会学分析与社会建构论者观点相同,所以,批判布兰尼根的观点就是对即将引发的、SSK对斯莱让克的回应进行“预演式”的批判;二是斯莱让克要卫护他所提倡的心理学事业。而布兰尼根在书中着力批判的,就是以往研究科学发现的工作所具有的对发现只做“心理学说明”的共同特征[110]。他说:“他们(心智论者)原则上不能解释发现”(同前引书:34;Slezak,1989a:579);以及“显然,心智/认知活动方面的知识几乎没有告诉我们任何关于这些事件为什么是发现以及怎样发生”[110],[68]。因此,面对布兰尼根对研究科学发现的心理学进路的排斥,斯莱让克声称要打击SSK及其鼓吹者们这种“哲学的自负”。

布兰尼根在这场争论中对斯莱让克的回应,一方面是反对拒斥,另一方面是将其关于科学发现的归因模型用于对AI计算机模拟科学发现的分析。

但是,布兰尼根将他的发现理论用来分析AI时似乎是仓促上阵。除了正确批评AI中一些过于乐观的预言之外,几乎所有对AI的技术批评都是引用别人的分析,有海于格兰、霍夫施塔特(Douglas Hofstadter,中国名字叫侯世达)、德雷福斯兄弟(H.L.Dreyfus和Stuart E.Dreyfus)、沃尔德罗普(M.Mitchell Waldrop)等。

他的批评还显出对AI的近况缺乏了解,如他宣称AI对心理学几乎没有影响,显然是忽视了西蒙人工智能学派的工作(也许是有意“忽略”,因为他曾否定西蒙的发现模式,[110])。当他想从技术上否定BACON从而釜底抽薪式地反驳斯莱让克时,却犯了一个明显错误。他认为以BACON设计者所声称的成就,应该将BACON发表在《自然》或《科学》上了,可他很遗憾没见到BACON出现在普遍受关注(general-interest refereed)的刊物上。于是得到西蒙毫不客气的纠正。但是除了外行性错误之外,他对BACON作为科学发现进行的社会学分析值得计算论者认真作答。

1.2 重叠论

二人对BACON的科学发现究竟是否独立于任何社会因素的截然对立的看法,首先源于他们对发现的不同理解。斯莱让克强调,一个发现现象之所以发生就在于,伴随发现现象发生在人头脑中的心理学认知过程。他同意西蒙的“作为解题的科学发现”的理论,认为发现过程的本质就是识别出给定术语,或“数据”中的不变性或模式。并且,他对发现过程做出了心理过程在前,随后才是发现被评价和承认的社会过程的划分。他批评布兰尼根的“归因模型”,只关心对某件作为发现的事情的指定(designation)或承认(recognition)。因为后者认为对于研究科学发现来说最重要的是,“我们应该解释科学中那些确定的成就是怎样被建构成发现的——而不是那些发现如何发生在一个个体身上”,并且他的模型“关注人们是怎样协商‘发现’在社会事件中的地位以及人们怎样决定和认可这类事件对他们自己的成就和别人的成就具有的适当性”[110],[68]

而布兰尼根在回应斯莱让克时,也同样批评后者将发现解释成,能够被AI程序化的理论化过程和观察过程。他认为,对科学问题的深思熟虑建构、表述及提出解决方案才是发现这个词的含义。因此,他提出心理学认知过程与社会层面的思考是重叠的(imbricated)观点。他认为生物化学层面的信息处理(即斯莱让克认为的伴随发现现象发生的心理学认知过程)并不是发生在社会过程之前,因为斯莱让克所说的“原始观察数据”永远不可能得到,除非对该“原始观察数据”进行指定,而指定是受理论驱动的,并且对这些数据的表示也同样是以关于仪器和感知方面的理论为前提的。进而布兰尼根认为是社会学的主体(agency)发起并“运行”BACON程序——从选择问题开始,到不同领域间的类比,到产生新观察/检验。社会因素从一开始就参与全部发现过程。

布兰尼根的重叠论代表了在解释认知过程和社会过程的关系时,强纲领的科学知识社会学的激进立场:科学活动并不能在组成上被分为社会方面和认识方面,科学中的认识活动和社会活动本质上是相互整和的统一体。这种立场与默顿学派以及科学知识社会学中的保守立场相反,后者认为:科学活动中可以分离出认识要素和社会要素,并且他们的研究活动都是在区分科学家认识活动的描述与科学家社会活动的描述的前提下进行的[111],[112]。而在认识论和社会学关系方面的上述不同观点,直接导致了二人下面的根本分歧所在。

1.3 产生分歧的基点:是否区分两种社会情境

斯莱让克在反驳布兰尼根的回应时说,他并非如布兰尼根嘲讽的那样持一种“过时的”认识论,不承认观察的理论负荷性。他明确说自己不否认观察的理论负荷观点本身,他否认的只是:“观察必须要负载社会的利益或社会的理论”。他在利益和理论前面加了“社会的”一词进行强调。这里,我们看到二人根本分歧所在:布兰尼根说的与斯莱让克的心理学认知过程(即观察过程和理论化过程)相重叠的社会层面的思考究竟是什么?

斯莱让克不否认,科学认知过程负荷着“利益”或“理论”。但显然,他的所指不是SSK的社会利益。从斯莱让克这里及下面争论中,多次强调“利益”的定语,及其它阐述,我们可以看出,斯莱让克所指的“利益”或“理论”,就是西蒙所说关于发现的内在原因[78],或者说科学活动中的内部社会作用力(intrinsic social forces)[44173。西蒙总结这场围绕BACON等机器发现程序发生的争论时,将发现的原因分为内在原因和外在原因(intrinsic and extrinsic causes)。他认为内在原因是实际程序运行中无法逃避的、内在的、与科学内容相关的(如,在研究中做出历史发现的科学家所掌握的数据和知识)。内部社会作用力是嵌入(embeded)在科学活动中,构成科学研究整个过程的一部分(同前引书)。但是这些内在原因是“独立于发现工作发生其中的更宽广的社会经济结构或文化特征的”[78]。他明确反对SSK将社会作用夸大为,科学知识的增长被外部社会因素所塑型。

可见,虽然西蒙承认“BACON与科学家具有相同的对社会情境的依赖”,但他区分了内部社会情境和外部社会情境对科学发现的不同作用。结合第三章西蒙的“黑板”的含义,我们可以说,前者可看作科学共同体内部的、与科学家接受的专业训练有关的;后者是宽广的社会中的、是任何人包括科学家和外行都会受影响的。前者是与科学的认识过程、认识内容直接相关的,而后者不直接影响科学内容只是与科学的更广泛的社会过程,如致力于某研究领域的动机、社会资源如何在各项科学计划中的分配,等等相关。

这样我们就清楚了二人的分歧所在,即怎么看“社会情境”。是像计算论者那样区分内部情境和外部情境,还是像社会建构论者那样不做区分,如科林斯说的“两种情境的场所还是社会”[113]。对社会情境的不同理解使他们得出BACON或者说任何科学发现是否完全独立于社会因素的不同结论。

1.4 弱化强纲领

斯莱让克还批评布兰尼根弱化了自己所批判的重点,即“强纲领”的真正激进主张:一般理论或科学理论中,信念的内容是被特定社会环境特征导致的。的确,从布兰尼根的回应中我们也看到,他把斯莱让克对“强纲领”的批判推而广之为批判一切试图研究社会因素对科学形式或内容的基础、科学的变化的某种作用的社会学观点。于是,他将库恩、费耶阿本德、霍尔顿甚至默顿都视为斯莱让克批判的对象。

我们且不说,正是默顿提出的科学家共同遵守的“规范”,划出了一块不受外部社会因素浸染的、具有科学家独特精神气质的理想科学“王国”。尤其是被SSK当作给予他们思想源的库恩,曾多次声明自己与SSK截然对立的立场[114],[115]。由此可见,布兰尼根对强纲领进行了怎样的“壮丽的误读”(借用伍尔加批判斯莱让克的话)。他在反驳斯莱让克时不仅忽视后者多次承认的社会情境对任何科学发现具有不可逃避的普遍存在性,而且将强纲领已经弱化为与这种“普遍存在性”相联系的一般性社会作用。这种对强纲领的弱化并导致对社会作用的泛化理解在争论中屡屡看到。

在二人的争论中,我们也看到,如同布兰尼根把心理学排除在科学发现的理解之外而坚持社会学主义一样,斯莱让克也坚持了他的心理主义。斯莱让克说:“一个像人脑的信息处理系统通过来自外部世界的感觉经验(即感觉传感器)获得记忆的语义内容,这个事实本质上是计算故事的一部分”[116]

2.科林斯依然鲜明的社会学主义

2.1 没有个人发现者只有发现集体

科林斯是SSK内部巴斯学派的中心人物,时任英国巴斯(Bath)大学科学研究中心主任、社会学教授。有人评价他比爱丁堡学派更充分地贯彻了强纲领的主张,是社会学主义的最坚定的代表人物[111]

图5-4 科林斯
(图片来源:www.cf.ac.uk)

从他对斯莱让克批驳强纲领做出的反击看,这种印象依然鲜明。他就BACON所涉及的科学发现问题做出了明确的社会学主义的解释。他认为科学发现不在于数据而在于社会关系。他的核心观点就是他的一贯主张:没有个体的发现者(discoverer),只有做发现的社会集体(social collectivities)。并认为“对SSK学者来说,难以想象存在于任何社会集体之外的某种知识领域”[52]。围绕此论题科林斯批判BACON的“纯粹的”或“无社会污染的”特征。

科林斯先承认传统上都认为科学是理性的事业,不受社会污染。随后质疑:如果离开与社会的接触能有科学发现吗?他假定BACON就是这样

一个实例。随即就有一个问题,BACON做发现时利用的数据是人提供给它的,那么提供给它的“数据”的意义是什么?因为对数据可以有不同的解释,如,悬浮油滴的电荷、光线朝太阳弯曲的角度、地球表面可测的宇宙重力辐射流量、生物对人的情绪的敏感等等。科林斯设想了两种情况,一种是我们给BACON最适合它当前的思考的数据,即事先由人将数据过滤。SSK的许多研究已经表明,要从设计糟糕的实验或观察得到的结果、“初步运行”的结果、错误不明确的结果、控制不当所运行的结果等等情况下过滤出什么是合适的“数据”,是困难的事情。在这种情况下,机器没有真正同社会同人的因素隔离。人类社会集体已经存在于过滤数据的过程当中。所以BACON的发现还是没有脱离社会。

另一种情况就是提供给BACON关于数据的所有可能的解释,让它自己决定给数据选择怎样的解释。这种情况下,BACON将做所有相关事情,实际上是不可能做出如斯莱让克所说的机器发现的。

2.2 能否做出发现在于社会联系而不是数据

接着,科林斯继续阐述社会关系在科学发现中的重要角色。他分析说科学家个人做出发现的重要因素不是数据,而是同社会的联系,即怎样选择一种新的解释。实际上对科学家个人来说,要做的更多的事情是预见投射在他的潜在发现上的社会联系(social nexus)。人类“发现者”必须决定怎样提出他们的工作——继续以已经存在的方式,还是以革命性突破的方式。要考虑这些,“潜在的‘发现者’就必须接触社会生活——他或者她必须要知道当代社会中,什么是遵循规则,什么是突破规则”。是否成功做出发现不在于以什么方式从数据中提取出关系,而在于怎样给得到的数据以不同的解释。科林斯例举密立根(R.A.Millikan,1868~1953)1912年的油滴实验数据中,有1/3和2/3的数据都不支持所提出的结论,尽管它们“就在数据中”。

科林斯继续阐述,是否成功做出发现在于洞悉当下的社会关系,而机器是不可能做到这一点的,于是也就不知道究竟什么造成一个明智的发现,什么造成一个冒险的“发现”,又是什么造成一个非“发现”,这些问题的答案在社会中而不是数据中。所以,像BACON这样的机器发现程序既不是对“发现集体”的模拟(他否认目前的机器发现程序能把科学的社会进行程序化),也不是对发现个体的模拟。

由此,按照科林斯的命题“没有个体的发现者,只有做发现的社会集体”,并且“BACON不是一个社会集体”。就得出结论,斯莱让克声称的BACON对强纲领的拒斥,即存在独立于任何社会因素的科学发现过程的推断不成功。因为BACON就不是科林斯所说的“发现者”。

此外,科林斯还例举计算器要按照社会中的人所设定的运算序列进行运算,来说明不仅BACON这样的发现程序,即使不太“聪明的”机器也要与社会发生联系。这样科林斯不但把社会关系作为科学发现的主角,还把社会关系与一切机器相互联系,在这里再次强调了社会因素的“强”作用。(www.xing528.com)

2.3 对科林斯进行解读和归谬

但是,在科林斯的“没有个体发现者”的强命题下,他阐述的用语:“实际对科学家个体来说”、“人类‘发现者’”、“潜在的‘发现者’”等等又分明在描述个体发现者的行为,似乎是承认他打引号的作为个体的发现者之存在。如何看这个表面的矛盾呢?我们的理解是,科林斯虽然承认科学家角色的存在,但按照SSK的观点,科学家只是发现这种行动的“参与者(participants)”[117]。他强调的是科学家个人所置身于的巨大的社会联系之网。正是科学家所处的特定社会关系决定科学家做出特定的发现。按照这种解释,通常人们认为科学家具有探索性、创新性心理学动机的主动发现行为,其实不过是埋没在巨大社会联系之网中由社会关系决定的消极的、被动的行为。所以科学家只不过是社会关系的“傀儡”。由此可见,科林斯对科学发现的完全社会学主义的解读是难以让人接受的。

难怪斯莱让克在回应科林斯的反拒斥时,将“没有做发现的个人,只有做发现的集体”斥之为胡言乱语。他的观点正相反,认为“理论是人脑中的心理过程所产生的思想”,他虽然没有否认“集体”可能起作用,但他只关注个人头脑中的内部过程。同时,斯莱让克针对科林斯认为程序收集数据的过程不能脱离任何“集体”表明自己相反的立场,他说该过程是和其它有机体内发生的日常心理过程相连续的一种心理活动。科学家收集数据时的活动只是日常感觉过程如视觉的一种扩展,在这些过程中没有内在的社会性。在这里我们又看到了斯莱让克关于认知过程的心智主义解释。

斯莱让克还驳斥了科林斯认为的科学发现“不依赖从数据中提取出的关系”,而仅仅依赖“投影在潜在发现中的社会联系”一说。他说,虽然不可否认“潜在的‘发现者’必须接触社会生活”,但这不能表明理论的具体内容与其数据之间是不相关的或任意的关系。进而他将科林斯的观点进行归谬:“如果那样的话,牛顿可以得出其重力定律的反比立方形式”。的确,如果科林斯只是坚持对科学知识的社会说明优先于逻辑和证据,而不是像斯莱让克所批判的强纲领那样,“……极端霸权主义——即,将推理、理性、逻辑和事实剔除在对科学发现有贡献的因素之外”,那么,科林斯就要给逻辑和证据在科学发现中的作用一个“恰当的说明”。而从SSK内部的批评和外部的批评中,都指出了SSK对科学的社会学建构中一直存在的“诟病”——不能有效说明社会因素究竟对科学起着怎样的作用。

3.吉尔的融合论究竟维护了谁

3.1 最低限度的社会学主张

吉尔时任美国明尼苏达(Minnesota)大学科学哲学中心主任、哲学教授,是著名的逻辑经验主义传统的科学哲学家。他的哲学立场介于传统科学哲学和科学知识社会学之间,用他自己的话说就是致力于对科学知识的“认知建构”(The Cognitive Construction of Scientific Knowledge)[118]。在这场争论中,吉尔既反对极端的社会学沙文主义,也反对极端的认知沙文主义。他在表明中立立场时说,他对斯莱让克的反对不是试图支持科学知识完全是社会建构的极端观点,相反,他相信世界在任何科学理论的建构和检验中扮演了一个非关键角色。另一方面他也不拒绝计算机模型化科学过程,并认为计算机模型对考察科学家怎样思考是一个富有成果的工具。他说他只是反对“将人的利益从科学理论的建构和检验过程中完全消除”。他声称他所维护的只是SSK的一个最低限度的主张:科学过程必须受人类科学家利益的影响,而利益又被科学家的社会关系所塑型(shaped)。

因此,吉尔实际是在一个大大弱化的强纲领——科学过程必须受人类科学家利益的影响——之观点基础上来反对斯莱让克的。

图5-5 吉尔
(照片来源:www.tc.umn.edu)

3.2 强调内部社会因素的利益模型

吉尔使用他的利益模型加入了这场论战。具体说,吉尔从句法和语义学角度阐述人的利益的存在,而人的利益是人类与他们的物理环境及社会环境交互作用的体现。他认为计算机是一个纯粹的语法机器,所以,“如果要把计算机的输出描述成一个特定的科学发现,比如开普勒定律,就需要给计算机的运算符号安排一个语义学解释。而在斯莱让克引用的所有例子中,做到这一点都是通过采用相关科学共同体已经建立的语言来完成的。对强纲领的支持者来说,那种语言已经体现了科学共同体的利益,所以,斯莱让克声称存在不受人的利益浸染的科学发现案例,是高度令人怀疑的。要使他的主张成立,他就不得不表明相关的科学语言没有体现人的利益。而他所做的没有表明”。

我们知道,“利益”(interest)本身是一个多义词,可以理解成“兴趣”、“好奇心”、“关注”、“爱好”、“好处”、“利害关系”、“重要性”等等。不管众多哲学家、人类学家、语言学家对语言学的起源问题、语义学问题有怎样不同的理解。但是,至少语言产生于人类认识事物的好奇心、人类相互交流中的规则意识等等原因已是共识,所以正如吉尔指出的,语言肯定与“利益”所指有不可割裂的关系。

吉尔所采取的利益分析虽然也是SSK最常用的解释社会作用的资源,但他的具体分析进路并没有采用传统的关注个人偏好的利益模式。那么是否接近皮克林(Andrew Pickering)强调过的专业利益、认识利益或职业利益呢?比如他这里所说的“科学共同体的利益”。虽然在这场争论中吉尔没有明确将他的利益分析模式与SSK的相区分,但我们从吉尔和皮克林围绕前者的书,《解释科学:一种认知途径》曾有的争论中可以分析出,二人的利益解释进路并不一致。

吉尔将科学家的利益分为认识利益(epistemic interest)和非认识利益(non-epistemic interest),前一种利益促使科学家选择正确结果而不是错误结果;后一种利益涉及个人利益、职业利益以及社会利益。科学家只是当一个发现情境中的认识条件不明确时,才追随非认识利益。皮克林质疑吉尔的利益区分以及给非认识利益所分配的这种角色[118],[119]

吉尔区分的认识利益和非认识利益是与我们前面阐述的内部情境和外部情境的区分相对应的。实际上,他强调的BACON程序割舍不开的科学家的利益,就是西蒙所说的“嵌入”科学活动中的内部社会因素。

接着,吉尔阐释了机器发现程序中所包含的更具体的人的利益。BACON程序的多数版本被设计为从给定数据中抽取出幂函数那样的函数形式。吉尔问,是什么因素起决定作用,让一个程序的启发式被设计成搜寻特定函数形式呢?他认为,只能是程序设计者在寻找函数关系时的期望或利益。因此他说像BACON这样的发现程序没有脱离人的利益。设计者的期望和利益就体现在程序的启发式中。

最后,吉尔还从数学上论证,不可能设计一个程序能搜索所有可能数学函数形式。因此,任何发现程序必须具有搜寻专门函数形式的启发式,也就是说,吉尔为任何发现程序都不能脱离人的利益找到了一个数学基础。

3.3 融合论

吉尔还反对SSK把社会总体作为主要分析单元、排斥对科学家的内在心理学分析。但他同时也反对心理主义。他认为,任何完备的关于科学的科学(因果)理论必须解释科学的主体——科学家的内在工作。尤其是,“利益”必定可以确认为科学家行动中的因果因素。

他说认知因素和社会因素共同进入特定科学事件。在所有情况下,二者的参与程度不一样,这也是可以作为经验考察的课题。

3.4 斯莱让克怎样面对一个“稀释”的强纲领?

斯莱让克在回应吉尔认为的,“给一个科学发现赋予一个语义学内容就已经承认了人的利益的存在”时,显得有些顾左右而言它。他根本没有直接反对吉尔的命题,而是在区分吉尔和计算论者对语义学问题的不同关注点:斯莱让克强调的语义学问题是,表达具体问题时的相对无能为力,实际上他和西蒙都强调表述问题或形式化问题;而吉尔所说的语义学问题是意向性问题。意向性问题和形式化问题是两个问题[120],[121],斯莱让克将二者混在一起统称语义学问题,所以他才会例举在视觉模拟中,也存在表达方面的语义学问题,从而得出语义学问题不一定非要与人联系在一起的假定。

斯莱让克在接下来对吉尔认为的,程序启发式给程序赋予了人的利益的主张进行反驳时,更显得无力。他不否认设计程序时将人的期望和利益变成了程序的一部分。这是因为,不可能设计一个程序进行穷尽一切方案的搜索。所以设计者就必须做选择,并把这种选择变为启发式,从而使程序得到设计者期望的结果。因此,斯莱让克的结论是,人设计的启发式仅仅在微不足道的意义上反映了“人的利益”,它是为解决认知科学和AI面临的问题(即将盲目和蛮力方法降低到最小程度)而不得不为之的事情,并不是特意去赋予程序人的利益。

显然,这样的回复、用“微不足道的意义”,以及“不得不为之”这类模棱两可的话,来否认程序中有人的利益实在令人难以信服。紧接着我们看到斯莱让克的真正所指,他又重申了对社会因素的一般性作用的承认:他从来没有反对“科学过程必然受科学家利益的影响,而且利益部分地由科学家的社会关系所塑型”,他也没有认为计算机“没有人的利益”还能做科学发现。他只是提出这里的关键问题在于:究竟是什么利益在决定科学理论具体内容时起作用?他又在利益的定语上做了强调。

由此我们看到,归根结底,斯莱让克对吉尔的反驳不到位是因为,吉尔作为出发点反对斯莱让克的命题根本就不是斯莱让克要攻击的重点——“强纲领”。吉尔所坚持的只是,内部社会情境对科学推理以及科学知识内容的决定作用,而不是强纲领所坚持的不区分内/外情境、甚至更强调外围的社会背景因素(如政治利益、经济利益、宗教、信仰、意识形态等)对科学知识内容的因果决定作用。实际上,吉尔已经弱化了强纲领的社会因素的因果决定作用,斯莱让克说这是“稀释”了的“假货”。这样就好像是,斯莱让克义愤填膺地举起讨伐“强纲领”的标枪,突然靶子被人撤掉,这令斯莱让克茫然了,于是就把标枪没劲地、心不在焉地投到了别处。

4.伍尔加以“超然的”态度反对拒斥

4.1 对“社会的”概念的最强解释

伍尔加是参加这场争论的另一位SSK领军人物,时为英国布鲁内尔(Brunel)

大学社会学高级讲师,创新、文化和技术中心的项目主任。他的文章自始至终都显出,试图在用一种超然的语调谈论这场争论[107],标题别有意味:“咖啡馆里关于机械化发现之可能性及其社会学分析的一场会话”。文章充满反语、调侃、讽刺式风格的语言,试图用超然的态度来超越这场争论。这是一篇饶有趣味的文章,而且文章试图超越争论的价值在于,它点出了争论中两个要害问题:对“社会的”和“发现”这两个概念的不同理解。

然而伍尔加对“社会的”概念的解释还是没有使他完全超越这场争论,反而通过自己给“社会的”一词的强解释,表明他是坚持社会因果决定论的纲领性人物。他说斯莱让克误解了SSK所使用的“社会的”这个概念的程度和范围。他的解释是,把“社会的”解释为一个变量是“违背社会学中现象学思想的主旨。当在一种语言游戏中行动被解释成参与时,所有行动都是社会的。”因此,“社会的”不再指,也许发生影响也许不发生影响的外来因素:它就描述了所有行动、思想和行为的基本特征。特别是,一个个体的行动,不用非要说是发生在一个称为“社会的”团体之中。进而,他阐释说,SSK根本就没有把社会的存在作为一种“影响”,更别提“社会的”就是指“污染的”影响了。

从伍尔加对“社会的”概念的阐释看,SSK对“社会的”一词使用程度之广、范围之宽的确超出了斯莱让克以及许多人的理解。按照他的诠释,我们可以把“社会的”理解为根本不是什么外在要素,而是所有行动、思想和行为本身具有的基本特征,是内在的不是外在的。任何行动、思想和行为从一出现就具有社会性,否则就不可能有意义,不可能被意识到它的存在,甚至就根本不可能出现。

伍尔加还分析了大家熟悉的、关于“社会的”一词的因素/变量解释的来源。他说,这是历史的遗产,是仿效自然科学的目标和成就设计社会科学研究的纲领之普及使然。的确,我们知道,自然科学往往将研究对象从环境中分离出来,造成内生变量和外生变量的区别,或内在要素与外在影响因素的区别。为此,他批评了SSK中更科学化的流派,如布鲁尔说到“社会原因”时,将自己陷入麻烦,就正如斯莱让克指出的,布鲁尔的描述和解释暗示了缺乏社会性的(即非社会性的)行动之可能性。于是,在这里,伍尔加又用中立的态度说,SSK学者就这样被迫同意了斯莱让克的观点,即某些事物也许不是社会性的,AI和科学定律的机器发现就是那样的例子。

不过,伍尔加在给出“社会的”一词的最强解读同时,又用SSK关于文本解释的观点来回答BACON的操作究竟是不是社会的,就产生出矛盾,这个问题不可能有统一答案,因为争论双方即使对同一事实也会有不同的理解和回答。

4.2 机器发现悖论还是科学知识社会学悖论

伍尔加还设计了一个巧妙的机器发现悖论,来说明程序就是社会性的。他假想他的同事们开发出一个能重新发现SSK重要理论的计算机程序。给该程序“喂给”文献证据、发表的文章、备忘录、草稿、返回的问卷以及其它各种数据,该程序就重新发现了强纲领、经验相对论纲领、利益理论、话语分析、新文学形式、行动者网络理论等重要的SSK理论。伍尔加把这个系统命名为COLLINS,或者BLOOR之类的他认为肯定会激怒一些人的名字。

他由这个假定推出一个悖论,一个非社会性的发现(即机器发现)所发现的理论却是:发现不是非社会性的。他认为解决悖论的唯一办法就是承认程序是社会性的。

我们认为,不存在这样一个悖论,程序本来就是内在社会性的,伍尔加又混淆了内外社会情境。设想,如果真的有这个为了发现科学知识社会学理论的COL-LINS程序,则对BACON来说无关紧要的社会性条件就全都变成COLLINS的初始条件了。即,对发现重要经验科学定律的机器发现程序来说,属于“外部情境”的东西,却是COLLINS的“内部情境”。那么结论仍然是,科学发现是由内部情境决定的。这里,机器发现悖论变成了科学知识社会学悖论:一个试图发现外在社会因素因果决定论的发现程序,却发现了内在因果决定论。而产生这个悖论的原因只能是:SSK的外在社会因素因果决定论是错的。

也许我们还会从伍尔加的这一假想中发现其它的悖论。

斯莱让克在回复伍尔加时,除了指出伍尔加对“社会的”解释比布鲁尔更激进之外,没有更多评论。

5.其他的反对意见

著名哲学家福勒在批驳[59],[60]斯莱让克论证的AI模型对SSK的“经验拒斥”时,实际上没有直接批评BACON,他批评的是西蒙的AI研究进路,这个问题我们已在第二章讨论。他也没有具体谈BACON以及任何发现程序的细节,而是从语言学、心理学和AI的宏观历史进路上进行论证。他同意布兰尼根在反驳斯莱让克的文章(第二部分)中,所论证的社会因素及人类利益如何驱动科学的发展。显然,这仍然是一种不同于“强纲领”鼓吹的强社会作用的一种一般性社会作用。所以,虽然福勒反对斯莱让克的拒斥,但他在究竟BACON这类程序是否完全独立于社会因素的问题上,观点与布兰尼根相同。

另外一位“融合论”者戈尔曼,时任美国密歇根(Michigan)技术大学心理学和人文学科副教授。他主要从事实验心理学研究。戈尔曼对斯莱让克的反对[62],[122]主要集中在BACON是否真正做出了发现方面。这个问题我们已经在第二、三章专门讨论。他也以有限的陈述否认了BACON的运行是完全独立于社会因素的。他用库恩的“范式”解释BACON是在一定的范例和背景知识框架下解决问题的,他说,“一个真正成功的发现程序不仅没有拒绝SSK,而且还帮助我们更严格地了解到,科学家的社会环境怎样塑型着他或她的问题选择并限制考虑什么数据”。戈尔曼对斯莱让克的反驳依旧是偏离了后者所攻击的靶心——强纲领。因为戈尔曼所说的科学家的社会环境是科学家解决问题时依照的范例和背景知识,这还是对库恩范式的传统解释[123],[124]。其实,他认为决定科学家选择问题和考虑数据的社会因素,其实就是前面我们区分的内部社会情境,即认识因素而不是激进解释认为的广泛的社会因素。

6.斯莱让克漂亮的预先卫护

斯莱让克已经预见到他的文章会遭到相对主义的社会学者的激烈反对。于是他在自己的靶子文章中预先做了“可能的卫护”。在卫护中他主要讨论的就是,SSK学者将向BACON程序的纯粹的、无文化污染性质挑战。后来的争论事实表明,这的确是争论的一个焦点。

斯莱让克料想反对者也许会认为,既然流行的某些评价标准首先必须要装进程序里,那么依靠情境或文化相对性的问题只不过被转移或推迟了。斯莱让克承认,把流行的评价标准即规范归并到科学发现程序中是明显的事实。那么,这里的问题就是,是否因此可以认为这些AI程序归并了当下的(local)社会学标准。

一方面,斯莱让克认为回答这个问题需要细节考察程序,并证明解题启发式可以视为体现了直接与社会情境的某些特征密切联系的因素。

但另一方面,他立刻用一个明显的事实表明上述策略的徒劳无益。他例举一个明显的事实:宽广范围的经典科学定律被同一个程序重新发现。这个现象说明,该程序的纯形式化的启发式体现着非常一般性的解题技术。也说明,这些发现应该具有某些共性,而这种共性更可能是人类认知普遍具有的理性原理,而非不同时代具有的特殊的、当下的社会现象——比如,波义耳所处的时代流行的社会现象。

应当说,斯莱让克这个“可能的卫护”做得相当漂亮,击中了强纲领的先天缺陷。的确,如果强纲领认为,社会因素是理论真实内容的有因果效用的决定因素,也就是说,不同的社会情境导致了,不同时代科学家所发现的经典定律具有不一样的内容。那么它现在如何解释,这些不同理论内容的定律被同一个程序重新发现的事实?这个问题比科学史上的“同一发现”更难回答。SSK可以将同一发现及优先权之争解释为,这正说明不同社会情境下,对同样的科学行动给予了不同的社会指定和承认。可是SSK却无法正面回答机器发现问题。实际情况也正是这样,在所有对斯莱让克的拒斥的反对意见中,几乎没有人谈及这个“卫护”。只有福勒考虑了斯莱让克这个经验检验的适当性,提出了做这样的检验可能会有的,相当复杂的关于不同文化之间如何达成一致,以及如何保持各自独立性的问题[59]

第3节 争论、融合与意义

这场争论是众多对SSK的批评之一,但它发生的视角不同以往。它关注科学发现这个主题,以当时AI研究的新进展为背景,如斯莱让克所说的,BACON等机器发现程序是他用来反对强纲领的“媒介”。

没有“偏激”就没有“争论”,这场争论的“两极”就是心智主义的科学发现观和社会学主义的科学发现观。两种极端观点激烈碰撞后,给我们留下几方面值得思考的问题。

一方面,“科学发现”究竟属于谁的研究“地盘”?其实争论各方中,除了科林斯和伍尔加两位SSK的核心人物之外,其他人都是提倡或默认关于科学发现研究的融合、互补共识的。即使发起争论的斯莱让克也一再强调,若不是布鲁尔宣称“认知因素实际就是社会因素”、排斥心理学在研究人类心智方面的地位的话,所有这些争论是没有必要的。而且斯莱让克认为社会学和心理学各自对科学发现的研究是可以“和平共处”的,因为它们各有自己的研究分工,本来应该相互补充[68]

另外一位支持拒斥的“计算论者”,著名认知科学家萨伽德也说:不必把斯莱让克的立场解读成认为认知解释已经使社会解释成为多余。并且,“关于科学的认知科学的快速增长并不排除社会学对理解科学知识发展这项一般性计划的贡献。……我们需要抛弃的只是狂妄自大地宣称社会因素能做一切”[63]

事实上,科学发现是需要哲学、心理学、人工智能、历史、社会学等等,共同参与解释的人类智慧之迷。

另一方面,BACON程序作为一个完全形式化的逻辑推理过程,它对SSK的经验拒斥实际上就是“一场对社会学的限度的挑战”(伍尔加语)。有意思的是伍尔加发出这样的质问:“社会学家究竟要把‘社会的’这种意思及运用,在多大程度上压迫到直觉为‘非社会的’现象的领域”?他用“压迫(press)”这个词,是在质疑SSK对“社会的”这种无限扩张的理解吗?还是在反思,科学知识社会学对科学的进一步建构需采用怎样更有效的策略?

由此联想到发生在这场争论之外,布鲁尔对斯莱让克批评的回应。1991年,布鲁尔在他的《知识和社会意象》第二版出版时,增加了回应对强纲领的各种攻击的“后记”。后记中他认为,斯莱让克把强纲领错误地理解成,认为知识是“纯粹社会的”。并且说,本-戴维(Joseph Ben-David,1920~1986)也把这样一种理论“暗中强加给了知识社会学”。他申明,强纲领之“强”只是说,社会成分始终存在,并始终是知识的构成成分,但社会成分不是知识唯一的成分。这里我们明显看到,强纲领的创始者给了我们一个关于强纲领的另外一种解读。

对科学知识社会学理论本身及其批判的解读,都是值得专门研究的复杂课题[111],[125],[115]。我们这里仅从围绕BACON程序引发的科学发现问题的视角,领略了科学知识社会学丰富理论内容的一角。虽然不能得出强纲领在退缩的草率结论,但从布鲁尔对BACON这样的计算机发现研究表示出明确的欢迎态度中,我们几乎同样可以得出上述融合论的共识。既然构成科学知识的成分是多种多样的,那么研究科学知识的发生、研究科学发现本质的途径也必然是多种多样的。

此外,这场争论的一个意外收获是,突显了西蒙所开创的科学发现的计算研究途径对科学发现认识论研究的意义。我们看到,BACON的机器再发现验证了我们对内部社会情境和外部社会情境之区分的合理性。从BACON的启发式中,我们不能否认内部社会情境,即狭义的库恩的范式。内部社会情境是任何科学发现都必不可少的,任何科学发现都是一定理论背景下的发现,理论背景不同,发现也就不同。我们想让一个程序做出牛顿的发现还是爱因斯坦的发现,取决于我们给计算机的“大脑”中装入多少知识。同时,启发式搜索策略决定程序是发现经验性定律,还是解释性定律,还是设计实验、仪器等等。

那么,广泛意义上的社会的、文化的、历史的情境,虽然对任何真实的科学发现来说都是无法逃避的,它们是不是同科学发现具有本质的联系呢?能否因为真实科学发现无法与其发生其中的这种情景隔离,我们就将这种广泛意义上的外围社会情境作用,混同于内部社会情境的本质联系呢?实际上在科学哲学研究中,以及科学社会学研究中,一个问题一直困扰着人们:究竟能否区分内部社会因素和外部社会因素,或者说能否区分认知因素和社会因素对科学活动的不同作用?

通过对这场争论的全面分析,我们可以得出结论:计算机模拟科学发现的工作为我们提供了研究科学发现的新途径。它将外围社会情境剥离,留下了真正决定科学发现、科学定理内容的“情境”。BACON依赖内部社会情境却与外部社会情境无关的事实说明,区分而不是混淆两种社会情境,使我们能更清晰地接近理解科学发现的本质。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈