人工智能技术在新闻领域的伦理失范问题及治理

刘洁 西北政法大学

【摘要】当下，随着人工智能技术的飞速发展，机器人写作、无人机拍摄和人工智能等在媒体业的应用成为新的趋势，逐渐渗透新闻传播活动的各个方面，深刻改变着传统新闻原有的生产方式，但在人工智能开发和应用过程中，也存在着一定的隐患和风险，越来越多的数据在人们的生活场景中被收集和利用，一旦触及道德底线，就会引发一些传播伦理失范问题。本文主要就人工智能在新闻传播领域导致的伦理失范现象进行探讨，并对人工智能时代伦理困境提出相应解决路径。

【关键词】人工智能；伦理失范；算法推荐

人工智能，也就是AI（Artificial Intelligence），是计算机科学的一个分支，是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门技术科学。该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等，具有人机共生、万物皆媒、自我进化等特点。如今，人工智能技术在新闻业的应用几乎渗透新闻生产的全过程，如：新华社机器新闻生产系统“快笔小新”、腾讯财经的“Dream-writer”写稿机器人，人工智能在新闻生产中发挥着越来越重要的作用，人工智能改变了传统的新闻生产方式与思维模式，促进社会发展与人类进步。

媒介环境学派的代表人物保罗·莱文森说：“人类在媒介演化过程中，不断进行着理性选择，任何一种后继的媒介，都是对以往媒介某些不足的补救和补偿。媒介的进化是人类选择的结果，能更好地满足人们需要的媒介被保留了下来。”[1]人工智能技术应用到新闻传播领域，在为传媒业带来巨大变革的同时，不可否认的是，新的传播伦理失范现象也相伴而生，成为人工智能在网络传播发展过程中的一大困境。

一、人工智能技术在新闻传播中伦理失范的表现

人工智能技术作为新一轮科技革命和产业变革的重要驱动力量，正在深刻影响社会生活、改变发展格局。同时，人工智能如同一把“双刃剑”，如果应用不当，就可能带来隐私泄露的伦理风险。人工智能所依赖的大数据和智能算法，能够从海量数据中根据用户特征和数字行为，为用户挑选出他们可能感兴趣的内容，提高了信息生产、管理和分发的效率，给媒介带来了更广阔的发展前景，但同时，人工智能所引发的传播伦理失范现象也愈加频发，给人工智能的良好发展带来诸多困扰，成为社会各界广泛关注的热点话题。

（一）技术层面：算法推荐给媒介公共领域带来的挑战?

1. 娱乐信息、商业广告挤占公共信息的空间

新闻媒介作为公共载体，承担着建构公共领域的社会责任，即向公众全面地公开公共信息，提供平等的意见表达机会，并抵制商业、政治元素的侵蚀，通过引导公众进行对话协商来形成理性的公共舆论。在大众媒体时代，由于传统媒体“把关人”的存在，媒介能够秉持价值理性的原则，坚守新闻职业精神，最大限度地传播公共信息，不断维持公共信息与娱乐信息间的平衡，但是算法推荐却打破了以往的稳定性，算法会一味迎合公众的信息偏好，加之缺少传统媒体“把关人”的筛选，导致休闲娱乐类信息不断挤占公共信息的空间，信息的泛娱乐化会让公众沉浸在娱乐需求的满足中，有可能对公共事务漠不关心，“围观”公共事件，给公共领域的建构带来了巨大挑战。

另外，个性化算法推荐不仅能为用户提供其感兴趣的信息内容，还能为其量身推送商业广告，给企业的广告投放带来新的契机，算法平台也可因此获利。在今日头条APP算法推荐信息一栏中，通常2—3条新闻后便会出现信息大图广告，商业广告的信息比重远远高于10%，挤占了公共信息的空间。在算法的“包庇”下，媒介无形中成为广告公司的“合作伙伴”，很多真正有价值、有深度的信息却被过滤掉了，不仅影响了用户体验，还削弱了媒介的公共性和社会责任。由此可见，奉行工具理性的算法推荐虽然满足了公众的娱乐需求，获取了商业利益，但却背离了价值理性，忽略了社会责任。

2. 算法推荐阻碍了公共领域的交往理性

交往理性是哈贝马斯的公共领域实现概念性转化后被赋予的重要意义，他认为公共领域的交互行为是为了达成主体间的理解与共识，而这种理解和共识以交往理性为前提，即公众通过对于公共事件的理性辩论，形成理性的公共舆论，进而影响政府的公共决策，最终实现保障公共利益的目的。[2]但算法推荐并没有助力交往理性的形成，反而阻碍了理性公共舆论的形成，媒介也因此背离了建构公共领域的社会责任。

人工智能时代，算法推荐在一定程度上会助力甚至加剧情感传播，让公共信息被公众情绪所包裹，从而难以形成理性的公共舆论。一方面，相较于理性的信息内容，情绪化的表达更容易引发群体共鸣，获得较高的阅读量和转发量。基于机器学习的算法能够根据数据分析和标签识别，广泛挖掘此类信息，并投其所好地推荐给公众，为集体情感的聚合奠定了基础；另一方面，以协同过滤算法为例，它基于相似用户喜欢相近内容的假设，会将情感信息同步推送给拥有相似社会经验的亲朋好友，进一步扩大情感传播的范围，并能帮助拥有相同情感趋向的公众迅速聚集起来，形成的公共舆论往往基于感性理念，而非理性思考，公共领域的交往理性因此被消解。

（二）媒介层面：舆论监督作用被削弱

1. 媒介舆论监督作用被削弱

运用人工智能技术进行新闻传播，容易造成新闻失实，违背新闻报道基本原则。新闻媒介是反映、引发和引导舆论的重要主体，更是进行舆论监督的主要载体。与新闻记者相比，写稿机器人机械程序化的写作方式，其报道往往流于表面，缺乏整体布局意识，尚未具备舆论监督的能力，同时机器人在新闻写作过程中，无法对报道时间、生成方式和受众效果等进行判断，不擅长发表具有发人深思的深度报道，也不具有新闻记者的人文情怀，由机器人主宰新闻内容生产，将难以承担起舆论监督的职责，长此以往，将会降低媒体公信力，削弱新闻媒体作为社会公器的监督功能，从而降低公众对媒体的信任度。

2. 新闻从业者的价值面临挑战

人工智能时代，机器新闻写作全天候、高效率的新闻生产模式，算法应用与智能引擎技术使得人工智能技术几乎覆盖了新闻生产全流程，但同时也使新闻记者的专业价值面临严峻考验。一方面，传统的新闻生产中，新闻工作者具有较高的专业修养与社会责任感，真实、客观、公正、全面是新闻生产的价值标准，而人工智能时代，通过大数据抓取和算法引擎技术迎合受众兴趣成为新闻内容生成的重要标准，忽视了对新闻价值的坚守；另一方面，网络媒体的兴起使编辑、记者的“把关人”作用被削弱，内容推送的权力也逐渐由人工编辑让渡给智能算法，算法推送能够迅速实现内容与用户的精准匹配，帮助筛选和处理信息，使传统的记者、编辑在信息筛选过程中的工作更加繁杂且具有挑战性。

（三）受众层面：隐私泄露和群体极化现象凸显

1.精准算法推荐侵犯受众隐私

人工智能在新闻业的应用离不开大数据的支撑，隐私权是公众基本的人身权利，但在基于算法推荐的人工智能时代，人工智能的应用大大增加了新闻素材，用户隐私泄露问题也越发严重。在新闻分发阶段，人工智能算法实现精准的信息推送，首先要基于用户兴趣和行为习惯的数据采集，生成受众的用户画像，最终实现信息内容和受众的匹配，但精准的信息分发是以让渡用户个人隐私为前提的，在深挖用户信息和阅读习惯的同时，也侵犯了用户的隐私，比如Facebook数据泄露案等，在网络信息技术高度发达的今天，用户的网上行为都处于一种被“监视”的状态，致使用户的隐私在互联网环境下极难得到保护，如何实现数据利用与用户隐私二者的平衡，将成为人工智能技术开发过程中不容忽视的问题。

2. 回音室效应与群体极化现象显著

人工智能算法在实现信息与用户精准匹配的同时，传统媒体时代一对多的传播模式变为“一对一”传播，容易造成受众的信息接触面越来越窄。沉浸在“信息茧房”之中的受众，由于长期接触同类信息，面临虚假的信息声势，而不易形成对外界的全面感知；用户原有的观念经由反复传播而得到加强或放大，从而进一步强化自己的主观观点，导致视野的偏狭和思想的封闭、僵化；这种思想僵化极易在网络群体的讨论加强之下得到进一步放大，甚至出现群体极化效应；不同群体的观念极化易导致社会共识的瓦解，削弱大众传播的社会整合作用。

二、人工智能技术在新闻传播中伦理失范的原因

随着人工智能技术的不断进步和发展，机器人写作、无人机报道等人工智能产品被广泛地应用在新闻生产领域，极大地简化了生产流程，解放了新闻从业者的劳动生产力，而且基于算法推荐的人工智能技术，对用户内容偏好和行为方式的分析，使新闻报道内容的分发更加个性化和定制化，给传统新闻业的生产活动带来极大便利。但是人工智能技术给传媒领域带来变革的同时，其伦理问题也越发凸显，给人工智能的健康良好发展带来新的挑战，这就需要我们从根本上分析人工智能伦理困境的形成原因。

（一）人工智能技术侵犯传播伦理底线

人工智能时代，各类数据信息采集无时不有、无处不在，几乎每个人都被置于数字化空间之中，而基于智能算法与大数据技术的人工智能，这一先天的技术优势在为人工智能提供极大便利的同时，也不可避免地存在隐私泄露的伦理风险，日益引起社会各界的高度重视。

一方面，人工智能技术需要以海量的用户信息数据作为支撑，进而对用户数据进行深度整合、全面分析，技术运作之下的大数据世界中，用户个人隐私泄露问题逐渐被凸显出来，同时还面临着数据泄露之后的二次负面应用，这严重损害了个人的隐私权。另一方面，机器人写稿在极大提高新闻生产效率的同时，人情味匮乏、可读性较低也成为被人们广为诟病的问题，机器人缺乏人类记者的思考判断能力，对于人文关怀尤其是涉及社会伦理的新闻报道，缺乏对新闻事件的价值判断和法律知识，对受众情感认知和道德规范也把控不够，容易触及传播伦理的底线，造成对受众权利的侵犯。

（二）算法设计不透明，行为主体较模糊

在传统新闻时代，为确保新闻的真实性和权威性，新闻作品通常交代新闻来源或转载出处，并注明新闻记者、编辑的身份，以便明确新闻生产的权责主体，从而使读者清楚掌握记者报道、编辑审核的职责分工。而人工智能在进行新闻生产与分发的过程中，由于涉及算法设计者权利或商业利益等原因，算法编码程序及相关信息常常被保密，算法设计不透明，运作原理不清晰，加之受众对人工智能技术应用认识不足，使受众质疑人工智能应用的真实准确性，进而影响人工智能在新闻传播领域的深度开发与挖掘。

另外，人工智能涉及的行为主体模糊，权利义务不明，当人工智能在新闻生产活动中出现伦理失范问题时，对于新闻媒介、技术平台与用户三者的责任很难界定，并且当机器人写作、无人机拍摄造成对用户权利的侵犯，人工智能是否能够成为侵权责任主体，也是对现行侵权法律制度提出的又一个新的挑战。

（三）政策法规不完善，市场监管不到位

人工智能技术作为一种新兴的发展中的技术，由于其发展时间不长，所带来的一些伦理问题如人权、环境、责任等，基本都超出了现有法律条文范围。一旦出现这些伦理问题，更多的是借助人工智能技术开发者的道德素养和社会舆论来进行约束，而很难利用现存法律来有效解决这些伦理问题。(www.xing528.com)

除了相应的法律制度不健全外，市场监管不到位是造成人工智能技术伦理困境的重要原因。目前，对于人工智能技术产品从设计、研究、验收到投入使用等生产环节，缺乏相应的监督管理机制，也没有一套完整的监管体系来监控人工智能的生产和使用，致使人工智能产品一旦被不法分子滥用，将会给人类和社会带来不可估量的风险和危害，也严重影响未来人工智能技术的可持续发展。

（四）媒介伦理教育滞后，文化素养较为欠缺

人工智能技术的悄然兴起，正驱动着新一轮的科技革命、产业变革和社会进步，给人们的生活习惯和思维方式带来深刻变革，然而，由于人工智能是一门新兴学科，社会公众对于这一技术未能深入了解，尤其是近年来关于“人工智能终将取代人类”等相关言论肆意传播，当公众看到人工智能技术带来的伦理风险等负面新闻后，往往会造成公众自身的恐慌不安心理，甚至排斥人工智能技术在社会生产中的使用，这无疑使人工智能技术在公众心中的认可度和信任感不断下降，也成为人工智能技术伦理问题加剧的外在原因。

面对人工智能技术所引发的伦理问题，需要在全社会范围内不断普及、推广人工智能的伦理教育知识，不管是人工智能技术的开发者还是使用者，都要提升自身道德素质和文化素养。人工智能教育中的伦理教育是一个不断发展、不断完善的过程，维护人工智能教育的健康发展任重而道远，这需要社会全体公众为之不懈努力。

三、人工智能时代伦理困境的解决路径

人工智能已然成为当下最热门的关键词之一，人工智能技术的快速发展将新闻传媒行业推向一个新的高度。在未来，人工智能将成为传媒业界发展的主流趋势，但是，人工智能技术虽然已经取得了突破性的发展，仍不可避免地存在一些伦理风险，严重影响着人工智能的持续发展，因此，规范人工智能在新闻传播领域的伦理失范现象，是促进人工智能技术健康良好发展的必要举措，针对人工智能时代出现的各种传播伦理失范现象及原因，必须从技术手段、法律法规、监督管理以及公众素养上探索有效的解决路径，推动人工智能技术的健康良好发展。

（一）技术革新与完善，促进人工智能良性发展

当下，人工智能技术在新闻传播领域的应用尚处起步阶段，相关技术亟待完善，相关的从业者还应不断完善优化技术方式，探索开发新兴技术手段，不断完成技术革新改造，以新一轮的技术革新有效解决人工智能的缺陷和不足。在新闻生产层面，应对机器人新闻注明新闻来源和内容生产方式，保证信息传播的真实性和可靠性，以技术发展加强机器人对新闻质量的判断，通过严谨的算法对新闻来源进行有效过滤，尽可能保证新闻来源的真实性；在新闻分发层面，除了基于受众行为习惯，探索受众深层次的需求外，还应结合社会重大事件、用户圈层属性等改善个性化推送机制，通过技术手段避免用户陷入“信息茧房”困境。

（二）人机协同高效生产，弥补智能技术缺陷

在传统的消息写作领域，人工智能技术能够充分发挥其应有的作用，将小部分取代人类记者。一方面，人工智能技术的个性化推送能够充分满足受众的兴趣爱好，提升受众获取信息的效率；另一方面，机器人写作能够分担传统新闻人大量繁杂的基础工作，让新闻工作者从枯燥无味的机械性重复劳动中获得解放，从而有精力专注于对新闻内容的深度挖掘和批判性思考，极大地解放了新闻从业者的劳动生产力。

但是在新闻生产过程中，机器人仅仅是一种辅助应用工具，还需要新闻工作者来弥补人工智能技术存在的不足之处，新闻工作者所具有的人文关怀能够弥补人工智能冰冷数据的缺陷，较好地把握新闻传播伦理与法律法规的界限。因此，在人工智能快速发展的今天，通过记者的深入调查，利用智能算法，发现重大事件来完善新闻报道，并由算法推荐将信息智能精准地送达用户手中，实现人工智能技术与新闻工作者的有机结合，促使未来新闻业向更高效、更有序的方向发展，实现“人机共生”。

（三）建立法律与行业规范，促进行业良性发展

没有规矩不成方圆，为了最大限度地防止人工智能对新闻伦理造成冲击，需要建立强有力的法律法规和管理制度，更好实现人工智能技术对人类社会的价值。一方面，要使人工智能技术和产品的各方面做到有法可依，完善对数据使用中侵犯隐私权的处罚，明确可抓取数据的范围和边界，从立法层面加强对公众隐私的保护，促进人工智能良性发展。另一方面，在人工智能监督过程中，相关部门担负着主导职能，因此，为了全方位监督人工智能技术，应该明确人工智能的发展方向和发展原则，完善新闻问责机制，明确机器人新闻的责任主体，加强对新闻数据来源的严格筛选，同时对内容生产的真实性进行把关审核，尽可能减少人工智能可能带来的伦理风险。

（四）加强媒介素养教育，提升受众伦理意识

媒介素养是指人们面对媒介传播的各种信息的选择能力、理解能力、质疑能力、评估能力、思辨性应变能力以及创造和制作媒介信息的能力。目前，从源头上规避人工智能在新闻传播领域引发的伦理风险，必须从加强社会公众的媒介素养教育抓起，在中小学乃至高等院校开设媒介伦理教育课程，在教育制度上建立健全媒介素养体系，降低社会公众受失真、虚假报道误导的可能性，使公众能够更加理性地看待人工智能传播的信息，尽可能避免陷入“信息茧房”，当公众面对智能算法推送带来的信息窄化时，就可以有意识地选择多元的信息群体，更为理性客观地看待人工智能生产的新闻作品，从而避免被单一信源、虚假报道误导。

另外，受众伦理意识的提升，还需要通过社会教育、媒体宣传、活动组织等多种方法，引导社会舆论和社会力量共同维护人工智能教育的健康发展，不断提高公众的信息判断能力和媒介使用能力，从而使其正确理解、运用智能科技手段，发挥人工智能的积极作用，控制其引发的伦理风险，增强公众对人工智能技术的信任度和认可度，推动人工智能技术和媒介伦理教育的健康发展。

小结

凯文·凯利在《科技想要什么》一书中指出：“人类既是技术元素的主宰者，也是它的奴隶，我们的命运将是保持这种令人不快的双重角色。”虽然人工智能的快速发展为传媒业带来巨大的变革，但是技术发展带来的伦理困境仍不容忽视。同时，人工智能技术固然会带来一些问题，但我们不能因噎废食，应该以更加开放的心态面对人工智能的发展及其可能带来的问题。对于人工智能在新闻传播领域应用中带来的伦理失范现象，积极主动地寻找解决办法，改善技术应用，加强伦理教育、法治建设，推动人工智能技术蓬勃发展，更好地为全社会、全人类谋幸福。

参考文献

［1］靖鸣，娄翠.人工智能技术在新闻传播中伦理失范的思考［J］.出版广角，2018（01）：9-13.

［2］陈昌凤，虞鑫.智能时代的信息价值观研究：技术属性、媒介语境与价值范畴［J］.编辑之友，2019（06）：5-12.

［3］邵国松.媒体智能化发展的伦理与法律问题初窥［J］.现代传播（中国传媒大学学报），2018，40（11）：9-14.

［4］彭兰. 更好的新闻业，还是更坏的新闻业？——人工智能时代传媒业的新挑战［J］.中国出版，2017（24）：3-8.

［5］喻国明.人工智能的强势崛起与新闻传播业态的重构［J］.教育传媒研究，2018（01）：95-96.

［6］杜娟.从“人机协同”看人工智能时代的新闻伦理构建［J］.社会科学研究，2019（04）：197-204.

［7］李政.人工智能时代新闻记者的价值定位［J］.出版广角，2019（10）：61-63.

［8］刘茂锦. 人工智能用于新闻业的法律、伦理问题及对策［J］.青年记者，2018（06）：96-97.

［9］莫宏伟. 强人工智能与弱人工智能的伦理问题思考［J］.科学与社会，2018，8（01）：14-24.

［10］刘茂锦. 人工智能用于新闻业的法律、伦理问题及对策［J］.青年记者，2018（06）：96-97.

［11［美］林文刚.媒介环境学：思想沿革与多维视野［M］.何道宽，译.北京：北京大学出版社，2007.

［12［德］于尔根·哈贝马斯，米夏埃尔·哈勒. 作为未来的过去——与著名哲学家哈贝马斯对话［M］. 章国锋，译. 杭州：浙江人民出版社，2001.

[1]［美］林文刚. 媒介环境学：思想沿革与多维视野［M］. 何道宽，译. 北京：北京大学出版社，2007.

[2]［德］于尔根·哈贝马斯，米夏埃尔·哈勒. 作为未来的过去——与著名哲学家哈贝马斯对话［M］. 章国锋，译. 杭州：浙江人民出版社，2001：1-218.