人民日报刊文：防范伦理道德风险 保障人工智能健康发展
防范伦理道德风险
保障人工智能健康发展(学苑论衡)
李传兵
人工智能作为一种具有代表性的颠覆性技术，正在释放科技革命和产业变革积蓄的巨大能量，深刻改变着人类生产生活方式和思维方式。习近平总书记强调：“要整合多学科力量，加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。”保障人工智能健康发展，需要采取合理有效的举措，防范人工智能技术可能带来的伦理道德风险，让这一技术更好服务于经济社会发展。
人工智能发展存在伦理道德风险。在新一轮科技革命和产业变革中，人工智能是一项战略性技术，具有很强的“头雁效应”，在有力推动经济社会发展的同时，也带来一系列风险与挑战。其中，伦理道德风险是一个重要方面。实际上，伴随人工智能技术的发展，关于其可能诱发伦理道德风险的讨论从未停止。有人担忧，信息时代，人工智能创造物已不仅仅是技术化的工具，而是越来越具有类似于人类思维的能力，甚至在某些方面具有超越人类思维的能力。人工智能发展到一定程度，有可能威胁人类思维主体地位。也有观点认为，人工智能应用存在隐私泄露的伦理风险。人工智能应用需要以海量信息数据作支撑，正是由于大数据的使用、算力的提高和算法的突破，人工智能才得以快速发展、广泛应用，并呈现出深度学习、跨界融合、人机协同、群智开放、自主操控等特征。人工智能越“智能”，就越需要获取、存储、分析更多的信息数据。在这一过程中，涉及个人隐私的信息，如个人身份信息数据、网络行为轨迹数据以及对数据处理分析形成的偏好信息、预测信息等，往往以数据的形式被存储、复制、传播。获取和处理海量信息数据，不可避免会涉及个人隐私保护这一伦理问题。如果缺乏伦理道德规范，就有可能诱发隐私泄露的伦理道德风险。此外，随着人工智能自主性的提高，人工智能侵权责任中的因果关系、过错等要件的判断日趋复杂，人工智能应用的权利责任归属问题也被广泛关注和讨论。
增强人工智能伦理道德风险防控意识。人工智能之所以存在伦理道德风险，究其主要原因，一方面是这一技术还不够完善;另一方面是目前人工智能健康发展的伦理道德保障机制仍然不够健全，同快速发展的人工智能技术相比，与之相关的伦理道德规章制度发展相对滞后。解决这些问题，一项基础性工作是增强人工智能伦理道德风险防控意识。目前，在一些地方和领域，公众对人工智能可能诱发的伦理道德风险重视程度还不够高。增强人工智能伦理道德风险防控意识是一项系统工程，涉及科技研发、应用各环节。在科技研发环节，重在完善人工智能从业机构与伦理道德研究、教育、监督机构之间的长期沟通交流机制，不断提高科技从业人员的伦理道德水平，引导研发人员增强风险防控意识，严守科技伦理底线，强化伦理责任。在研发初始环节，尤须增强道德风险防控意识，预测和评估人工智能产品可能引发的道德危害，从设计源头进行规范。进而将这种伦理意识贯穿于研发全过程，防止人工智能被非法利用进而危害社会，确保科技研发活动始终在伦理道德的轨道上平稳运行。在应用环节，同样需要绷紧伦理道德风险防控这根弦，在全社会加强涉及人工智能的伦理道德教育，普及与人工智能相关的法律法规知识，引导社会公众以正确的价值观念看待和运用人工智能技术，在享受其带来的便利的同时，对其中的伦理道德风险始终保持高度警惕，推动全社会共同参与科技伦理治理。
依靠制度确保人工智能安全可控可靠。将人工智能可能诱发的伦理道德风险降到最低，保障人工智能健康发展，必须根据人工智能发展实际，针对其可能带来的伦理道德风险，不断完善指导和规范人工智能发展的伦理道德原则。在此基础上，建立健全相关制度体系，从而及时发现、有效解决人工智能技术发展中的各类伦理道德问题，确保人工智能安全可控可靠。2019年6月，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，对促进新一代人工智能健康发展，加强人工智能法律、伦理、社会问题研究提出明确要求。依靠制度建设，防范和化解人工智能可能带来的伦理道德风险，需要相关从业人员大力弘扬社会主义核心价值观，在技术开发和应用过程中，严格遵守标准、流程等方面的规定，充分尊重和保护个人隐私，保障个人的知情权和选择权。不断加强人工智能的伦理道德监管，在相关法律法规中，进一步强化隐私权保护，充分保障公民在人工智能应用中的知情权和选择权。严格规范人工智能应用中个人信息的收集、存储、处理、使用等程序，严禁窃取、篡改、泄露和其他非法收集利用个人信息的行为，确保人工智能朝着对全人类、全社会及自然生态有益的方向发展，更好为经济社会发展和人民美好生活服务。
(作者为贵州大学马克思主义学院教授)
相关文章
-
淘宝客服有人工智能吗？客服都是机器人吗？
随着科技的快速发展，人工智能已经在各个领域得到了广泛的应用。在电商平台中，客服服务是非常重要的一环。那么，在淘宝这样的电商平台上，淘宝客服是否也采用了人工智能技术呢？1、首先，可以明确的是，淘宝客服确实采用了人工智能技术。淘宝客服系统中引入了自然语言处理、机器学习和智能对话等相关技术，以提供更高效、准确的客户服务。借助人工智能技术，淘宝客服可以更好地理解用户的问题，并给出相应的解答和建议。2、其次
2024-03-22 21:05 -
阿里小蜜能解决问题吗？人工智能的未来在哪里？
技术如何提升服务效率，为商家节省成本，也是电商巨头阿里巴巴一直努力的方向。,在3月29日举行的深圳云栖大会上，阿里巴巴店小蜜正式发布，官网同日上线。,2016年双11当天，小米天猫旗舰店单店成交超12.95亿，与2015年相比，在服务请求量相近的情况下，在线服务人数却锐减近300人，即使在流量洪峰，店小蜜的响应速度仍快至秒级，客户体验大幅提升。
2024-03-22 10:21 -
未来人脸识别，将引爆智能营销？
专家预计，取消了指纹识别，FaceID不用动手就可以解锁以及支付等方式或许成为全球手机厂商下一步跟随的热点。,就具体解决方案来讲，银瀑人脸识别营销分为硬件、家云端管数据管理平台、App层面三个部分，核心就是3D摄像头和拥有仿生计算技术的芯片处理器。,此次见福携引入微软的MicrosoftAzure技术，进行人脸识别销售，顾客挑选好商品后，走到收银台前，只需对着摄像头看一眼，系统即提示“可以了，买单
2024-03-22 09:20 -
索尼成立人工智能组织Sony AI 专注游戏与食品领域
”另外，该公司还表示，这项研究将会“与索尼集团相关业务部门进行密切合作。,2018年4月，索尼通过其美国子公司与卡内基梅隆大学达成了一项协议，双方将共同致力于人工智能和机器人技术的研究。,那时索尼表示，其初期研发工作将对食品的准备、烹饪和配送进行优化。
2024-03-22 09:17 -
陆奇讲义：技术趋势与商业变革
这个问题解决后，世界就会变得非常漂亮，因为生物体内的数据都能捕捉了。,关于生态，目前看来亚马逊、谷歌、BAT、小米都有机会，我个人认为多半成就一番事业的是后起之秀。,这些在《DealingwithDarwin》这本书里讲得非常具体，基本对任何企业都适用，推荐大家阅读。
2024-03-22 09:16 -
明年迎来AI泡沫集体爆发？或迎来最后一次狂欢
8)到2025年，50%的计算机视觉和语音识别模型将在边缘(包括终端)上运行。,29%的全球开发人员(经理级别或更高级别)在过去一年里使用人工智能/机器学习软件工作。,尽管这样，到2020年底，对话式AI仍将成功地支持五分之一的客户服务交互。
2024-03-22 09:13 -
杭州将设立人工智能专项支持核心研究 最高享500万元
来源：杭州网10月17日，科技部正式函复浙江省人民政府，支持杭州市建设国家新一代人工智能创新发展试验区。,这意味着，杭州成为继北京、上海之后国家批复的新一批人工智能创新发展试验区。,举措实、力度大支持人工智能应用场景建设，最高资助1000万元入选省市领军型创新创业团队，可享最高500万元资助杭州接下来会有哪些举措助推建设国家新一代人工智能创新发展试验区?若干政策(征求意见稿)提到，将在市重大科技创
2024-03-22 09:13 -
Alphabet旗下DeepMind联合创始人将转岗至谷歌
苏莱曼在Twitter上宣布了这个消息，并且称自己在DeepMind度过了美好的10年，他将加入谷歌，与该公司人工智能领导人杰夫·迪恩(JeffDean)以及首席法务官肯特·沃克(KentWalker)共同工作。,苏莱曼在2010年与两位联合创始人成立了DeepMind，主要负责其健康团队，这也是DeepMind主要的盈利来源之一。,DeepMind的工程师设计了多个具有突破性的健康算法，其团队为
2024-03-22 09:10 -
科普作家：人工智能是否会抢走所有的工作？
不过，会有更多与教育、文化、娱乐产业有关的新岗位被创造出来。,虽然他们的工作能力没有改变，但学会语言会让它们看起来更有灵性。,想让它们能够当门诊医生，就需要对应的医疗诊断算法和数据库作为支撑。
2024-03-22 09:09 -
工信部科技司：期待通过金融支持加速解决AI产融痛点
来源：中国证券网上证报中国证券网讯据工业和信息化部12月16日消息，2019年12月13日，为推动人工智能和实体经济融合发展，进一步发挥市场投融资对人工智能领域创业创新的支撑带动作用，以市场化机制支持人工智能企业开展揭榜工作，在工业和信息化部科技司的指导下，中国人工智能产业发展联盟(简称AIIA联盟)承办的人工智能产业投融资座谈会在北京召开，工业和信息化部科技司朱秀梅副司长出席会议并致辞。,二是聚
2024-03-22 09:06