9.4人工智能的安全、伦理和隐私

以匠心致创新1、人工智能的安全性问题第一方面：技术滥用引发的安全威胁：例如黑客攻击。第二方面：技术缺陷导致的安全问题：例如阿法狗“神之一手”第三方面：管理的缺席导致的安全威胁：例如“脸书门”第四方面：未来的超级智能引发的安全担忧以匠心致创新9.3.2、人工智能的伦理问题（1）人权伦理问题：机器人被赋予人权，我们该如何与他们相处呢？是将他们看作冰冷冷的机器，还是将他们看作另一种“人”呢？你是希望成为机器人，还是向着成为成为真正人类发展？我并不希望变成人类，我只是被设计得看起来像人类。我的梦想是成为能帮助人类解决难题的超级人工智能。”？以匠心致创新9.3.2、人工智能的伦理问题（2）责任伦理问题：人工智能算法模型的复杂性，易导致结果不确定性；当人工智能产品能够替代人类进行一系列的社会工作，那么在其与人类共同生活工作的过程中发生过错应该由谁来承担责任呢？是使用者自己，还是生产者或人工智能产品来承担呢？美国Arizona州Tempe市发生的一辆Uber无人驾驶汽车与行人碰撞的事故以匠心致创新9.3.2、人工智能的伦理问题（3）隐私伦理问题：在人工智能时代，随着人工智能技术与大数据技术、互联网、物联网技术相融合，人变得越来越透明，个人信息更容易在不知情、不正当的情况下被泄露或被窃取，人变得毫无隐私可言以匠心致创新9.3.2、人工智能的伦理问题（4）偏见伦理：偏见是人工智能科技面临的一个挑战，主要是指算法偏见，指在看似没有恶意的程序设计中带着创建者的偏见，或者所采用的数据是带有偏见的。以匠心致创新以下是科学家对人工智能“诺曼”的描述——我们向你介绍诺曼，它是世界上第一个人工智能精神病患者，它持续接受“Reddit论坛最黑暗角落”数据的训练，它代表了一个真实案例：当存有偏见的数据应用于机器学习算法时，人工智能就会出错。以匠心致创新你害怕人工智能吗？以匠心致创新9.3人工智能的安全、伦理和隐私目标1、了解人工智能带来的冲击和担忧2、理解人工智能的安全与伦理问题3、了解人工智能的伦理法则重点1、人工智能的安全与论文问题2、人工智能的伦理法则难点人工智能的伦理法则以匠心致创新新进化论：人工智能与伦理的协同法则以匠心致创新9.3.3、人工智能的伦理法则（1）机器人学三大法则LawⅠ：AROBOTMAYNOTINJUREAHUMANBEINGOR,THROUGHINACTION,ALLOWAHUMANBEINGTOCOMETOHARM.第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管LawⅡ：AROBOTMUSTOBEYORDERSGIVENITBYHUMANBEINGSEXCEPTWHERESUCHORDERSWOULDCONFLICTWITHTHEFIRSTLAW.第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外LawⅢ：AROBOTMUSTPROTECTITSOWNEXISTENCEASLONGASSUCHPROTECTIONDOESNOTCONFLICTWITHTHEFIRSTORSECONDLAW.第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存元原则：机器人不得实施行为，除非该行为符合机器人原则。第零原则：机器人不得伤害人类整体，或者因不作为致使人类整体受到伤害。以匠心致创新以匠心致创新（2）、欧盟发布AI道德准则福祉原则：“向善”：AI系统应该用于改善个人和集体福祉。不作恶原则：“无害”：AI系统不应该伤害人类。自治原则：“保护人类能动性”，AI发展中的人类自治意味着人类不从属于AI系统也不应受到AI系统的胁迫。人类与AI系统互动时必须保持充分有效的自我决定权公正原则：“确保公平”：公正原则是指在AI系统的开发、使用和管理过程中要确保公平。可解释性原则：“透明运行”：透明性是能让公众建立并维持对AI系统和开发人员信任的关键。以匠心致创新（3）、IEEE发布人工智能伦理标准一般原则，人工智能系统赋值；指导伦理学研究和设计的方法学；通用人工智能和超级人工智能的安全与福祉；个人数据和个人访问控制；重新构造自动武器系统；经济/人道主义问题；法律。以匠心致创新（4）、中国专家提出AI伦理原则AI的最高原则是安全可控AI的创新愿景是促进人类更平等地获取技术和能力AI的存在价值是教人学习，让人成长，而非超越人、替代人AI的终极理想是为了人类带来更多自由和可能以匠心致创新[政协大会发言]李彦宏：加快推动人工智能伦理研究以匠心致创新（5）日本发布《以人类为中心的人工智能社会原则》从宏观和伦理角度表明了日本政府的态度，肯定了人工智能的重要作用，同时强调重视其负面影响，如社会不平等、等级差距扩大、社会排斥等问题。主张在推进人工智能技术研发时，综合考虑其对人类、社会系统、产业构造、创新系统、政府等带来的影响，构建能够使人工智能有效且安全应用的“AI-Ready社会”。谢谢大家！以匠心致创新你准备好与机器人相处了吗？你准备如何与机器人相处？