人工智能伦理.ppt

人工智能伦理 西南政法 张航 弱人工智能 强人工智能 能够通过对机器进行编程来展现其智能行为的那种推测能力被认为是弱人工智能（weak AI），但是，机器能够通过编程而获得智力——亦即意识——的那种推测能力，则被认为是强人工智能（strong AI）。 强人工智能引发了广泛的争论。反对者认为，机器在本质上与人类不同，它永远不能像人类那样感受爱、判断对错，以及考虑自我。然而，支持者认为，人类的头脑是由许多小的部件构成，每个部件都不是人，没有意识，但是当它们结合在一起就成了人，为什么同样的现象就不可能出现在机器身上呢？ 2020-2-6 基于行为的智能 人工智能早期工作研究的课题涉及直接编写程序来模拟智能。但是，新的想法认为人类的智能并非基于复杂是程序执行，而是在经历了世代进化后形成的简单的刺激——反应功能。这种关于“智能”的理论称为“基于行为的智能”，因为“智能的”刺激——反应功能似乎是一些行为的后果，这些行为导致某些个体在其他个体遇难时得以幸免并能繁衍后代。 基于行为的智能似乎能回答人工智能范畴的若干问题，例如，为什么基于冯.诺依曼结构的机器在计算能力上能轻易地胜过人类，却难以展现常识性的判断力。因此，基于行为的智能有希望成为人工智能研究中的一个重要影响因素。基于行为的技术已经应用在：人工神经网络领域，训练神经元如何按所期望的表现。 例：AlphaGo就是刺激——反应的很好例子，它下棋并不是穷尽剩余棋盘的算法，而是学习一流棋手的反应，做出智能的下棋行为。 最新消息：AlphaGo zero以100:0战胜AlphaGo 2020-2-6 后果的思考 what if one day it comes true? 2020-2-6 一些问题 如果一个计算机化的数据库错报了你有不良的信用度、有犯罪记录或是银行账户透支（查找并纠正该错误超出人类能力范畴），那么，是计算机的错误报告会奏效还是你自己的清白申请会奏效？AI能参与司法吗？AI判错了怎么办？ 2020-2-6 如果一个AI医疗专家系统因其给出合理的建议而在医疗界享有盛誉。作为一个医生，应该在多大程度上让AI辅助他为病人做出决定？如果决策冲突，听人的还是听AI的？如果听人的，最后治疗失败，人负有多大责任？如果听AI的，最后治疗失败，人负有多大责任？ 如果AI驾驶模式下，Tesla出了交通事故，人类驾驶员是否有责任？ 一般说来，如果一个专家系统在某个领域内很有名，那么在多大程度上它会束缚而不是提高人类专家的判断力？ 2020-2-6 人工智能领域的研究者应该对他们研究成果的利用方式承担多少责任？科学家对其研究揭示的知识是否负有责任？若因此产生了意想不到的后果，怎么办？ 2020-2-6 如果一个病人的的大脑坏掉，我们在坏掉前拷贝出它所有的意识，然后用人工神经细胞一点点换掉病人的大脑，再重新模拟他的意识，那个病人还是同一个人吗？那个病人还算是人吗？ 思考：特修斯之船 2020-2-6 有些人把技术的进步看成是给与人类的一份厚礼——将人类从枯燥的、普通的任务中解放出来，为了更愉悦的生活方式打开大门。但对于同一个现象，另一些人则把它看做是剥夺公民就业机会、把财富引向权势人物的祸根。 对于那些看上去“不如”机器的人，怎么对待？他们被机器夺去工作的后果是什么？ 历史上有很多财富和权力分配不均而引起的革命。如果今天正在进步的技术加固了这种差异，那将产生灾难性的后果。 历史思考：甘地为什么坚持如果用农夫家庭手纺车来代替大型纺织工厂，印度人的生活会变得更好？ 2020-2-6 你如何对待具有意识后的机器人？你会同情ta吗？你会爱上ta吗？你想和ta结婚怎么办？ 2020-2-6 如果你的老婆/老公更亲近你的家用机器人（家用机器人的成人模式比你更令你老婆/老公愉悦），你们婚姻的矛盾应该归咎于谁？ 如果你的家用机器人比你老公/老婆更令你愉悦？你会有离开对方的想法吗？当你有这种想法时候你会在道德上愧疚吗？ 2020-2-6 什么掌管着这个社会？ 2020-2-6 人类是AI的上帝吗？ 人类大脑不受某种不可抗力支配吗？ 你是谁？你从哪里来？ 人是什么样的存在？ 这个世界是真实的？编码的？ 你选蓝色药丸还是红色？ Thanks