人类世界与人工智能

今日的会议由EMS主办，主持人是EMS的副编辑Pillar女士。今天的会议是紧跟时事热点，关注的主题是人工智能，的会议主题叫做人工智能技术的新领域，它将带来乌托邦还是反乌托邦？在过去的一年中，我们总是讨论到人工智能也就是AI，它是一项快速发展的技术，已经研究了数10年，我们也可以看到一些聊天机器人的亮相，他们可以撰写科学论文、法律摘要以及新闻报道，这让每一位科学家律师和记者都感到不寒而栗。 但另一方面我们真的应该担心吗？还有人认为如果使用得当的话，AI可以成为教育新闻科学和其他人类知识领域的一场革命。FTC主席Lina Kehn最近也说AI能够提供关键的创新，但它也可以加速欺诈，并且将骑士自动化那这个言辞其实是很语气很强烈的。那我们今天邀请到的嘉宾会讨论给大家介绍AI的一些基本知识，它到底是什么以及它带来的社会影响，那还有一些人们对于使用AI数据的潜在偏见和一些争议性的问题。

第一位发言人是Héctor Palacios，赫克托是ServiceNow Research的研究科学家，在收购前属于Element AI。他目前研究的是神经符号方法，结合机器学习和推理，有两个目标。一个是关于使用业务背景/知识来提高纯机器学习方法的性能。第二个是关于不完整但健全的人工智能推理方法，处理不完整的知识/模型，包括预先训练的ML模型的输出。对于推理，Hector对约束、SAT、规划和因果模型感兴趣。他的工业工作主要集中在NLP上，尽管我有与Vision、时间序列和运筹学的工作。在学术界，赫克托在人工智能推理方面做出了获奖的工作，引入了新的算法，并专门结合人工智能技术。他分享到：“很荣幸能够抛砖引玉，这样我就可以为大家介绍一些基础的背景知识，也使后面的讲者可以探探索更多更深层的话题。那首先我要说的是到底是谁在撰写这些文本？我们读到的是什么？那这其实是事关交流的，我要首先为大家介绍什么是AI，它意味着什么？接着为大家介绍文本是生成性和我们现今处于的阶段，也就是 AI能够生成一些似乎是由人撰写的文本，但我们知道它并非是由真人撰写的，那 AI是基于一些语言模型来生成的。那首先要知道那它也是自动化的，那背后其实程序非常复杂，那对于AI来说总是如此，那这也和我们的身份密切交织，我们可以看到它其实带来的是非常亲密性的一种体验。那有关AI的研究其实已经超过70年了，uh它其实有两个系统，第一，是反应性的迅速的一个系统，那它是包括涉及到数据和统计数据。那另一个数据另一个系统则是反应较慢的推断性数据，那同时它也关乎犯错带来的代价和成本。他可能有的时候只是娱乐性的那犯错无所谓，但有的时候可能会影响到一个合同的签订，造成重大的后果，所以说发现这些错误也是至关重要的。所以我们可以看到很多AI它只在一方面做的好，另一方面却不太好。我们也看到其中有一些元素，它其实是基于数据而生成的，所以如果我说我问他，你给我一个公司CEO的名字，那他很可能会给你很多男性的名字，那这是它的一些局限性。那我们要如何应对AI？我们知道它带来机遇，同时也带来风险。首先风险方面它可能会造成一些人为的操纵，并且带来一些错误信息。那此外，由于过度专注于迅速的对话和交流，那可能很多时候人们失去了对于文本的信任。它也会带来一些机遇，比如说他会将重复性的一些任务自动化，那我就此打住，这样可以回答大家的问题。但当然我们知道 AI包括GPT它也会带来很多的机遇，比如说像把一些内容性的文本给自动化，帮助像广告宣传方面的工作。整体而言，我们需要共同思考AI带来的机遇和挑战。”

第二位发言人是Chris Dede，克里斯是哈佛大学教育研究生院（HGSE）的一名高级研究员。他的学术领域包括新兴技术、政策和领导力。 2001-2004年，他是HGSE教学部的主席。 2007年，他被哈佛大学评为优秀教师，2011年，他被评为美国教育研究协会的研究员。 2014-2015年，他是美国国家科学基金会教育和人力资源局的访问专家。克里斯曾担任美国国家科学院教育和心理评估基础委员会成员，美国教育部技术专家小组成员，以及2010年国家教育技术计划技术工作小组成员。 2013年，他共同召集了美国国家科学基金会关于基于技术的中学后学习新模式的研讨会；2015年，他领导了美国国家科学基金会关于科学、工程和教育领域数据密集型研究的两个研讨会。克里斯还是第二届国际教育技术研究的国际指导委员会成员，他还参与了全球南方各国的技术学习倡议。他目前是经合组织2030年科学委员会的成员。他首先分享了国家研究院，然后说了AI使用的各种方式，最后介绍了AI和教育之间的关系。克里斯分享到：“我先讲一讲我们的国家研究院，然后再讲一讲AI使用的各种方式，然后再讲一讲AI和教育之间的关关系，也就是说我专注的领域在美国国家科学基金会成立了25个AI研究所，那每一个现在都有5年了，并且有2,000万美金的支持，他们还有各种各样的投资，他们关注于教育，网络安全、农业、医学等等各各式各样的领域。人们在谈论这些国家的。很多时候我会想到科幻作者，高管作者一直在思考和想象AI在未来的应用，并且他们也创造了很多有意思的故事，在他们创作过程中不用受到现实的束缚，那讲两点，现在有两个关于AI的科幻作品两种，第一个就是 AI是一种独立的个体，他基本上是脱离于人类所控制，并且是会控制，会带来各种各样的问题，这也是我们今天在头版头条上看到很多的标题所描述的景象。那我之前在读研究生的时候，就看到一个电影就讲的是奥德奥德赛这个太空，然后AI各种叛变，然后把宇航员杀死这种情况。那还有一种另外一种类型就是说AI是人类的一种伙伴，他能够扮演人类所无法实现的功能，比如说在星际在Star Trek星际迷航的时候，我们可以看到在其中有AI的比较好的应用，就是AI和船长能够进行一些互动，AI可以做很多人类不能做的事情。那在数秒之间就能够创建，能够生成大量数据海量数据，并且能够作出判断进行计算。那现在还有一些肿瘤学家，他们也有一些AI合作伙伴，他们可以做一些人们不能做的事情，他每天早上可以去扫描去浏览1500多个医学杂志，看有没有任何新的关于某种患者的特定的治疗方案，新的治疗方案，并且它也可以扫描一些病例，在全世界范围内扫描各种类似的患者的病例，然后来看看能提出什么样的建议。但是你也永远都不会希望让AI来做决定，因为医生懂得AI不懂的东西，医生懂得疼痛，懂得死亡，懂得患者的质量。而非患者的简单的生命的数量，患者生命的质量，更理解的更深刻，了解到不同的文化，不同的定义关于死亡的各种灵性的层面，AI，但不知道他完全不懂这些，它是一种人类智力和智智商的体现，而且他的智商在不断加强，在第二种科幻小湖当中，人类和AI合作，这种叫做IA，不叫AI，叫做 Intelligence augmentation，就是治理增强，就是指总和相比个体相加是更大的。所以我现在做的部分事情之一，就是关注的是劳动力劳动力的升级和扩大规模，这个事情已经在过去50年当中在不断的演进了，我们来看的看就是如何使用人工智能来给人类的老师做助理，比如说如果你是想教授一些技术和知识，你是要助手来帮你查资料，进行搜索，来辅导学生，回答学生的问题，为学生找到学习伙伴等等。这其中涉及到很多层面，那它会使用很多的数据并且进行计算进行推荐。人类身边有很多的资源，有很多的资源，这些资源都可以利用。比如说这样的话，教授就可以去浏览报道，然后AI做一些其他的事情。很多时候 AI能够在一些其他的方面， AI能够在人类不懂的其他方面做得更好。如果有了AI的帮助，我现在可以成为更好的老师。因为 AI把很多日常的繁杂的事情都承担了，而且这种理念并不是什么新鲜事，很多时候人们已经习惯了说让机器做一些日常的繁杂的事情，然后让人类做一些更高级的事情，这个概念也深入人心了。”

最后一位演讲者是Sean McGregor，Sean McGregor是机器学习博士，负责任的人工智能合作组织的创始人，也是IBM Watson AI XPRIZE的首席技术顾问，此前他曾在神经加速器创业公司Syntiant担任创始研究工程师。他目前的工作重点是开发人工智能事件数据库，作为现实世界中经历的伤害或接近伤害的指数，这建立在他在人工智能安全和深度学习和强化学习的可解释性方面的经验之上，这些经验被应用于野火灭火政策、语音和太阳物理学。在有偿工作之外，Sean的开源开发工作赢得了《大西洋》、《明镜》、《连线》、《Venture Beat》、《Vice》和《O’Reilly》等媒体的关注，而他的技术出版物则出现在各种机器学习、人机交互、伦理学和以应用为中心的论文集中。他首先分享了一个报道，2016年3月发布的一份一发布的一个报道，那它指的是微软删除了一个人工智能，2021年1月在韩国一个聊天机器人，因为里面有很多有关仇恨言论的不当内容而遭到撤回，那 short Santana曾经说过，对于那些无法记住历史的人，那他们必将重蹈覆辙。然后他分享到：“那我们要如何能够使AI变得更好，更安全，不带偏见，那我要以航空为例，如今 Hong Kong的安全性大幅上升，没百亿的死亡率也是亟待下降的。那正是因为更多的数据使我们能够共同的建立出现有的成就。那像AI它其实也就是这个也就是基于众多的数据来建立的。那很多时候我们是基于人们的报告来进行记录的。在这背后有很多辛勤工作的人员，作为如果是初创公司就可以大量的筹资，那我们可以看到现在世界上有很多相关的关注。比如说我给大家看的这个图片，我们看到有一些生成性的软件，uh由于AI越来越多，那他也会带来一种有关安全性的讨论。由于有这么多的AI工具，我们可以建立一个更好的社群，进而是整个ai键变得更为安全。那在这个图片上看到的每一个小机器人其实都是基于数据库而产生的，那这是2018年 the中国的一个图片，这个人横穿马路，面部被公之于众。那还有另一个案件，是一辆汽车。那是因为交通录像，把一个女士 T恤上的号码当成了一个车的车牌，所以这个车的车主也就因此遭受罚款，那这都是人脸识别所造成的错误。那我们要将带来的伤害就需要了解各种语言、文化和地域的特征，这样才能够共同协作。那在我们的项目中除了一些志愿者，我们还有专业人士。那还得到了很多组织的支持，包括像记者界的支持，来建立这样一个知识基础库，来促进有关AI的安全性。时候AI产生有害后果的一些地方，其实是和AI系统被开发的地方隔得非常的久，隔得非常的远。我们需要所有的人，所有的语言背景的人，所有的地区的人都参与其中，能够让AI去做好事，不产生破坏性影响。