人工智能、机器人和你的健康
5745字
2019-10-26 22:38
69阅读
火星译客

在第二届希尔科学大会上,来自学术界和私营部门的专家们与《科学美国人》主编玛格丽特·迪克里斯蒂娜(Mariette DiChristina),就医学领域人工智能和机器人技术的未来进行了探讨。小组成员包括华盛顿大学的佩德罗·多明戈斯(Pedro Domingos),他是《主算法:如何追求终极学习机将重塑我们的世界》一书的作者; 在约翰霍普金斯大学从事诊断和治疗规划工具的研究工作的Suchi Saria; 还有在Buchanan,Ingersoll&Rooney公司从事数据安全、医疗保健法规和数字健康记录工作的Pamela Hepp。主持人分别是《科学美国人》主编玛格丽特·迪克里斯蒂娜(Mariette DiChristina),来自自然研究(斯普林格自然的一部分)的史蒂夫·米尔斯基和加州众议员杰里·麦克纳尼(Jerry McNerney)。

史蒂夫·米尔斯基:欢迎大家来到2018年6月18日发布的《科学美国人》科学讲座现场。我是史蒂夫·米尔斯基。今年早些时候,我们听到的一系列名为“国会山的科学”的讨论中的第一个问题就是与其相关的话题。本次活动由《科学美国人》、《自然》杂志和加州国会议员杰里·麦克纳尼共同举办,讲座主题是可持续能源。

6月14日,我们再次聚集在国会山上的雷伯恩大楼,参加名为“人工智能、机器人和你的健康”的第二场活动。接下来是长达一小时的谈话剪辑版,由《科学美国人》杂志的玛格丽特·迪克里斯蒂娜为我们主持。她将为大家提及HIPAA (H-I-P-A-A,这里主持人又重复了一遍),也就是旨在保护我们的医疗记录安全与隐私的《医疗保险可携性与责任法案》。

现在是玛格丽特·迪克里斯蒂娜(Mariette DiChristina)。

玛格丽特·迪克里斯蒂娜:早上好。首先非常感谢并欢迎大家收听本次讲座。我很高兴在这里见到大家。我是《科学美国人》的主编玛格丽特·迪克里斯蒂娜。顺便说一下,《科学美国人》创刊于1845年,是美国(全国性刊物中)历史最悠久、连续出版时间最长的杂志。下面我要邀请来为我们解说有关“国会山的科学”的系列讨论的议员代表杰里·麦克纳尼(Jerry McNerney)和我们开始合作,将最新的创新产品介绍给那些专注于这方面的研究人员们,并决定如何才能最好地监管或管理这些创新产品以造福社会。

我们原定的第一个主题是可持续未来的新能源技术。但今天我们改变主题,转为讨论人工智能,机器人和医疗保健。我的意思是,从R2-D2到今天打扫我们房间的roomba,从Evil HAL到国际商业机器公司(IBM)研发的帮助诊断的机器人Watson,我们可以看到,机器人和人工智能已经不再是科幻小说的虚构事物,而是现实世界的真实存在,他们直接进入了我们的生活。这就是为什么我觉得现在是讨论我们今日话题的最佳时机。

现在我想请我们的主持人代表杰里·麦克纳尼致开幕词。有请杰里·麦克纳尼。(掌声)

杰里·麦克纳尼:早上好。我不得不说,与科学家和科学爱好者在一起总是一种乐趣。我本人就是国会中两位真正的科学家之一。我拿到了数学和微分几何的博士学位。我的大半生都从事开发风能技术的工作0。我写了计算动态风力涡轮机负载的代码。这很有趣。今天我们将讨论人工智能和医疗保健。

现在我们知道,科学不是万能的。但是,有一个明智的决策过程是有帮助的,如果我们有更多这样的决策过程,特别是在立法方面,将会更有帮助。我正在与其他成员一起研究如何在医学应用中发挥人工智能更加强大的功能。接下来我将把时间交给演讲者,我期待着演讲者和观众之间的精彩对话。谢谢你!

迪克里斯汀娜:非常感谢。[掌声]现在我该把你们介绍给我们出色的演讲者了。从右向左。坐在我旁边的是来自约翰霍普金斯大学的计算机科学统计和健康政策助理教授Suchi Saria。她还是约翰霍普金斯大学马隆工程医疗中心的创始研究主任。欢迎Suchi。

坐在Suchi旁边的是佩德罗·多明戈斯(Pedro Domingos),华盛顿大学的计算机科学教授,他编写并合著了200多本关于机器学习、数据挖掘和其他领域的技术的书籍。欢迎来到佩德罗。

坐在佩德罗旁边的是来自宾夕法尼亚州Buchanan Ingersoll&Rooney公司的帕梅拉·赫普,她的医疗实践主要集中在包括复杂交易、医务人员和监管等影响大型医疗机构的问题上。欢迎帕梅拉。

所以我觉得借此能让人们更好地了解你,那就太好了。当然,如果你们不介意的话,可以花几分钟多谈谈你们的背景和你们真正关注的领域,以便观众们更加了解你。恩,所以Suchi准备好先开始了吗?

Suchi Saria:如果你是一个来到诊所的病人,你是和你的医生一起来的,你接受了一系列特定的实验室测试,你想知道你是否持有一份特定的诊断证明?你会对药物产生不良反应吗?还是因为你有其他的合发症导致了继发性影响?现在你可以看到之前数以百万计的患者们的数据,观察随着时间的推移他们接受类似的疗法后所产生的反应,或观察他们做了什么以及他们如何反应以准确找出适合你的应对方法?

这是医学界正在发生的一个非常非常强大的标志性转变。我们有能力做到这一点——我们有能力建立基础设施,让我们能够安全、可靠地使用数据,为决策提供信息,我认为这将改变医学界的游戏规则。这将与另一种转变即新传感器的引入相结合。因此,我们正着手进行的不仅仅包括将大量现有的数据数字化。

在开发新的数据源上,我们也变得越来越有创造性,这也是以前我们从未想要采集的领域。举个例子,我的实验室做了一项工作,我们将帕金森症作为一种疾病看待。我们只知道如何利用这些人们知晓的30分钟主观测试进行测量。现在,在家里使用传感器,我们就可以以新的方式来构建数据源。它在非侵入性的前提下观察病人在做什么,他们如何反应,如何移动。

这证明了传感器通过极其灵敏的指标检测真实地反馈你症状上的波动,借此你可以调整治疗方案并实现早期诊断,如果你恶化了,做到及时治疗。总之我认为现有的数据的集合,新数据源,新的传感器,科学使我们能够利用所有这些创新手段在任何时候发现所有病人或所有个体的身体问题,这不仅仅针对病人,因为这是攸关健康或疾病的大问题。对于个人来说,什么是他们该做的事呢?

迪克里斯蒂娜:谢谢。佩德罗,关于人工智能你谈的不多,可否为大家介绍下人工智能的定义呢?据我所知关于这一点我们还未曾说到。

佩德罗·多明戈:当然。这就是AI。人工智能试图让电脑做一些过去需要——至少目前需要——人类智能才能做的事情,比如推理、规划、决策、视觉、理解语言和语言。其中很重要的一点就是学习。学习真的是一种能力,它驱动着其他的一切。如果我们有一个和人类一样聪明的机器人,但是如果不让它继续学习一分钟之后它就会落后了。

所以机器的学习是我特别关注的领域。正是这个领域促成了我们今天所看到的这些进步。20年前我攻读博士学位时,机器学习还是一个非常模糊的领域。我做的一件主要的事情是将新的学习算法应用到大量的医疗数据集内,以便我们根据病人的症状来诊断出异常的病因。

让我震惊的是,那时我们已经比人类医生做得更好了。今天的系统更好,但没有得到广泛的部署。所以我认为在医疗保健领域,人工智能可以创造无穷无尽的惊喜。希望我们都能帮助实现它。

迪克里斯蒂娜:宾夕法尼亚州Buchanan Ingersoll and Rooney公司的帕梅拉·赫普?

帕梅拉·赫普:嗨。我的整个人生都在从事医疗保健律师的工作。我获得了公共卫生硕士学位和法学学位,我工作的关注点一直是医疗保健。从监管的角度看,我所做的很多事情都是集中在HIPAA和数据安全领域,数据安全领域不仅包括了HIPAA,还包括当我们处理超级保护类型的信息,如精神健康信息,艾滋病相关信息,药物和酒精信息等时所涉及到的州法律的涵义,当我们共享数据时,所有这些信息都会发挥作用。

我工作的另一部分涉及到交易。这包括建立健康信息交换,在这一过程中组织通过实体接收电子健康记录并通常允许其在区域范围内在健康信息交换中共享数据。有一些团体试图在州一级就完成健康信息交换。在全国范围内,它还没有达到我所期望的程度。

但是,这些步骤是在卫生信息交换存在的前提下进行的,以便在提供者之间交换数据,以及当病人走进他们的诊所时,他们能够获得他们需要的信息,而不仅仅是他们在特定机构的护理历史。

迪克里斯蒂娜:谢谢。我们已经听说了一些关于更强大的处理现有数据和新数据的方法,学习机会也得以增加。然后我还想再讲一下我们如何共享信息,如何正确管理信息以获得更好的结果?还有一些其他的技术我认为我们至少应该介绍给大家。

佩德罗,你曾跟我提过关于护理机器人或手机甚至可以用来改善医疗保健。你能谈谈这个吗?

多明戈斯:对,机器人技术的一大应用是老年人护理。例如,日本是这一技术上发展水平最先进的国家。他们当然严重缺乏人力。实际上,机器人照顾老人变得越来越普遍。你可能会想,老年人可能会对此有点反感。但恰恰相反,他们似乎真的很喜欢它。机器人的设计初衷是关注人们的需求,并与他们进行良好的互动。

事实上,如今的机器人在与人类情感交流的某些方面比它们捡东西时表现得更好。捡起某样东西实际上比以人类可接受的方式提醒他们吃药要困难得多。实际上,机器人是用来照顾老人的——当然,随着人口的老龄化,你知道会有很多人有……等等。具备照顾老人的功能的机器人很快就会大受欢迎。

它们将关系着很多人的幸福。另一个重大问题是移动设备,对吧?移动设备和手机已经开始彻底改变医疗保健,因为医疗领域应用的所有这些持续运转的传感器移动设备都具备了。移动设备和手机同时还配备了加速计,麦克风,GPS等功能。他们可以持续记录你的生命体征。每年你去一次医生的办公室,你会得到一些读数,这是上个世纪的做法了。

还有人说,手机救了他们的命。你知道的,因为他们开始发作心脏病时,手机会注意到一些异常状况。事实上,我认为不久以后,如果你的手机心脏病发作了,你会在心脏病发作之前拨打911。911会来找你因为是手机让这一切发生的。

制造商们(或研发人员)正争相设计出更多的传感器,以便把需要记录的东西存入手机。因此,我们看到的是这样一个世界,你的健康状况正在被持续监测,这些干预措施可以在必要的时候提供帮助。当然,这些传感器对你健康状况的检测越来越精确。除此之外,还有大量的人工智能机器正在通过学习弄清楚时下所发生的以及需要发生的事情。

而这一切仍处于早期阶段。但一旦完成,我认为这将会是一场巨大的革命。

迪克里斯蒂娜:谢谢。我想深入探讨一下人工智能本身在研究领域的一些好处。Suchi,也许你可以谈谈有助于研究和开拓思路的人工智能和其他技术。佩德罗也可以随时提出补充。

萨利亚:我想再详细阐述一下佩德罗的观点,以便讨论什么是人工智能,什么是机器学习?我认为有一种科幻版的人工智能机器在学习能力上十分突出甚至神奇。所以任务很明确,对吧?我们的想法就是创造出能像人类一样思考、行动、感觉和感知的机器。当我们说着“像人类一样做”或者“目标不是完全按照人类的方式去做”这样的话时。

我们仅仅是通过研究人类做这件事的方式获得灵感。我们需要完成的更大的任务是我们有什么方法可以有效地编写程序?你知道,如果我们能在一个房间里看到后面有一个红苹果,我们难道不能编写程序让电脑用摄像头来同样地感知房间并识别出背景里有一个苹果吗?这里有一个非常简单、有趣的任务,就是培养这些能力,让你能够感知、行动、感知和推理。

推理可能是最有趣的。所以推理就是这些非常非常简单的机器,或者非常非常简单的算法所得出的科幻版关联性中的一种,也就是说当我看到像素的时候,它其实是相机图像中的一种你可以感知到的颜色。如果用值来表现颜色,其数值可分为这种和那种。如果两者混合在一起,那么它可能是红色的。如果是一个红色的集合,那么它可能是一个苹果。

这其实很简单。你在学习这些规则。但是当你进一步打破界限时,我们所做的事情就类似于我们考虑的其他原因。例如,它在一个房间里,它是红色的。它旁边有一些黄色的东西和一些绿色的东西。那么它是一个水果篮子的可能性更大,因为这些东西放在一起是有意义的。

在卫生保健领域,推理也是十分必要的。因为当你认为测量值很高的时候并不意味着你就得了这种病。通常情况下,肌酐是一种肾脏功能的测量方法。如果肌酐过高,这可能意味着你的肾脏状况不佳。但问题是为什么这种推断?事实证明,它可能与一种特定的疾病无关。

不排除存在五种其他疾病的可能性,或者你可能接受了一种特殊的药物,它暂时提升了你的肌酐水平。因此,考虑多种因素的能力,以及它们如何相互影响、相互影响、相互推理的能力,是我认为人工智能将可以有所提高并发挥更加强大作用的领域。你可以通过数据来实现。当别人告诉你如何推理的时候,实际上你就在建立推理引擎。

所以当你说,好吧,我相信它不是红苹果的原因是,因为某某公式或法则(X,Y,Z)它就像一个红色的玩具,然后你死记硬背地学习它。相反,机器学习允许我们获取大量的数据再学习。我们建立了学习算法,帮助我们从数据中学习推理。比如上次你看到红色的东西旁边还有什么?因此,还会发生什么可以来解释这些呢?

所以我认为,就制造能够推理的机器而言,这是一个非常强大的构想。一旦你有了这样的东西,你可以进行各种各样的发明创造。它与健康无关。它可以是关于世界是如何运作的以及为什么它会以这种方式运作的发现。我们拥有的数据越多,收集的经验就越多。这种经历会让你有所发现。这就是我认为人工智能最令人振奋的方面。

迪克里斯汀娜:如果你有一台能推理的机器,有无限的耐心。你跟我谈过开发新药和其他机器学习能促进事物发展的方法。你能说一下吗?

多明戈斯:是的。令人激动的是现在有这样一则成功案例,就是人工智能可以在体外设计药物,对吧?所以在活的生物体内,抱歉,是在体外。但现在我们可以设计一种有机硅。试管实验是在实验室里进行的。制药公司过去设计新药的方法是在实验室里试验新东西,看看哪些是有效的。但问题是,大多数情况下都是这样的,而且以这种方式得到真正重要的试验成果的可能性已经大大减小了。幸运的是,现在有一种新的方法,就是我们可以利用机器学习,从化合物的结构中找出它的作用。

然后我们可以尝试几十亿甚至上万亿种不同的变化看看我们想要的东西是否能以这种方式与艾滋病病毒结合。我们还试图研发出一种药物来达到这个目的。可以想象,在不久的将来,当一个病人长了肿瘤,我们可以尝试所有针对肿瘤的治疗药物。但是癌症的问题是每一种肿瘤都是不同的。但实际上,在不久的将来,很有可能会有一种专门针对该患者设计的药物,可以在不伤害健康细胞的情况下杀死肿瘤细胞。

人工智能在医学领域的一大任务就是个性化医疗,就是一种接近于人性化的医疗手段。它不需要对每个人都采用一样的配方。它可以是量身定制的解决方案。我认为一个很好的例子就是为特定的人针对特定的问题设计药物。或者更广泛地说,现在一种药物要获得批准,必须具备普适性和无害性。我们现在的情况是,这种药物可能只对五个人有用。

也许它会伤害10个人,但是你当知道哪些人时——如果你知道是哪些人,如果你能预测,那么你就可以用它来帮助那5%的人。当然,我们也需要通过允许这种情况发生的法规。例如,重要的是我们需要机器学在某些领域真正发挥效益,而不是我们仅仅在几千人身上做了一个药物试验,然后药物就被推广使用了,之后便无人问津。

这就像不断推出的东西,越来越多的病人在尝试它们,我们不断地从这些病人那里得到反馈,并完善我们的模型,知道什么药是好的,什么药是不好的。这只是几个例子。

迪克里斯提娜:即使在今天,我们也听说了用机器人来照顾老人。人们——至少其中一些人——似乎喜欢它。我们听说过手机用于医疗保健。我们听说过在体内形成硅化物和个性化药物,可以治疗特定的肿瘤。或者我对这种想法很感兴趣,即确定一种药物是否对百分之五的人有用,而对其他人没用,这样可以节省很多人力物力。我在想,帕姆你能处理所有这些问题吗?

Hepp:让我先从政策的角度讲起,因为佩德罗刚才提到的关于药物研发的问题,在控制医疗成本方面存在着一系列争论。报销制度也在不断变化。《合理医疗费用法案》(Affordable Care Act)原本是最具破坏性的,但随着时间的推移,报销制度一直在不断演变并试图控制成本。成本高昂的一个原因是与药物相关的研发。

所以研究应用可以帮助降低成本。就基于价值的医疗而言,报销制度的改变也能在一定程度上帮助实现成本节约——只要它能改善医疗成效,让人们远离医院。让他们更健康。把他们留在家里。要做到这一点,需要大量的数据,不仅是关于特定病人的数据,而且要预测病人对特定治疗的反应,或保持对特定治疗方案的依从性,需要基于人群的预测分析。

这是一项涉及所有数据处理的人口健康分析。但是,分享这些数据涉及HIPAA的涵义。它还涉及州法律。但是在某种程度上,有些人可能会说这真的是为了制定个人治疗方案而做的研究吗?尤其是对于需要病人个人同意才能继续的研究而言更是面临着质疑。所以我认为有必要在病人同意的前提下才能广泛地分享这些信息。

但当我们处理超级保护类型的信息时,面临的情况更特殊。因为对于预测分析来说,这通常是最重要的信息类型。也就是药物滥用的心理健康。这类信息对分析至关重要。因此,我们需要考虑如何构建共享数据的结构,以及需要获得哪些同意才能做到这一点。

这些都是我们需要考虑的问题。我们已经说过人工智能的强大的用途之一是防止网络攻击,因为人工智能可以不断地收集数据来观察在健康信息环境中活动的变化并做出反应。因此,从网络安全的角度来看,中国有能力阻止这些问题。从政策的角度来看,有很多问题需要考虑。

迪克里斯汀娜:我们谈论数据时,似乎只看到它的优势。我们怎么知道它就是这样的?我的意思是,你怎么知道它有利无弊——仅仅是大量的数据给了你信心,你相信你可以依靠它来处理其他事情?或者研究人员是如何看待这个问题的?

多明戈斯:实际上它不是只存在有利的一面。这完全取决于你怎么处理它,对吗?有一些信息可以帮助数据根据你的目标做出更好的决策。如果你的目标很糟糕,你会把不好的事情做得更好。关于目标的好坏有几类定义。一是数据的质量。如果数据的质量不是很好,即使数据规模很大也毫无用处。另一项标准是数量,但是过分看中数据实际上是一把双刃剑。

在某种程度上,掌握更多的数据总是更好的。例如,更详细的病人记录可以让它建立一个更精确的模型。了解每个病人的更多信息会更好。但实际上没有大量数据的辅助它也可以做到这一点,它实际上是一种寻求平衡的行为,因为太多的错误信息实际上会混淆系统。实际上,机器学习系统一直要做的一件事就是找出可以忽略的数据。

还有很多非常具体的细节问题是不能一概而论的。所以学习实际上就是忘记不重要的东西,就像记住重要的东西一样,我认为人类的学习也是如此。所以掌握大量数据是很好的。就像有一条大河。但如果河水淹没了你的房子,那就不好了。所以我们必须找出如何最好地利用它。这就是如今很多人工智能应用的意义所在。

迪克里斯汀娜:现在进入提问时间。

冈萨雷斯:大家好,我是来自宾夕法尼亚大学的格雷西拉·冈萨雷斯。我在佩雷尔曼医学院(Perelman School of Medicine)做健康社交媒体方面的研究。很多人在推特上谈论他们的药物及其原因。目前还有一些政策也在朝着这个方向发展,我们如何利用这些由那些关心自己健康的人自愿提供的信息呢?

我认为,只有研究人员能够与之合作,这种参与才能得到加强和促进。HIPAA的重要性不容忽视。但我们必须重新思考它的可行性。

Hepp:嗯,这确实提出了一个很好的观点,因为很多数据都来自健康追踪器,或者是不受HIPAA保护的个人信息。这些个人类型的记录可能在某种程度上涉及到决策——如果它是一个决策跟踪器,美国食品和药物管理局(FDA)可能会对其实施监管,但是在那些软件平台这类追踪器是不受监管的,因而信息也不受保护。

我并不是说我们讨论的所有信息都必须受到联邦或州法律的保护,除非这些信息被记录在医疗记录中。一旦它被记录在医疗记录中,它就受到了保护。但你说的很对。并不是所有你看到的信息都是受管制的。

问题:我发现大数据和个人医疗之间存在一种紧张关系。你掌握所有这些数据,它帮助你了解趋势和赋予你理解的能力。但正如佩德罗所说,你需要为个人研发药物。我希望有人能回答这个问题。这是真实存在的紧张关系?另一个问题,佩德罗提到了日本的老年人护理机器人,但是手术用机器人呢?

这对我们所学知识的内容多少有限制吗?机器人有一天真的能自己做手术吗?谢谢!

Domingos:关于第一个问题,大数据创造了什么?我不敢说这种紧张关系确有其事,但这种可能性是存在的。如果你掌握3000个数据点,你就不能完成任何个性化的医疗项目。你只能在人口层面上做些改变。当你掌握大数据时,这意味着你掌握了大量的个人信息。所以当你掌握大量数据时,你就可以开始对每个人建模了。

现在我们建立了全人类的模型。但我们希望明天的大数据有可能是你的模型,特别是她的模型。然后我们就知道适用于她的良药是什么了。我们知道什么是良药。我们知道不同的人需要运用不同的药物干预方法。尽管如此,在如何使用数据方面还存在很多问题。我认为,例如,在拥有大量数据的组织和没有数据的组织之间存在着一种紧张关系。

知识就是力量,数据就是知识。所以数据就是力量。我认为,如果你去观察事物的演变过程,你会想到我们需要大量的大数据才能实现集中---问题总会回归到谁将使用这些数据,用来做什么?有些人可能没有足够的数据。这也许是我们需要继续探索的一方面。这是一个非常令人兴奋的前沿领域。例如,达芬奇机器人是一个非常精确,非常有效的手术用机器人。

在很大程度上,这些机器人仍由人类外科医生控制。但我认为我们很快就能让机器人自己做手术了。它们有很多优点,比如它们不受我们视觉系统的限制。他们可以对手术时发生的事情进行持续的综合感知。所以我认为这是另一个存在巨大发展空间的领域。

迪克里斯汀娜:那很有趣。他们也不会累。

多明戈斯:没错,他们不会累。

迪克里斯汀娜:我想我们还有时间再问一个问题。后面那位观众。

问题:考虑到目前美国处方药价格极其昂贵的问题,我有两方面的困惑。首先,如此高的药品价格,研发费用占多大比重呢?其次,需要投入多少时间和金钱才能让人工智能至少能够像人类一样研发这些药物?

萨利亚:我认为在研发方面我们已经作了相当程度的努力,就像佩德罗之前提到的,发明新药,寻找现有药物的新的适应症。就是利用现有病人的详细的数据记录,看看人们对药物的反应,所有的新数据都收集在实验室的盘子里,用来测量可能的新药或候选药物。

所以我认为人工智能一定会加快药物研发的完成,同时未来十年在这一领域我们会看到很多活动。

Hepp:人们普遍认为,研发是药品价格背后的一个重要因素,但我对此并不了解。

多明戈斯:让我来回答这个问题。在药品研发过程中,哪里需要投入巨大成本?其巨大成本实际上并未耗费在研发新药。只有当你即将使用的药物的应用前景足够大时,它们才会被用于人体试验。而且人体试验的费用非常昂贵。通常需要耗资数十亿美元,而且需要很多年才能成功,并且药物通常会失效。

这确实是导致药品价格上涨的最主要原因。现在,幸运的是,机器学习真正派上了用场,其用处就是当一种新的候选药物被生产出来时,你可以借助机器预测这种药物是否会有有害的副作用。这样你就可以淘汰掉很多不符合的候选药物。

在某种程度上,令人感到讽刺的是,在机器学习中,最大的作用不一定是发明新药,而是在这些药物产生成本之前,淘汰那些将会付出巨大代价却试验失败的药物。因此,我认为这一领域已经展现出预示着希望的良好迹象。这已经开始出现了。

迪克里斯汀娜:我想请大家和我一起感谢演讲者们精彩的讨论。(掌声)感谢你们的到来。谢谢你们!

米尔斯基:今天这一集到这里就结束了。想了解更多信息请访问我们的科学新闻网站:www.scientificamerican.com。或者您也可以在我们的播客档案中找到可持续能源“山上的科学”讲习会。如果您在Twitter上关注我们,每当网站上推出新项目,您就会收到一条tweet。我们的推特账号是@sciam。我是史蒂夫·米尔斯基。谢谢您的点击收看。

0 条评论
评论不能为空