澳门银河网游|app下载

  • 亚历山大madry

    亚历山大madry

    图片:伊恩麦克利伦

    全屏

“做机器学习正确的方式”

亚历山大madry

教授亚历山大madry着力打造的机器学习模型,更可靠,易于理解和强大。


记者联系

艾比abaz要么ius
电子邮件: abbya@mit.edu
电话:617-253-2709
澳门银河网游app新闻办公室

媒体资源

1张图片下载

媒体访问

媒体只能从本网站的桌面版本下载。

澳门银河网游app的计算机科学家亚历山大·madry工作是由一个核心任务推波助澜:“做机器学习的正确方法。”

madry的研究中心在很大程度上使机器学习 - 一种人工智能 - 更准确,高效,和强大的防错。在他的课堂内外,他也担心伦理计算的问题,当我们接近一个时代,人工智能将会对社会的许多部门很大的影响。

“我希望社会能够真正拥抱机器学习,说:” madry,电气工程和计算机科学系最近终身教授。 “要做到这一点,我们需要弄清楚如何培养模式,安全,可靠,并在某种程度上,他们理解人们可以使用。”

有趣的是,他与机器学习的历史可以追溯到只有一两年,工作后不久,他在那个时候2015年加入澳门银河网游app,他的研究小组发表了多篇论文的关键证明某些模型可以很容易地欺骗,产生不准确的结果 - 和展示如何使它们更加健壮。

最终,他的目标是让人类每个模型的决定更可解释的,所以研究人员可以窥视里面看到那里的东西去出差错。同时,他希望让非专家在,比如说现实世界中部署改进型号,帮助诊断疾病或控制的无人驾驶汽车。

“它不只是试图破解打开机器学习的黑盒子。我想打开它,看看它是如何工作的,并包装好备份,使人们可以使用它,而无需了解正在发生的事情里面,”他说。

对于算法的爱

madry出生在波兰Wroclaw,在那里他参加弗罗茨瓦夫大学在2000年代中期的本科生。而他窝藏在计算机科学和物理学的兴趣,“其实我从来没有想过我会成为一名科学家,”他说。

一个狂热的游戏玩家的视频,madry最初就读于计算机科学与程序编写自己的游戏的意图。但在理论计算机科学的一些类加入的朋友,特别是,算法理论,他爱上了材料。算法理论的目的是找到解决的计算问题,这需要攻坚克难的数学问题有效的优化程序。 “我意识到我喜欢深入思考的东西,并试图弄明白,说:” madry,谁结束了在物理和计算机科学双专业。

当它来到钻研更深的在读研究生的算法,他去了他的第一选择:澳门银河网游app。在这里,他曾两米歇尔X下。 goemans,谁是在应用数学和算法优化,乔纳森的重要人物。 kelner,谁刚刚来到澳门银河网游app的青年教师在该领域工作。他的博士论文,madry开发的解决了图形算法的一些长期存在的问题,赢得了2011年乔治·米的算法。 sprowls最好澳门银河网游app的博士论文获得计算机科学博士学位论文奖。

他的博士学位后,在madry技术洛桑的瑞士联邦理工学院度过了一年作为微软研究院新英格兰的博士后,上课前三年 - “澳门银河网游app的瑞士版”,这madry电话但他的母校不停地打电话给他回:“澳门银河网游app的惊心动魄的能量我失踪。它在我的DNA“。

越来越对抗性

在加入澳门银河网游app后不久,madry发现自己在一个新的科学风靡起来:机器学习。特别是,他专注于理解深度学习的重新出现的范例。这是一个人工智能应用程序,使用多个计算层,以从原料中提取输入高级特征 - 诸如使用像素级数据进行分类的图像。澳门银河网游app的校园里,在当时,与域中新的创新嗡嗡声。

但恳求问题:是机器学习都是炒作或固体科学? “它似乎工作,但没有人真正了解如何以及为什么,” madry说。

在回答这个问题设定一个漫长的旅程他的研究小组,在实验深学习模型后进行实验,了解基本原则。在这个旅程中的一个重要里程碑是他们在2018年发表的论文中,开发制作机器学习模型,更耐的方法“对抗的例子。”对抗性实例是轻微扰动是察觉不到的人类输入数据 - 诸如改变一个象素的颜色的图像中 - 但是导致模型做出的不准确预测。他们照亮的现有机器学习工具的一大缺憾。

继续这条作业线,madry的研究小组发现,这些神秘的敌对实例的存在可能会导致机器学习模型如何做决定。特别是,车型设计的,比如说分化图片,猫,狗,做出决策依据不以人们如何做出分类排列的功能。简单地改变这些功能可以使模型始终错误分类猫狗,不改变这真的对人类有意义的图像中任何东西。

结果表明,某些型号 - 这可以用来,比如说,在路上识别异常的医学图像或帮助自主汽车识别物体 - 不完全达到标准。 “人们通常认为这些模型是超人,但他们并没有真正解决我们打算他们解决分类问题,” madry说。 “和他们对抗的例子完整的漏洞是这一事实的体现。这是一次大开眼界的发现“。

这就是为什么madry旨在使机器学习模型的详细解释人类。新车型他发达展示了如何在图像要特定像素的系统训练上会影响系统的预测。然后研究人员可以调整模型集中于像素簇与识别的特征更多的密切相关 - 例如检测动物的鼻子,耳朵和尾巴。最终,这将有助于使模型更像人一样 - 或“superhumanlike” - 在他们的决定。推进这项工作的,madry和他的同事们最近成立了 MIT中心部署的机器学习内的合作研究工作 澳门银河网游app追求情报 那正在致力于建设机器学习工具准备实际部署。 

“我们希望机器学习不只是作为一个玩具,但东西,你可以,比方说使用中,自主轿车,或保健。现在,我们不明白,足有足够的信心,它为那些关键应用,” madry说。

塑造教育和政策

madry意见人工智能和决策(“AI + d”是三选一 新的学术单位 在电气工程和计算机科学)的部门“计算该公司将不得不对社会影响最大的界面。”

在这方面,他会确保他的学生接触到计算的人的方面。在某种程度上,意味着您需要考虑什么,他们正在建设的后果。经常,他说,学生们将在创造新的技术过于雄心勃勃,但他们并没有通过对个人和社会的潜在后果想。 “建设一些很酷的东西是不是一个好足够的理由建立的东西,” madry说。 “它是关于想着不是我们是否能够建立的东西,但如果我们要建立的东西。”

madry也一直从事有关法律和政策,以帮助监管谈话机器学习。这些讨论的观点,他说,是为了更好地了解成本和社会发动的机器学习技术的好处。

“有时候我们高估了机器学习的动力,以为这将是我们的救星。有时候我们低估了它可能对社会的成本,” madry说。 “做机器学习的权利,还是有很多仍留弄清楚。”


话题: 计算机科学与技术, 算法, 人工智能, 机器学习, 计算机视觉, 技术与社会, 学院, 轮廓, 计算机科学和人工智能实验室(CSAIL), Electrical Engineering & Computer Science (eecs), 工程学院, 计算的澳门银河网游app施瓦茨曼, 追求智慧

回到顶端