沈向洋续聘清华教授 首次公开课直播:打造负责任的AI

    3月5日,自2019年11月13日离开微软后,计算机视觉和图形学专家、硅谷职位最高的华人高管、微软全球执行副总裁沈向洋,通过网络视频,续聘清华大学高等研究院双聘教授。

    这是清华大学历史上第一次以视频会议的形式举行聘任仪式,校长连线发聘任书。聘任仪式的两端分别在中美两地,校长和工作人员们在位于北京的清华大学工字厅,而沈向洋博士在位于西雅图的清华大学全球创新学院(GIX)大楼127室。

    聘任仪式之后,借助网络直播平台,沈向洋教授进行了主题为Engineering Responsible AI的课程演讲。在演讲之中,他主要讲解了如何利用人工智能应对社会挑战,他认为工业界、学术界和政府应该联合起来采取行动,揭开人工智能黑盒子。

    reAI

    演讲的前半部分,沈向洋解释了explainable AI(可解释的人工智能)对于如何打造负责任的AI的重要性。“人工智能已经开始做出人类无法理解的决定了。我们需要开启人工智能的黑箱,了解AI做出决定背后的原因。”

    今天AI最大的突破就是深度学习,但是深度学习的一个最大的问题就是,出来的结果非常好,但是人们没办法解释。所以Explainable AI在接下来的AI领域探索中非常重要。沈向洋称:“今天我如果有研究生的话,我就建议他们做这个方向的工作。”

    在演讲的后半部分,沈向洋提出了“技术的偏见”问题。在训练人工智能系统时,一些社会偏见可能会导致对数据集在个人的性别、肤色和年龄假设。但在多元化的社会中,肤色、口音等各种不同的特征和差异也让我们意识到,满足所有人的不同需求是非常复杂的。

    他举了文本搜索中性别偏见的例子。研究团队利用称为“单词嵌入”的自然语言处理工具,将单词转换为向量数字的算法,以来自新闻数据或者网页数据的海量文本数据为依据,为每个单词赋予一个对应的向量数字。通过在向量坐标系中,比对常见词汇与“他”、“她”这两个性别代词之间的关联度,研究人员发现了一些明显的特征,例如“sassy(刁蛮)”、“knitting(编织)”这样的词更靠近女性,而“hero(英雄)”、“genius(天才)”更靠近男性。

    算法之所以会为这些词汇赋予性别特征,原因在于训练算法用的基准数据集通常是来自新闻和网页的数据,就存在着由语言习惯造成的“性别偏见”,算法也自然“继承”了人类对这些词汇理解的性别差异。其结果就是,当微软用试验算法,根据梅林达·盖茨的LinkedIn信息推测其职业时,得到了“教师”的判断,但人物性别换成“他”,盖茨夫人的职业就会变为“律师”。

    我们离explainable AI和完全消除技术偏见还有很长的路要走。找出对所有人都公平的处理方法需要所有人的共同努力。为此他在课上介绍了自己与微软公司总裁施博德(Brad Smith)联袂编著《计算未来:人工智能及其社会角色》中提出的“六大原则”:公平、可靠和安全、隐私和保障、包容、透明、负责。这六大原则旨在引导人工智能的跨越和运用,更好服务世界。

    在近年的科技浪潮中,沈向洋教授一直主张打造负责任的、可信赖的人工智能。他认为,我们不仅要推动技术的进步,更要认真思考可能由此带来的社会影响,以及人类将要共同面对的潜在挑战,未雨绸缪。

    沈向洋博士简历

    沈向洋,博士,1966年10月出生于江苏南京,计算机视觉和图形学专家,美国国家工程院外籍院士、英国皇家工程院外籍院士,现为清华大学高等研究院双聘教授,此前任微软公司执行副总裁。

    1980年沈向洋进入南京工学院,之后获得香港大学电机电子工程系硕士学位;

    1991年进入美国卡内基·梅隆大学攻读计算机学院机器人专业博士学位;

    1996年博士毕业后加入微软研究院;

    1999年回到北京参与创立微软中国研究院,并担任微软亚洲研究院计算组主任研究员,高级研究员;

    2004年升任第三任微软亚洲研究院院长,兼首席科学家;

    2007年升任微软全球资深副总裁;

    2013年成为微软全球执行副总裁;

    2017年当选美国国家工程院外籍院士;

    2018年当选英国皇家工程院外籍院士;

    2019年11月14日提出辞去微软公司执行副总裁的职务。

     


    <声明>
    文章仅代表作者观点,不代表智能链立场,智能链(www.zhinengl.com)也不对真实性背书。
    智能链倡导知识分享,原创和编译文章(除非另有说明)欢迎转载,转载请注明出处、作者和原文链接。
    智能链尊重知识版权,遵循行业规范,转载稿件标明出处、版权归原作者或机构所有;所转载文章和图片仅用于行业交流,如有侵权,请您联系我们删除(editor#zhinengl.com)。