特邀报告

特邀报告 3 :

人工智能伦理与机器学习的公平性

报告摘要：

随着人工智能的迅猛发展和广泛应用，人工智能伦理问题显得格外突出。人工智能伦理问题已经不再是一小部分哲学家关心的研究课题，而是每一位人工智能研究人员都必需面对的实际问题。人工智能发展带来的伦理问题，包括公平性、透明性、隐私性、安全性、可靠性、负责任、可持续性，等等，已经不能不被每一位人工智能研究人员所重视。但是，绝大多数人工智能研究人员不是伦理专家，也没有大量时间去攻读伦理方面的书籍与论文。这个报告的第一部分从一个人工智能研究人员的角度出发，简要介绍一下人工智能伦理的来龙去脉和目前大家关心的主要问题。希望这个介绍能成为一个了解人工智能伦理的“最小集”，也就是每一位人工智能研究人员都应该知道的最基本的概念与当前的伦理挑战。面对这些挑战的途径有各种各样，包括技术途径、管理途径和法律途径。这个报告的第二部分仍然是从一个人工智能研究人员的角度出发，探讨如何通过技术手段来协助解决人工智能中的部分伦理问题。具体地说，这个报告的第二部分介绍如何利用多目标演化算法来提高机器学习的公平性。希望通过这个例子能激发更多的研究人员利用自己的专长协助解决人工智能中的部分伦理问题。

本报告的主要内容来自于下列近期论文：

[1] C. Huang, Z. Zhang, B. Mao and X. Yao, “An Overview of Artificial Intelligence Ethics.”IEEE Transactions on Artificial Intelligence, 2022. doi: 10.1109/TAI.2022.3194503.

[2] Q. Zhang, J. Liu, Z. Zhang, J. Wen, B. Mao and X. Yao, "Mitigating Unfairness via Evolutionary Multi-objective Ensemble Learning," in IEEE Transactions on Evolutionary Computation, 2022, doi: 10.1109/TEVC.2022.3209544.

姚新是南方科技大学计算机系讲席教授、系主任和南方科技大学斯发基斯可信自主系统研究院执行院长。其主要研究领域包括演化计算、智能优化、机器学习等。他曾获 2012 英国皇家学会沃尔夫森优秀研究奖；2013 IEEE 计算智能学会演化计算先驱奖（首位华人获奖者）和 2020 IEEE Frank Rosenblatt奖（首位华人获奖者）。他是国家级人才专家、教育部重大人才项目专家、IEEE Fellow，曾获国自然海外杰出青年基金资助。他曾任2003-08的IEEE Transactions on Evolutionary Computation主编和2014-15的IEEE 计算智能学会主席。