科技前沿信息Dawn Song在人工智能和安全交叉点发现挑战和机遇

大家好，今日小经来聊聊一篇关于科技前沿信息：Dawn Song在人工智能和安全交叉点发现挑战和机遇的文章，现在让我们往下看看吧！

加州大学伯克利分校的Dawn Song教授 本月早些时候访问了 布朗CS，在杰出的系列讲座中发表了第37期讲座(“人工智能和安全：课程，挑战和未来方向”)。

在罗伯托·塔马西亚教授的介绍中被描述为创新者和“延续创业者” ，宋开始制造了网络攻击的历史背景，这些网络攻击的数量，财务成本和用户数量都在增加。“随着人工智能变得越来越强大，”她解释说，“黑客滥用的后果将变得更加严峻......安全可以真正帮助人工智能和人工智能需要安全。” 然后，她对两个学科交叉点的挑战做出了有条理的回应，提供了她自己研究安全和隐私保护机器学习解决方案的例子。

“系统的一个基本弱点是人类，”她说，观察后观察了一个项目概述，该项目产生了一个支持AI的聊天机器人，用于监控用户与第三方之间的通信，并识别网络钓鱼企图。她还强调了深度学习系统对对抗性示例的脆弱性，展示了攻击者如何修改交通标志以混淆自动驾驶汽车，即使没有对汽车编程有任何了解。

但是，除了悲观之外，宋还努力描绘一个机器学习不那么脆弱，保护隐私的未来。她的一个例子，再次来自她的研究，是一个智能和用户操纵的虚拟助手，在处理数据挖掘第三方(如谷歌或Facebook)时充当媒介。“这将最大化用户价值，”她说，“不是企业价值。” 最后，她看了一眼她的最新企业Oasis Labs，该公司正致力于在区块链上创建一个隐私第一的云计算平台。

演讲结束后我们采访了罗伯托，他高度评价了宋从各方面看待问题的能力：“她的演讲雄辩地汇合了人工智能制造的巨大机遇以及确保其部署和使用的主要挑战。”

随着演讲马上结束，来自观众的询问迅速提出，Song提供了有关安全硬件，AI与机器学习之间的区别以及聊天机器人对社交工程师的有效性的答案。最后一个问题，关于未来的Oasis实验室是否可以与现有的社交媒体平台合作或创建新的平台，带来的答案似乎反映了讲座的主要主题之一。面对持续的挑战，宋说，她希翼她的工作将“提供故意义的替代方案”，这将带来行为改变和安全改进。

这篇好文章是转载于：知行礼动