原文翻译：关于机器学习，我们忽视的东西

编译：ronghuaiyang

导读

新功能不是免费的。

疯狂。

现在，如果你真的去和 AI/ML 领域工作的人聊一聊，你可能会得到两种回答中的一种。要么对于 AI 可以做什么和下一个大的愿景/ NLP /强化学习问题超级兴奋，要么他们对我们这些愚蠢的人类构件的人工智能非常恐惧，相信不久人工总体智会将人类转化为一个无用的东西。在我看来，这就像今天 区的普遍分裂 —— 50%的人认为人工智能是我们的未来，50%的人认为它是我们的末日。

关于人工智能和机器学习是什么，我想提供第三种观点 —— 或许是一种更世俗的观点：为对手提供一个新的攻击面。

让我们探索一下。

新发明的黑暗面

每当一项新发明出现时，大多数人都倾向于认为这项发明带来了新的惊人的能力。但是，哪里有光明，哪里就会有阴影，因此新功能不经意间就会带来新的“漏洞”，供黑客利用。然后利用它们。

然而，大多数用户并不知道，在恶意软件或“恶意软件”市场也发生了类似的爆炸。

1989 年，Robert Morris 尝试使用 Unix sendmail，并构建了一个可以自我复制的蠕虫，然后将其发送到 internet 上。一开始只是一个简单的实验，结果变成了第一次 DoS 攻击，造成的损失估计在 10 万到 1000 万美元之间，并使整个互联 慢了好几天(当然现在是不可想象的)。随后，1989 年发生了第一次勒索软件攻击，1996 年出现了第一个 Linux 病毒(“Staog”)，1998 年出现了第一个 AOL 木马。

紧随其后的是手机恶意软件的爆炸式增长：

…vs对抗机器学习(ML 的恶意软件版本)研究论文计数：

很快，VCs 就意识到了大型 络安全将会发生什么，资本将开始流动:

• Kleiner Perkins 对 Symantec 投资 3M

• McAffee 从 Summit Partners 拿到了融资

• BitDefender 融资 7 百万美元

数百万美元的收购：

• McAffee700 万美元买了 solomon

• Symantec 同意以 787.8 亿美元购买 Axent

• 微软从 GeCAD 软件中获取杀毒技术

随着手机恶意软件的快速增长，安全玩家也出现了类似的爆炸式增长：

我吓坏了。

到 2019 年底，1/3 的企业都将部署机器学习。这是你、我、我们的朋友和亲人每天使用的所有产品的三分之一 —— 在任何知道 ML 工作原理的攻击者面前全裸。

是的，机器学习需要安全。

迈出第一步

ML 安全是一个非常新兴的领域 —— 到今天基本上还不存在。如果说我从上面的研究中学到了什么，那就是任何没有数学博士学位的人都很难弄清楚如何保证他们的 ML 的安全(现在几乎没有解决方案，只有大量的数学研究论文)。

考虑到我们的生活中有多少是要托付给算法的 —— 我认为这是我们的责任 —— 你、我和整个 ML 区的责任是确保安全不被抛在脑后。今天有很多我们可以做的来构建更健壮的 ML 模型 —— 正如我解释我的帖子逃税，中毒和隐私攻击。但更重要的是，我们需要转变思维模式——从“不惜一切代价的准确性”转向更平衡的准确性与稳健性：

—END—

英文原文： https://medium.com/@iljamoisejevs/what-everyone-forgets-about-machine-learning-974752543849

喜欢文章，点个在看