机器学习系统或神经网络在现代社会越来越普遍

与疾病预防疫苗相同的编程技术可以保护机器学习系统免受恶意网络攻击。这项技术是由澳大利亚国家科学机构CSIRO的数字专家组开发的,最近在美国加州长滩举行的国际机器学习大会上进行了展示。

机器学习系统或神经网络在现代社会中变得越来越流行。在现代社会,它们被广泛应用于交通管理、医疗诊断和农业。它们也是自动驾驶汽车的关键部件。

它们在初始训练阶段运行,在此期间,它们被喂给给定任务的成千上万个可能的迭代。然后,产生的算法具有学习的能力——增加其自身的可能性并相应地采取行动,而无需进一步的人工输入。


【资料图】

然而,尽管它们是高效的,机器倾斜系统——像任何计算机驱动的机制一样——仍然容易受到黑客的攻击。发生这种情况的主要方式是引入“噪声”——干扰和扭曲输入信号的额外数据点——从而可能对外部元素进行错误分类。

这种方法在商业术语中被称为将“对立的例子”引入系统。通过添加噪声(通常不是很大的噪声),机器学习算法可以被误导,将熊猫图像归类为长臂猿。

更具体地说,鉴于自动驾驶汽车的兴起,它们可能会受到黑客的攻击,并被说服将停车标志归类为绿色交通灯。

使机器学习系统具有反破坏性是一个生动的研究领域。最近的研究发现,现实世界的例子很容易使用,而不是使用比智能手机摄像头更复杂的东西。

理查德诺克领导的研究人员采用的最新方法受到了公共卫生的启发。

在医学上,疫苗接种依赖于将身体免疫系统暴露于病原体(如导致流感或脊髓灰质炎的病毒)的虚弱或死亡版本的合理想法,这促进了特定抗体的发展。然后免疫系统“记住”病原体,这样下次遇到它时——完全地、真实地——它会识别它并立即消灭它。

诺克和他的同事以同样的方式处理他们的任务。

他解释说:“我们的新技术使用类似于疫苗接种的过程来防止对抗性攻击。

“我们实现对手的弱版本,例如对图像集进行微小的修改或扭曲,以创建更“困难”的训练数据集。当算法针对暴露于小剂量失真的数据进行训练时,所获得的模型更强大,并且没有对抗攻击。”

这种方法还处于早期阶段,还没有针对真正的恶意入侵尝试进行测试,但结果是有希望的。它们在这里提供的预打印纸中有详细描述。

虽然显然需要更多的测试,但目前没有证据表明接种疫苗可能导致计算机自闭症。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时候联系我们修改或删除,多谢。

标签: 上一篇:摩托罗拉One Fusion将于6月16日在印度发射下一篇:中兴Blade A3 Prime在雅虎移动上发布 售价99美元

关键词:

    快讯

    机器学习系统或神经网络在现代社会越来越普遍

    与疾病预防疫苗相同的编程技术可以保护机器学习系统免受恶意网络攻击。

    来源:互联网 23-06-24

    重庆→哈萨克斯坦→白俄罗斯 出发!渝企组团“出海”拓市场|全球短讯

    6月24日至7月1日,24家渝企组团前往哈萨克斯坦、白俄罗斯开拓市场。华

    来源:东方资讯 23-06-24

    最新!厦门2023年中考作文题出炉!

    数载拼搏,折桂今朝!厦门2023年中考今天正式拉开序幕,厦门4 77万名初

    来源:“厦门日报”微信公众号 23-06-24

    企业家名言英文_企业家名言

    1、一个坏的管理制度会把一个好的员工变成坏员工。2、——马云2、办法

    来源:互联网 23-06-24

    水印怎么做成透明的_水印怎么做

    1、电脑上要装有美图秀秀软件,打开美图秀秀,点右上角的“新建”功能

    来源:互联网 23-06-24
    返回顶部