欧宝平台登录:既防止数据霸权又保护数据、隐私

发布时间: 2022-09-21 22:13:13 来源:欧宝体育直播nba 作者:欧宝体育手机版app直播

  “虽然我们现在可能面临很多(人工智能安全)的问题,但只要我们能够用防火墙或各种方式把攻击门槛抬高,让攻击者无利可图,人工智能系统就会安全。”9月16日,清华大学教授、人工智能研究院基础理论研究中心主任朱军在首届人工智能安全大赛颁奖仪式暨主体技术论坛上说。论坛上,多位专家围绕人工智能安全和治理展开热议。有专家提到,人工智能边界的不确定性是其很难完美防御的原因,但只要让攻击者的付出大于期望的收益,就可以认为安全了。

  “锚定怎样的发展理念、选取怎样的技术路线,使下一代人工智能实现安全、可信、可靠的发展,将是我们这代人为未来智能世界绘制的蓝图底色。”中科院院士、清华大学人工智能研究院名誉院长张钹在致辞中说。为了应对近年来因技术局限或者恶意应用导致的人工智能安全问题,开展该领域的关键技术研究与攻防实践成为产业进一步发展的关键保障。

  据大赛主办方之一——瑞莱智慧的首席执行官田天介绍,本次大赛是首个全国性的人工智能安全赛事,选取了当前人工智能安全领域关注度最高、相关风险最为严重的人脸识别安全、自动驾驶安全、深度伪造安全作为赛题。

  “通过本次大赛的赛题设置以及所有选手的提交,我们发现人工智能安全问题具有以下三个非常典型的新的特点。”田天说,首先人工智能技术作为一项通用的普适性技术被应用在多个领域,一旦出现安全漏洞,可能影响人们日常生活的方方面面;其次技术复杂程度越来越高,人工智能安全风险往往处于黑盒状态,导致的损失也会更大;最后人工智能安全的风险维度除了公共安全、个人权益相关场景,已经拓展到国家安全、国际竞争等方面。

  在他看来,人工智能发展需要具备三大核心方面能力。一是要关注人工智能相关的数据安全问题。“为了实现人工智能的发展,我们需要在满足对隐私数据保护诉求的同时充分释放数据价值”——具体来说,就是在数据训练、建模等环节部署数据安全技术。

  二是关注人工智能的算法可靠。田天注意到,人脸识别、自动驾驶等复杂的人工智能系统算法中可能存在着大量的新型隐患或者被攻击的风险,在算法模型外部署相应的安全防护组件可以有效提升人工智能系统抵御模型窃取、对抗样本等针对算法攻击的能力。

  三是通过技管融合防止技术滥用,保证应用安全可控。“新技术是一把双刃剑”,他提醒,“我们需要避免新型技术被恶意利用,引发信息泄露、伦理困境等社会风险。”

  一直以来,“达到何种程度的人工智能才是真正的安全”都是学术界和产业界共同关注的焦点问题。当人工智能安全已经显现出新的特点,根据怎样的理论标准,才足以验证一项人工智能技术应用是否安全呢?

  “人工智能本身不是一个孤立的东西”,朱军指出,人工智能在运行环境中与基础硬件等产生的诸多交互,以及其本身动态变化的边界,使得目前难以用严格的、形式化的方法验证一个人工智能系统的安全性。

  北京邮电大学教授、网络空间安全学院副院长邓伟洪则从人工智能边界的角度提出,即使像人脸识别这么精准的人工智能技术,它的边界依然很开放,一个准确率99.9%的模型很容易就会被攻破。再比如人脸活体检测,从打印照片、三维面具发展到硅胶面具,无论采用何种算法检测活体,总有更高级别的攻击手段将其破解——“这种不确定性是人工智能很难完美防御的原因”。

  对此,朱军试图给出他的解决方法:只要能够通过防火墙等各种方式把攻击的门槛抬高,让攻击者无利可图,使得“攻击的付出大于期望的收益”,就可以说人工智能系统安全了。邓伟洪也认为,在面对不确定的人工智能时,这是“比较好的出路”。

  不过,在多位专家看来,如何把握“门槛”的高度,还有赖于坚实的理论基础。邓伟洪指出,现在解决安全问题的方法是针对特定任务甚至特定场景的,还缺乏从数学上或模型理论上的安全保障。“我们不怕模型犯错,我们怕的是犯错了也不知道出于什么原因,也不知道怎样才能让它下次不犯错”,陈健生直言。

  南都记者从会上了解到,北京航空航天大学教授、软件开发环境国家重点实验室副主任刘祥龙所在团队已经开始着手人工智能安全评测工作。他强调,人工智能应用安全问题“是研究不完的,我们现在关心的是怎么评估这类系统的安全性”。

  比如首先要生成测试的数据以及样本,包括自动驾驶、自动零售等不同类型。测试之后要分析系统安全性,从训练方法、训练技巧等角度评估不同配置生成的模型安全性如何。还要从数据段、模型段提供加固手段,以帮助模型、算法系统改善安全性。

  想要确保人工智能的安全,必然涉及人工智能的治理。今年以来,新加坡、欧盟、美国、中国等的监管机构和第三方机构纷纷发布人工智能治理测试工具箱、技术监管沙箱,推进人工智能治理的落地实施。

  华为可信AI安全解决方案专家唐文观察发现,欧盟的《人工智能法案》立法进程最快,它的关注重心在于人工智能是否会被滥用。“我们认为它(欧盟《人工智能法案》)实际是在推行负责任的AI,也就是AI治理过程中首先要求AI的参与方负责;如果你的AI系统产生了不良的后果,我能够找到你的责任人。”他认为,当人工智能系统出问题的时候如何定责,是监管方非常重要的抓手。

  反观国内,邓伟洪直言“人工智能治理是很大的问题”。他指出,人工智能已经在影响人们的生活,比如每天刷手机的时候推荐算法就在起作用,甚至影响人们的价值观。

  另一方面,他表示,以前有的隐私比如人脸信息很难获取,但现在有人利用人脸识别技术能分析出很多东西,这是之前做不到的。“有了人工智能之后,数据、隐私保护可能比以前更难了……给相关的治理带来更多的挑战。”因此,他强调,人工智能治理要做到两方面:防止数据霸权,以及数据、隐私的保护。

  “如果管理人工智能技术,其实技术本身的责任没有那么大。”朱军坦言,他把技术看作中性的东西,偏见或恶意可能来自采集过程,而不是算法或模型。他提到,现在人工智能的很多会议会要求投稿人就其提出的模型或者算法作声明,告知这个技术对社会有什么负面影响,也就是要在创造算法的时候考虑更多的社会责任,倒逼研究人员考虑最后的实际效果。比如把人脸识别用于监控的相关投稿可能就不会被会议所接收,因为可能涉及隐私。

  在他看来,人工智能还处于相对比较早期的阶段,目前还是要鼓励技术发展,所以“从技术角度不应该监管(人工智能),而是应该鼓励它,但使用时可以监管它”。

上一篇:西南区服装品牌经理巡店拜访终端商铺拍照记录实用软件实用介绍
下一篇:AI智能巡店系统怎么为门店管理降本增效

相关信息

  • 欧宝体育手机版app直播:AI智能巡店系统怎么为门店管理降本增效

    欧宝体育手机版app直播:AI智能巡店系统怎么为门店管理降本增效

      因此,不少的连锁店为了能够有效降低运营成本,提高巡店效率,开始投入费用建设一款有效的现场信息管理工具【巡店系统】。深圳商雀科技可通过远程巡店系统摄像头,让巡店、管理人员足不出户,在巡店小程序上便可以实现对线下实体门店的远程巡店管理。根据案例数据返回信息,广东某一家药房应用过商雀科技巡店系统后,有效降低巡店督导的到店巡视频次13%,成本管理上减少了人员和差旅费用的53%,提高了督导工作达标率的75%,对比传统督导巡店模式,AI智能巡店系统可减少管理者巡店次数,从而大幅度降低现场管理成本。  针对于传统督导巡店存在的问题点,商雀科技AI智能巡店系统配置有完善的巡店应用功能,借助高质量且丰富的门店音视频资源帮助连锁点开展巡检工作、商品与服务规范监管、人员考评等等的各项管理功能。
  • 欧宝体育手机版app直播:鸿星尔克式 “野性消费” 忙坏店员智慧远程巡店系统迅速协同资源调配

    欧宝体育手机版app直播:鸿星尔克式 “野性消费” 忙坏店员智慧远程巡店系统迅速协同资源调配

      自从7月份消费者针对鸿星尔克等国产爱心品牌开启“野性消费”狂潮以来,相关品牌的线下零售店门庭若市,出现部分热门款式、甚至全店售空的盛况。人流量大的区域门店,有消费者反馈现场火爆让店员分身乏术,热销款式一下子就被抢空了。但与此同时,处于地理位置相对不这么优越的零售店面,对这场消费热度感知则相对迟缓。  如何对品牌下各门店的经营管理、防损管理进行有效管理,目前多数传统零售品牌还没有建立统一、有效的管理体制,导致管理效率不高和管理效果不理想,一定程度限制了品牌持续发展的空间。因此,现阶段连锁企业(如鸿星尔克)需要面临的问题是:如何在保障运营成本的同时,通过各店高效协同,实现品牌连锁效益和消费者体验的最大化。  智能巡店系统作为连锁品牌总部管理的重要工具,帮助企业实现对各网点门店的可视化、掌握所有门店的运行状态及时发现问题、实行标准化管理、提高管理效率、帮助企业降低成本的重要作用。  通过部署在各地门店的设备资源,该系统进行数据智能统计与分析,为企业提供可视化的远程门店管理,可用于全国范围远程的视频巡店,对门店日常进行考评和门店消费者流量情况进行分析。  根据企业运营需要,智能巡店系统中零
  • 欧宝体育手机版app直播:商雀科技手机智能AI巡店系统新运营模式

    欧宝体育手机版app直播:商雀科技手机智能AI巡店系统新运营模式

      巡店管理是一座架于公司与店铺之间相互沟通的桥梁,提高公司与店铺整体营运能力,使各项运营标准与公司保持高度一致,充分利用公司资源。巡店是公司的例行工作,是督导的重要工作职责,发现问题,解决问题,是巡店工作的初衷和根本任务。  督导实地考察和跟进店铺的运作状况,确保品牌运营的标准型和一致性;发现店铺存在的问题和不足,提供改进建议和实地辅导;听取店铺员工的建议和困难,进行反馈并解决。比如员工状态不好,可能会对顾客态度不好,其中的原因可能是员工的付出没有得到公司的认同;员工的积极性不高,有可能是公司管理上出现了问题,这时要和店长沟通解决方案,促使问题的解决等。这样我们可及时发现并解决店铺存在的问题与公司管理细节上的不足,提供有效沟通平台,加强店铺与公司之间工作上的协调。  过去的督导巡店需要通过实地的巡视来帮助企业全面地了解店铺的情况,这也意味着我们的督导(巡店员)就需要经常出差,而即使这样奔波劳累到店铺的时候,企业稍微走漏风声,店长接收“视察”风声的同时,早已经将店铺装扮的无可挑剔,实则有违巡店的目的。如果这时候,企业使用AI远程手机巡店系统有哪些好处呢?  对于过去已经开展巡店活动的企
  • 欧宝体育手机版app直播:推荐几家比较靠谱的巡店系统品牌如何选择巡店系统?

    欧宝体育手机版app直播:推荐几家比较靠谱的巡店系统品牌如何选择巡店系统?

      巡店系统,一个近几年才开始兴起的名字,甚至对很多连锁行业的人来说都不太熟悉,然而巡店系统这几年却借着连锁行业的扩张浪潮席卷大江南北,在餐饮、医药、鞋服、快消等中大型连锁企业里面,巡店系统正在不断扩张。  巡店系统替代了原本的纸质巡检表,减少督导巡店的工作准备、路线规划、信息传递、复查周期、巡店报告等繁琐流程,大大提升督导巡店咨询,以前一个人每天只能巡视3-5家门店,而通过巡店系统的帮助,一天甚至能够巡视20家门店,将督导巡店效率提高8倍,与此同时,连锁企业对门店配置督导数量同比下降,人员加上差旅的费用,现在整体成本可减少70%。  以前的巡店模式由总部制定标准再到督导到达门店传递信息然后店长进行项目执行和整改,这样一来信息传递很大概率出现传递不到位或理解不到位,导致门店执行标准参差不齐,进而影响整个巡店周期。如今,在巡店系统上,直接由总部制定巡店标准和分配任务给督导,店长直接根据标准执行,督导进行监督和指导,最终反馈结果到总部。  无需人工统计和分析结果,巡店系统自动根据督导考评记录和店长自检记录生成多维度巡店报告,供以总部做决策使用,从巡店报告上可以快速找出门店运营问题,决策人根

手机扫一扫添加微信