谷歌首席决策科学家:AI难免犯错,唯有人类可以悬崖勒马

  • 时间:
  • 浏览:1
  • 来源:大发快3_快3在线稳定计划_大发快3在线稳定计划

Cassie Kozyrkov在过去五年里在谷歌担任过各种各样的技术职务,但她现在担任着“首席决策科学家”并不是有点奇怪的职位。“决策科学是数据和行为科学的交叉学科,涉及统计学、机器学习、心理学、经济学等。

实际上,这原因分析分析着着Kozyrkov帮助谷歌推动了一有一一三个 积极的人工智能议程——机会,大概,让大伙儿 相信人工智能从不像大伙儿 宣称的没法糟糕。

焦虑

“机器人正在偷走大伙儿 的工作”,“人工智能是人类生存的最大威胁”,例如的言论已不绝如耳,尤其在过去几年里,并不是担忧变得更加明显。

人工智能对话助手渗入大伙儿 的家中,汽车和卡车自动驾驶似乎指日可待,机器可不能否在电脑游戏中打败人类,甚至创意艺术可是能幸免于人工智能的冲击。当时人面,大伙儿 也被告知枯燥重复的工作机会会成为过去。

大伙儿 对当时人在自动化世界中的未来感到焦虑和困惑,这是可不能否理解的。就让,根据Kozyrkov的说法,人工智能可是人类努力方向的延伸。

“人类的故事可是自动化的故事,”Kozyrkov表示。“人类的史诗可是要把事情做得更好——从其他同学拿起一块石头砸向另一块石头的那一刻起,机会事情可不能否做得很快。大伙儿 是一有一一三个 制造工具的物种,大伙儿 反抗苦差事。”

对人工智能潜在恐惧的原因分析分析着是大伙儿 实在它可不能否做得比人类更好,但并不是担心从不成立。Kozyrkov认为,所有工具都比人类好。理发师用剪刀理发,机会用手把头发剪出来是并不是不太理想的体验。印刷机使文本的大规模生产成为机会,其规模是人类用钢笔无法qq克隆好友 的。但笔并不是就开启了一有一一三个 充满机遇的世界。

“大伙儿 所有的工具都比人类好——这可是工具的意义所在,”Kozyrkov继续说道。“机会没法工具我能 做得更好,为有哪些要使用工具呢?机会你担心电脑的认知能力比你强,另一有一一三个 要提醒你,你的笔和纸在记忆方面比你强。我的水桶比我更擅长装水,我的计算器比我更擅长把六位数相乘。人工智能在什儿 方面也会变是没法。”

当然,大伙儿 对人工智能和自动化的潜在恐惧并完整版都是说它会比人类更擅长做事。对大伙儿 来说,真正的危险在于,任何恶意实体可不能否肆无忌惮地对大伙儿 的一举一动进行跟踪和微观管理,从而在大伙儿 身上投下反乌托邦的阴影——几乎不费任何力气就能实现一有一一三个 秘密的宏伟愿景。

什儿 的担忧与算法偏见、过低足够的监督以及最终的末日场景有关:机会某件事位于了严重且无意的错误,该为什么会么会办?

偏见

研究人员机会证明了人脸识别系统中固有的偏见,比如亚马逊的Rekognition。民主党总统候选人参议员Elizabeth Warren此前呼吁联邦机构外理算法偏见的大问题,比如美联储如何外理货币贷款歧视。

但大伙儿 对人工智能如何真正减少人类现有偏见的关注少之又少。

旧金山最近宣称,它将使用人工智能来减少对犯罪嫌疑人的偏见,例如,自动修改警方报告中的什儿 信息。

在招聘领域,风投支持的Fetcher正着手帮助企业利用人工智能寻找人才。该公司声称,人工智能还有益于将人类偏见降到最低。Fetcher通过在线渠道自动寻找潜在候选人,并使用关键字来选折 当时人机会拥有的技能,而有有哪些技能并没法列在当时人资料中。该公司将其平台宣传为消除招聘偏见的并不是简单依据,机会机会你训练一有一一三个 系统遵循一套严格的标准,只关注技能和经验,性别、种族或年龄等因素将不想被考虑在内。

Fetcher联合创始人兼首席执行官Andres Blank表示:“大伙儿 相信,大伙儿 可不能否利用技术来外理多种形式的招聘偏见,帮助公司建立更加繁杂和包容性的组织。”

但对人工智能系统性歧视的担忧,是大伙儿 工智能领域的首要议题。微软敦促美国政府监管面部识别系统,研究人员正致力于在不影响预测结果准确性的前提下,减少人工智能中的偏见。

人为因素

最重要的是,人工智能还位于相对起步阶段,大伙儿 仍在研究如何外理算法偏见等大问题。但Kozyrkov表示,人工智能所显示的偏见与现有的人类偏见是一样的——用于训练机器的数据集与用于教育人类的教科书完整版一样。

“数据集和教科书完整版都是人类作者——它们完整版都是根据人类的指令收集的,”她说。“机会你我能 的学生一本由一位怀有严重偏见的作者编写的教科书,你认为你的学生不想染上同样的偏见吗?”

当然,在现实世界中,受人尊敬的同行评审的期刊或教科书应该有足够的监督来对抗任何明显的偏见——但机会作者、大伙儿 的数据源以及鼓励学生阅读教科书的老师完整版都是同样的偏见呢?任何陷阱机会要到就让就让 才会被发现,到那时你可不能否阻止任何不良影响就太晚了。

就让,Kozyrkov夫认为,“视角的多样性”对于确保偏见最小化是必不可少的。

她说:“你对数据的关注不多,你就越有机会发现有有哪些潜在的不良案例。可是有在人工智能中,多样性是不想 拥有的。你实在不想 从不同的角度来看待和思考如何使用有有哪些例子来影响世界。”

测试

与学生考试的现实世界例如,在部署人工智能算法和机器学习模型就让 测试它们,是确保它们不想 执行设定的任务。

学是是生机会被问到大伙儿 就让 学习过的大问题,大伙儿 机会在考试中表现得非常好,但这机会是机会大伙儿 有很好的记忆力,而完整版都是对手头的科目有一有一一三个 完整版的理解。为了测试更广泛的理解能力,不想 给学生什儿 大问题,让大伙儿 不想 应用所学知识。

机器学习是在同样的前提下运行的——位于并不是被称为“过度拟合”的建模错误,在并不是错误中,一有一一三个 特定的函数与训练数据过于紧密地对齐,机会会出显误报。“电脑的记忆力真的很好,”Kozyrkov说,“可是有你真正测试大伙儿 的依据是给大伙儿 什儿 真实的新东西,大伙儿 不机会记住的。机会成功了,那可是真的成功了。”

Kozyrkov将安全有效的人工智能的四项原则与教授学是是生的四项基本原则进行了比较,基本是例如的:

  • 明智的教学目标

  • 相关和繁杂的观点

  • 精心制作的测试

  • 安全网

不过,即使是最精心设计、初衷最好的人工智能系统也机会失败或犯错——事实上,系统越好,在什儿 方面就越危险,就像学是是生一样。

“即使你的学生真的很好,大伙儿 也机会犯错误,”Kozyrkov说,“事实上,在什儿 方面,差学生比好生更危险,机会有了英语学霸,你机会习惯了大伙儿 犯错误,可是有你机会有了安全网。就让对于好生,机会你从来没法见过大伙儿 犯错误,你机会会认为大伙儿 从来没法犯过错误。这机会只会我能 花费更长的时间,就让可是灾难性的失败。”

并不是“安全网”可不能否采取多种形式,但它往往涉及建立一有一一三个 单独的系统,而完整版都是“过分信任你的英语学霸,”Kozyrkov说。在一有一一三个 例子中,一有一一三个 房主配置了他的智能摄像头和锁系统,机会它发现了一张不粉悉的面孔,就会启动它——但有点滑稽的是,它错误地将房主识别为他T恤上的蝙蝠侠形象,并拒绝他进入。

所有并不是切都指向一有一一三个 机会对大伙儿 来说显而易见但或许值得重复的观点:人工智能是其创造者的反映。就让,大伙儿 不想 集中精力实现系统和检查,以确保有有哪些构建机器的人(“教师”)是负责任的。

围绕“机器教学”的重要性,大伙儿 达成了不多的共识。微软等公司最近表示,人工智能的下一有一一三个 前沿领域将是利用人类专业人士的专业技能来训练机器学习系统,而不管专家不是具备人工智能知识或编程能力。

“是就让 让大伙儿 把重点中放机器教学上,而不仅仅是机器学习了,”Kozyrkov指出。“从不想科幻小说的花言巧语分散你对人类责任的注意力,从一结束就关注参与其中的人类。从领导者设定的目标,到工程师编写、分析师和决策者核查的数据集,再到统计学家进行的测试,再到可靠性工程师构建的安全网,所有有有哪些都所含了可是其他同学为因素。”

猜你喜欢

全球比特币谷歌搜索量最大城市TOP10:第一名竟然是它

图片版权所属:站长之家今日块讯(ChinaZ.com)6月12日消息:据Bitcoinist报道,比特币经济学家TuurDemeester发布推文否认了“比特币”谷歌搜索量最多

2020-01-21

乖仔被「洗腦」 打母稱「光復屋企」

圖:暴徒四處設路障堵路,阻礙救護車救人李偉孝曾做青少年義工,當提到現時學生暴徒年齡不斷下降,僅得十一、二歲都參與暴亂,他難過得兩度落淚。李Sir感慨政客煽動,暴力氛圍滲透到每個

2020-01-21

秀婉的江南园林,最有韵味的中国风

我能发布    发布日期:2018-06-0409:37:41核心提示:中国古建筑的美,体现在秀婉的江南园林之中▼亭台飞檐,廊桥蜿蜒▼奇石秀水,移步换景▼拱门营发名者中国古建筑

2020-01-21

如龙0真岛吾朗支线任务怎么做

更新时间:2018-08-0809:56:12来源:斗蟹游戏编辑:我还没想好如龙0真岛吾朗支线任务缘何做?还不清楚的玩家不妨来看看小编为亲戚亲戚大伙带来的如龙0真岛吾朗全支线任

2020-01-21

魔兽世界怀旧服怎么收费?国服采用点卡还是月卡收费

魔兽世界怀旧服如果 在8月27日上线,玩家们十分关心怀旧服的收费依据,是点卡收费还是月卡收费,这里当当我们来看下具体的介绍。暴雪曾表示怀旧服会有并是不是生活收费依据,即经

2020-01-21