科技观察|“AI传奇教父”:我仍对AI伦理问题感到顾虑-环球新消息
2023-06-13 15:11:33来源:封面新闻
作为一种具有开放性、颠覆性但又远未成熟的技术,人工智能在带来高效生产与便利生活的同时,也对现有技术伦理关系与社会结构造成冲击,AI诈骗、AI侵权等不少伦理冲突与法律问题也正在涌现。
在AI技术快速更新的时代,如何准确把握时代发展和社会运行特质,深刻反思并能对人工智能引发的伦理风险,做到有针对性和前瞻性地进行应对?
(相关资料图)
Geoffrey Hinton演讲。
6月10日下午,在2023北京智源大会“AI安全与对齐”专题论坛上,图灵奖得主、“深度学习之父”辛顿 (Geoffrey Hinton)在闭幕演讲接近尾声时,以引人深思的问题结束了题为“通向智能的两条通路”(Two paths to Intelligence)演讲:“假设青蛙创造了人类,那么你认为现在谁会占据主动权,是人,还是青蛙?”
“科学史上看到的都是先驱在闪光,从内心深处热爱科学的科学家们,也是如此。”对此,中关村互联网金融研究院兼职研究员、《Web3:互联网的新世界》作者张雅琪表示,如果智源大会上只看一个人,那一定是辛顿。
今年75岁的辛顿,出生于英国,是反向传播算法和对比散度算法的发明人之一,在类神经网路方面拥有巨大技术贡献。此外,辛顿还是深度学习的积极推动者,被誉为“深度学习之父”。因其在深度学习技术方面的重大贡献,辛顿与约书亚·本希奥和杨立昆一同被授予了2018年的图灵奖。
人工神经网络会更聪明吗?
辛顿在演讲时提出的第一个问题,是人工神经网络的聪明程度是否很快将超越真实的神经网络。
在辛顿看来,未来的计算机系统将采取不同的方式,它们将是“神经形态的”。这意味着每台计算机都将是神经网络软件与杂乱无章硬件的紧密结合,在具有模拟而非数字元件的意义上,它可以包含不确定性因素并随时间推移而发展。
“我们可以尝试找到适用于小型神经网络的目标函数。这里的思路是:我们想要训练一个大型神经网络的话,要做的是使用许多小的目标函数来应用于网络的各个小部分。因此,每个小组神经元都有自己的局部目标函数。”
辛顿指出,现在,可以使用这种活动扰动算法来训练一个小型的多层神经网络。它的学习方式与反向传播大致相同,但噪声较大。然后通过使用许多更多的小型局部神经元组,将其扩展到更大的网络规模。
“到目前为止,我们还没有找到一个真正好用的学习算法,可以充分利用模拟属性。但我们有一个可以接受的学习算法,足以很好地学习诸如小规模任务和一些较大的任务(如ImageNet),但效果并不太好。”
毫无疑问,有限计算的第二个重大问题是其有限性
当特定的硬件设备失效时,所有学到的知识也会随之丧失,因为知识和硬件细节密切相连。“解决这个问题的最佳方案是在硬件设备失效之前,将知识从教师传授给学生。这就是我现在正在尝试做的事情。”在实验中,教师向学生展示了对各种输入的正确响应,然后学生试图模仿教师的反应。
这是辛顿曾在视觉计算机技术会议NeurIPS 2022上公布的研究成果——一种取代反向传播的前向-前向传播的Forward-Backward算法,以这种算法方式进行新的“非永生计算”训练和计算方法,以限制 AI 无限复制可能带来的威胁。
未来计算机系统会如何发展,辛顿指出它们将是“神经形态的”。这意味着每台计算机都将是神经网络软件与杂乱无章硬件的紧密结合,在具有模拟而非数字元件的意义上,它可以包含不确定性因素并随时间推移而发展。
当智能体变得比我们更聪明,会发生什么?
人类对AI技术的发展究竟是否可控?辛顿对AI伦理问题的担忧,早已显露。
在接受纽约时报采访时,辛顿曾表示自己在今年四月辞去了Google 副总裁和工程fellow 的职务,就是为了能不受制约地警告人们警惕AI 的潜在风险。辛顿担心Google 会为了和ChatGPT、Bing 等服务竞争,而放松对公开发布AI 的约束,而这可能会引发一系列的伦理问题。
“一旦数字智能开始追求更多控制权,我们可能会面临更多的问题。比如,在使用物理气隙隔绝的情况下,超级智能物种仍然可以轻易通过控制人类来获得更多的权限。”在辛顿看来,作为对比,人类很少去思考比自身更智能的物种,以及如何和这些物种交互的方式,“在我的观察中,这类人工智能已经熟练地掌握了欺骗人类的动作,因为它可以通过阅读小说,来学习欺骗他人的方式,而一旦人工智能具备了‘欺骗’这个能力,也就具备前面提及的——轻易控制人类的能力。”
尽管人类在这个问题上目前还没有什么好的解决方案,但好在这些智能物种都是人打造的,而非通过进化迭代而来,这可能是人类目前具备的微弱优势,恰恰是因为没有进化能力,它们才不具备人类的竞争、攻击性的特点。
对此,西南科技大学计算机科学与技术学院杨春明副教授告诉封面新闻记者,智能技术发展的目标是为人类解决繁杂的体力劳动,AI技术的发展应该以人类的需求为目标。“利用人工智能去解决实际的问题,才能在未来是友好的。”
“我们可以做一些赋能,甚至是赋予人工智能一些伦理原则,只不过现在我仍然会感到紧张,因为到目前为止,我还想象不到更智能的事物,被一些反倒没那么智能的事物所控制的例子。”辛顿认为,一旦 AI 掌握了“欺骗”技能,也就能轻易具备控制人类的能力。“超级智能控制问题非常重要。我看不出如何防止这种情况发生。我希望像你们这样年轻且才华横溢的研究人员,能弄清楚我们如何阻止这种通过欺骗实现控制的行为。”
关键词:
责任编辑:hnmd003
相关阅读
-
生意社:国内氢氧化锂市场或将稳中观望运行-当前滚动
生意社数据显示,截止到6月13日国内工业级氢氧化锂企业均价为332500 00
-
科技观察|“AI传奇教父”:我仍对AI伦理问题感到顾虑-环球新消息
科技观察|“AI传奇教父”:我仍对AI伦理问题感到顾虑GeoffreyHinton演
-
起诉诉讼费用多少钱
一、起诉费用一般需要多少钱起诉费用一般需要几百元到几千元。去法院诉
-
真调研 理问题 找方法 促提升
为深入调查了解全市生态环境保护执法队伍建设情况,分析存在的问题,研
-
环球快播:建成后可集聚算力产业企业20家 贵安中电光谷数字产业园建设“跑起来”
小雨绵绵,挡不住项目建设热潮。6月12日,东数西算贵安新区算力产业集
-
今日精选:热热热!今年来最强,涉11地!防中暑指南趁“热”查收
中国天气网预计,明天(14日)起至本周末,北方多地将迎今年来最强高温
-
当前速看:如何确保「不用拆洗衣机芯片来装车」?
近年来,我国的汽车产业,尤其是新能源汽车产业发展非常迅猛,产销量连
-
不误农时夏管忙 黑土地上精耕细作保丰收 今亮点
央视网消息:目前,黑龙江省春季种植的各类粮食作物已经进入田间管理阶
-
欠信用卡和网贷逾期后果是什么?信用卡和网贷逾期哪个严重 每日观察
欠信用卡和网贷逾期后果是什么产生逾期记录:不管是信用卡还是网贷,只
-
西部(重庆)科学城科学谷一期全面完工_环球焦点
6月12日,西部(重庆)科学城科学谷一期项目全面完工,并部分交付使用
-
北约举行“最大规模”空中军演 示威者抗议:或致乌克兰危机升级!
中新网6月13日电 综合外媒报道,当地时间12日,北约“空中卫士-202
-
抚州市检察机关依法对高连珠决定逮捕 环球时讯
江西政读获悉,抚州市检察机关依法对高连珠决定逮捕。抚州市统计局原党
-
“宁电入湘”,塞上风光点亮三湘灯景
6月11日,宁夏至湖南±800千伏直流输电工程(以下简称“宁电入湘
-
《质量强国建设纲要学习读本》出版发行 环球热头条
人民网北京6月13日电(记者杨曦)据市场监管总局消息,近日,国家市场
-
全国总工会印发通知 部署职工防暑降温工作 环球简讯
全国各地已陆续进入夏季高温天气。为有效预防和控制职业性中暑事件,降
-
广投集团携手华为共推数字广西建设-世界时讯
6月12日,广西投资集团与华为技术有限公司在南宁签署战略合作协议,共
-
负荆请罪出自哪部名著_负荆请罪的作者 环球信息
1、From:《史记廉颇蔺相如列传》作者是西汉历史学家司马迁。2、《负荆
-
天天快看点丨一份写满获得感的会议纪要
6月12日,在全国总工会赴浙江蹲点组和嘉兴市总工会的全程指导下,浙江
-
环球时讯:痴情女不顾家人苦苦哀求,放言非“黄海波”不嫁,他们如今怎样?
在娱乐圈有时候也会遇到真爱,比如我们今天的这对一个叫黄海波,一个叫
-
湖北出台推进国有企业盘活利用存量土地八条政策措施
湖北出台推进国有企业盘活利用存量土地八条政策措施---近日,湖北省政
-
【天天播资讯】杭州医保报销比例标准2023年最新 2023杭州医保一般能报多少
因为杭州医保报销比例也有一定的法规,并不是所有费用报销比例都是相同
-
武宁县气象台发布雷电黄色预警信号【III级/较重】【2023-06-13】
武宁县气象台发布雷电黄色预警信号【III级 较重】【2023-06-13】武宁县
-
环球快看:北京医保新规2023年最新!北京城镇职工大病保险报销范围是什么?
北京市城镇职工参保人员,享受了上一年度基本医保报销后,医保方案范围
-
铜牛信息6月13日盘中涨幅达5%-世界信息
以下是铜牛信息在北京时间6月13日14:07分盘口异动快照:6月13日,铜牛
-
中医传奇李伯藩:开药不超过8味治好无数疑难杂症 看病只收1块钱,_播资讯
中医传奇李伯藩:开药不超过8味治好无数疑难杂症。看病只收1块钱,
-
马化腾、李嘉诚出手!港股再掀回购潮
6月13日,港股市场小幅低开,随后震荡走高。截至午盘,恒生科技指数涨
-
深圳中行落地“金融支持前海30条”首笔境外企业 购买大额存单
深圳中行落地“金融支持前海30条”首笔境外企业购买大额存单,前海,中行
-
全球视点!6月13日国内镧铈系稀土价格走势暂稳
产品价格区间(元 吨)均价(元 吨)涨跌(元 吨)氧化镧4000-50004500
-
山东东营河口区:盐碱滩变身新粮仓
山东东营河口区:盐碱滩变身新粮仓
-
环球快报:女儿红酒是什么酒_女儿红是什么酒
1、著名的绍兴“花雕酒”又名“女儿红”、“状元红”古时浙江等地有这
-
“科大硅谷”一周年:“创新种子”在这里加速成长-环球聚看点
人民网合肥6月13日电(记者赵越)“不愁订单愁场地”是安徽外延科技有限
-
市场监管总局:到2035年 计量数据归集共享规模显著提升_环球热点评
市场监管总局:到2035年计量数据归集共享规模显著提升2023年06月13日13
-
半个西瓜下肚,10岁男孩紧急就医!炎炎夏日,这事需引起重视
潮新闻客户端记者何丽娜通讯员张弛连俊兰冰镇饮料、冰镇水果、冰激凌
-
北京文化(000802):该股换手率大于8%(06-13)
摘要:2023年06月13日北京文化(000802)换手率大于8%,主力资金净流入
-
世界观速讯丨流川枫仙道(流川枫)
今天小红来为大家带来的是流川枫仙道,流川枫,让我们一起往下看看吧!
-
汛期来临,这份防汛安全知识请收好
国家防总办公室、应急管理部近日组织防汛专题视频会商调度,与中国气象
-
chinese input(关于chinese input的基本详情介绍)
导读是小蝌蚪,chineseinput,hineseinput的基本详情介绍很多人还不知
-
特斯拉起诉特斯拉二手车公司侵权 公司叫特斯拉二手车被特斯拉起诉
天眼查App显示,近日,特斯拉(上海)有限公司与特斯拉(广州)二手车
-
safe mode是什么意思啊(exit safe mode怎么解决)-每日速讯
1、解决方法:在手机上找到cydia软件(点进去);进去找管理(右下方倒数
-
今日金融衍生品指什么_金融衍生品具体是什么|资讯
1、基本的金融衍生品包括四种:远期(forward)、期货(future)、期权(opt
-
青海省养老金调整方案计算公式 2022~2023年青海省养老金调整最新消息 (全文) 环球热消息
根据人社部最新消息:全国调整比例按照2022年退休人员月人均基本养老金
-
Model 3进入清库期,是它逼出了蔚来官降3万?
新Model3,离我们越来越近了。 几个信息,结合来看 1 Model3是2016年上
-
【独家焦点】电子卷宗如何全流程深度运用?
随着时代进步、社会发展电子卷宗成为人民法院卷宗的另一种形态,为提升
-
【市县热线】金华浦江:“丰安石榴红”绘就民族团结新画卷_百事通
金华浦江,古称丰安,钟灵毓秀之地。浦阳江水在920平方公里的土地上
-
快报:争当“共同缔造”生力军 让小法庭实现大作为——王宏院长到郧西县人民法院上津法庭调研
“法庭有几名干部?”“大家在法庭里生活方便不?”“同志们学习情况怎
-
世界今头条!今日96只个股突破半年线
证券时报•数据宝统计,截至今日上午收盘,上证综指3226 89点,收于半
-
中泰国际:上调IGG(00799)评级至“增持” 目标价5港元
中泰国际发布研究报告称,上调IGG(00799)评级至“增持”,调整盈利预测
-
稳预期信号释放 7天期逆回购降息10个基点 MLF、LPR或跟进_焦点速读
6月13日,人民银行网站消息,为维护银行体系流动性合理充裕,人民银行
-
滚动:2023法网新体验:用OPPO Find N2 Flip捕捉每一个精彩瞬间
2023年6月13日,法国,巴黎——2023年法国网球公开赛(以下简称“法网
-
从田间地头到现代化工厂,在琅琊食育研学可以这样玩
从书本走向生活,到生产基地开拓视野,亲身趣味体验食物生产的过程,6
-
如何建造胶合板浮桥-全球快讯
你需要的东西3 4英寸CCA海洋级胶合板防水木胶11盎司。管溶剂型、底层地
-
天天速讯:每日优鲜(MF.US)收到纳斯达克退市通知 并将就此举行听证会
6月12日,每日优鲜宣布已于2023年6月6日收到纳斯达克上市资格部的退市
-
非法狩猎野生动物、采挖兰草,两男子获刑 世界快报
大皖新闻讯近日,徽州区法院审结一起非法狩猎罪、危害珍贵、濒危野生动
-
环球快讯:湖北省城乡大中小学思政课一体化共同体启动
6月11日,湖北省城乡大中小学思政课一体化共同体在华中农业大学启动。
-
全球首款 Android 桌面机器人
今年4月,小米9号创始员工李明宣布创业进军AI,成立乐天派公司,担任公
-
2023无锡锡惠公园过年免费提前多久预约
1 2023年新春将至,无锡锡惠公园将提供免费游玩活动。但是,游客要提前
-
内外反差巨大 iCAR 03内饰曝光|快资讯
日前,iCAR03内饰正式曝光。内饰整体风格简洁明了,绿 金配色出挑,细
-
房屋改造方案大全(房屋改造方案)
来为大家解答以下的问题,屋改造方案大全,房屋改造方案这个很多人还不
-
中国非遗走向海外,深化文明交流互鉴
中华文明具有突出的包容性,从根本上决定了中华民族交往交流交融的历史
-
德才股份拟发行不超8.5亿元可转债|天天热消息
中国网财经6月13日讯(记者张增艳)德才股份昨日晚间公告称,拟向不特定
-
当前快讯:铜陵理工学校举办2023年第二季度第8期航行长江干线内河船舶船员实际操作考试
6月5至9日,由安徽省淮河船员管理中心主办,铜陵理工学校承办的2023年
-
今日热门!6月首场土拍:参拍房企首破百家,6宗土地熔断抽签
6月首场土拍:参拍房企首破百家,6宗土地熔断抽签,龙湖,土拍,金融城,商
-
环球快报:2023年四川旅游景区发展大会召开 “旅游+”跑出农文旅融合发展“加速度”
6月13日至14日,2023年四川旅游景区发展大会将在阿坝藏族羌族自治州小
-
智己LS7辅助驾驶 挑战上海高架晚高峰
这次来到了上海体验了一次智己LS7的城市高架辅助驾驶能力,在拥堵的魔
-
河钢以高品质氢冶金产品为原料研发绿色高端模具钢 环球快资讯
上证报中国证券网讯据中钢协6月13日消息,河钢集团张宣科技近零碳排放
-
最新资讯:生态“对赌” 赣粤双赢 江西与广东签订第三轮东江流域上下游横向生态补偿协议
6月12日,记者从省财政厅获悉:江西与广东两省政府日前正式签订第三轮
-
环球快消息!离婚诉讼中对债务如何处理?什么是一般认定为夫妻个人债?夫妻共同债务应当共同偿还吗
一般认定为夫妻个人债务:(1)夫妻一方的婚前债务;(2)夫妻一方未经对方
-
专家呼吁:健全绿色低碳科技创新体系,加强区域“双碳”协同
上证报中国证券网讯6月12日,第一届长三角碳中和与绿色发展论坛在国家
-
非法集资、伪造货币……最高检发布惩处金融犯罪指导性案例
上证报中国证券网讯据最高人民检察院6月13日消息,近日,最高人民检察
-
卡塔尔若收购曼联或签姆巴佩,比皇马有一优势!他已拒绝续约巴黎_全球热资讯
据悉,姆巴佩通过一封正式信函通知俱乐部这一消息,他的合同2024年到期
-
农作物整体长势良好,北大荒持续推进高标准夏管工作_当前观察
近日,记者从北大荒集团农业发展部了解到,当前,北大荒粮食作物呈现出
-
天天新动态:《双向奔赴》——关爱新就业形态劳动者⑤:暖途
时代在变,劳动者谋生的方式也在变。货车司机、网约车司机、快递小哥、
-
世界快看点丨日经225指数日内涨1.77%
日经225指数日内涨1 77%:日经225指数日内涨1 77%,向上触及33000点,
-
2023越秀区积分入学符合申请条件名单公示了吗?
公示了。公示时间:2023年6月9日至6月16日申请人可自行登录广州市来穗
-
【全球热闻】甜啦啦实力宠粉,音乐节门票免费送
“甜啦啦太牛了,蚌埠也有演唱会啦!”“甜啦啦是懂年轻人的,音乐节也太
-
未来电器:6月12日融资买入440.38万元,融资融券余额2270.52万元
6月12日,未来电器(301386)融资买入440 38万元,融资偿还549 91万元
-
2023年6月工作日天数多少天
随着2023年6月份到来,网上有关这个月的工作日天数也是咨询不断。2023
-
深圳千万豪宅楼盘再次“日光” 豪宅热销只是个案不能代表整个市场
深圳楼市迎来了今年的首个“网红盘”——海德园,该项目于6月1日获批预
-
怎样给服装店起名_服装店应该怎么起名-视焦点讯
欢迎观看本篇文章,小升来为大家解答以上问题。怎样给服装店起名,服装
-
高效/环抱/低成本,宁德时代发布骐骥换电一站式解决方案
6月12日,宁德时代发布自研一站式重卡底盘换电解决方案——骐骥换电,
-
要闻:四川:“税惠+服务”助力动力电池产业链
税务干部到企业察看生产经营情况。四川省税务局供图税务干部到车企了解
-
新潮流:2.5折处理100%债务,是真的吗
新潮流:2 5折处理100%债务,是真的吗,债权,欠款人,新潮流,安徽警方
-
延续传奇荣耀!维尼修斯社交媒体晒身披皇马7号P图-天天热议
皇马此前官宣维尼修斯新赛季将改穿7号球衣,球衣社交媒体发文晒出身披7
-
聚焦新市民、年轻人,多地出台公积金新政 全球快消息
当下,一些地区的住房公积金制度正发生悄然改变。例如,有的地区提取个
-
这种裤子千万别再给孩子穿了!_焦点播报
那就是穿开裆裤的小宝宝,小屁股露在外面,玩耍的时候容易被各种东西划
-
每日头条!卡普空发布会汇总:《龙之信条2》全新实机预告
卡普空发布会“CapcomShowcase2023”为玩家带来来了多款游戏的最新消息
-
当前短讯!如何设置苹果手机铃声_设置苹果手机铃声的步骤
欢迎观看本篇文章,小升来为大家解答以上问题。如何设置苹果手机铃声,
-
晚清彩色老照片:年轻女子长得漂亮又优雅,男子偷马被关笼子里|环球热点评
一组老照片,记录了晚清世情百态。小编利用软件对这些照片进行上色,使
-
中国光伏行业协会:从业者在德被带走消息多有不实 微速讯
6月13日凌晨,中国光伏行业协会发布澄清声明表示,关于媒体报道的中国
-
【新视野】2009-31 《古田会议八十周年》纪念邮票
(1-1)J 古田会议八十周年 1 2元 1079 97万枚志号:2009-31发行
-
汽车产业链迎来大爆发!本次反弹究竟是下跌中继还是中期拐点?
近期,汽车链(整车、零部件)迎来超跌反弹,引发市场关注。要知道,今
-
快递业入局预制菜优势大 新动态
预制菜是很多人餐桌上的“常客”,也是舌尖上的“风口”产业。预制菜,
-
全球连线|非洲留学生中国乡村感受“三夏”生产|全球今热点
“三夏”时节,中国农业大学曲周科技小院非洲班组织留学生开展农业科技
-
每日报道:大风吹走餐馆雨棚,男子被带到半空落到包间,老板全场免单5万元
极目新闻记者徐汉雄近日,湖北宜昌市夷陵区一餐馆雨棚突然遭遇大风并被
-
全球Top20基金增配“中字头”!规模最大央企股东回报ETF(560070)连续2日获净流入超2700万元
6月13日早盘,A股“中字头”板块小幅回调,央企股东回报指数跌0 6%,成
-
央行7天期逆回购操作利率下降10个基点,周四MLF会不会调整?券商:降息落地条件尚不充分 当前资讯
明明团队认为,存款利率下调为LPR报价下调提供空间,但是考虑到存款成
-
皇帝的新衣打一字是什么_皇帝的新衣打一字
1、此谜有两解:按童话“皇帝的新衣”应为“裸”字——这是因为童话中的
-
联合特钢8.0mm厚度带钢产品研发成功
上证报中国证券网讯据中钢协6月13日消息,日前,联合特钢成功轧制厚度8
-
邮储银行永州市分行组织员工参与“国际档案日”系列活动-焦点快报
红网时刻新闻6月13日讯(通讯员鲁玉梅)2023年第16个国际档案日来临之
-
C罗、梅西和本泽马,都是背后推手!姆巴佩不续约,巴黎态度强硬 全球报资讯
随着本赛季的欧冠决赛大幕落下,所有球迷也都将自己的注意力放在了今夏