主页 > B辉生活 >Google:我们已在开发阻止天网的防範机制! >
2020-06-07 浏览量:512 点赞:801 收藏:666
Google:我们已在开发阻止天网的防範机制!

不得不提,自从 AlphaGo 围棋 下赢李世乭 以后,人工智慧的热度一下子就爆发了开来,但有关跟「天网」或「骇客任务」一样 AI 是否会真反过来统治人类的讨论,则出现了正反两种截然不同的声音。像是 Elon Musk、Bill Gates 都十分担心真的会发生,但也有人 从技术与意识的角度 告诉大家不会发生。

但不管会不会成真,有所防範总是好的。因此打败李世乭的 Google DeepMind 自己与牛津大学就 合作发表了一篇论文 ,表示已经正在研拟对 AI 可随时「安全中断」的机制,以防止人工智慧或机器人的异常甚至有害行为。论文虽然还没有明确解释其运作原理,但表示已经创造了一个「框架」,允许现实中的人类「操作员」可以随时反覆安全中断 AI,又确保 AI 不能把「如何阻止中断」的方法学习起来。

不过他们也承认,有些系统或演算法可能无法使用这套框架机制所停止。

DeepMind 确实很清楚认知到他们所研发的人工智慧技术是有其危险性的,因此让他们的母公司 Google 成立了 AI 伦理委员会监督其进展,但这个机构由谁来管理、怎幺运作,却也一直还是一团谜。肯塔基州路易斯维尔大学独立研究者 Federico Pistono 和 Roman Yampolskiy 也认为,恶意的人工智慧系统 很可能会在缺乏监督、使用闭源代码等极为封闭的环境所创造出来的,所以要防治恶意的人工智慧,另一个根本之道可能还是确保一切发展都处在公众的视野之中。

欢迎加入「Inside」Line 官方帐号,关注最新创业、科技、网路、工作讯息
Google:我们已在开发阻止天网的防範机制!

上一篇:
下一篇:

相关文章
申博太阳城_手机版一728彩票线路|提供生活便利|便民生活服务|网站地图 菲律宾申博企业法人 申博sunbet官网充值