让人细思极恐!人工智能疑似学会操控人类行为,成功率达70%
提到人工智能,很多人都对它表示担忧,比方说走在人类发展前沿的霍金、马斯克,都认为人类不应该大力发展人工智能,担心日后科幻片中的场景会变成现实,人类发展人工智能,最后反而被人工智能打败。
- 作者:奇点使者来源:今日头条|2021-02-23 15:36
提到人工智能,很多人都对它表示担忧,比方说走在人类发展前沿的霍金、马斯克,都认为人类不应该大力发展人工智能,担心日后科幻片中的场景会变成现实,人类发展人工智能,最后反而被人工智能打败。
真的会这样吗?近日,一个对于人工智能的新研究,再次让这个问题走上了“风口浪尖”,研究者发现,人工智能已经学会了寻找人类的弱点、发现人类的习惯规律,从而对人类进行操控,而在实验中,人工智能控制人类的成功率,更是一度达到了70%。

人工智能已经学会操控人类行为
来自澳大利亚的科学家团队,进行了相关的实验,发现人工智能在实验中,可以根据人类的漏洞,来总结出人类的规律,最终实现操控人类,引导人类做出选择,而不是让人类自主去进行选择。
在第一个实验中,人类的参与者和人工智能一起来玩游戏,人工智能的设定,是它可以学习人类参与者的选择模式,然后从中找出规律。最终,在选择红色还是蓝色的问题上,人工智能已经可以提前得知人类参与者要选择什么了,并且有意去在游戏的过程中,引导人类参与者进行不一样的选择。
第二个实验也太同样是一个小游戏,在游戏的过程中,人类参与者可以在屏幕中看到不同的符号,不过,这些符号中,只有橙色三角形才可以被选择。在这个实验中,人工智能的出现,让人类参与者犯错的概率不断提升,打乱了人类参与者的思维。
第三个实验就更有趣了,当然,这个实验也更加细思极恐。在这个实验中,人类参与者和人工智能,开始了一场“角色扮演”的游戏,人类参与者扮演的投资者,需要和人工智能合作,通过每轮的收益,决定自己下一轮的投资比率。
而在这个实验中,人工智能为了让自己获得更多的资金,在熟悉了人类参与者的习惯等之后,开始有意对其进行操控,最终结果显示,每轮游戏中,人类参与者都会根据人工智能的引导而做出选择。
虽然看起来不过是三个小游戏,但事实上,这里面却包含着很多的问题:处于初级起步阶段的人工智能,就已经可以对人类进行操控了,那么,未来的人工智能如果真的发展到高级人工智能的阶段,人类真的可以确信自己,不会受到人工智能的影响吗?
人工智能会打败人类吗?
事实上,人工智能之所以可以操控人类,都是因为在过程中,它们对人类的了解更充分,更加直白一点来说,就是人工智能通过大数据分析,从而掌握了人类的习惯规律。
所以,有研究者认为,只需要人类在人工智能收集数据的时候进行控制,或许就可以避免类似的事情发生,不过,这并不容易,因为对于人工智能的开发者来说,虽然人工智能是他们研发出来的,但是对于人工智能潜在的风险和未来的走向,也都是未知的。
毕竟,没有人知道人工智能如果真的和大数据联网,最终会学会什么,这个问题也是霍金等反对者最担心的一个问题,毕竟,高级人工智能有多强大是无法想象的,很有可能要比科幻片中的“机器人”还要厉害。
当然,这个问题目前考虑,还是有点多余的,因为现阶段的人工智能,说白了不过是一群“弱智”,它们还并不算是真正意义上的人工智能。举个例子来说,就好像是南方古猿或者是能人,和现代人类之间的区别。
不过,时代在进步,人工智能领域也在不断发展,未来人类仍然是需要担忧的,毕竟可能一不小心,就会因为高级人工智能出现问题,而导致灾难的发生。
当然,早在80年前,就有研究者提出了“机器人原则”,认为在人类研发机器人的过程中,必须保证机器人不会伤害人类,同时,机器人也必须服从人类的命令。但是,这个限制真的有用吗?没有人知道。
比方说如果未来有种族歧视者,将机器人的程序设定为:杀掉除了白种人之外的所有人类,那么,在机器人识别的过程中,一场灾难也就自然会降临到人类世界之中。所以,不能说这种担心不存在,而是说,这种担心在未来很可能会出现,你认为呢?
【编辑推荐】
点赞 0
- 大家都在看
- 猜你喜欢
编辑推荐
- 24H热文
- 一周话题
- 本月获赞
- 竟能让照片人物动起来唱歌!这AI黑科技被玩坏了2019深度学习框架排行榜 (从TOP 10到TOP 3)芯片级边缘AI驱动下一代物联网2021年中国医疗人工智能产业全景图谱国家人工智能先导区增至8个,为何选中这5个城市?人工智能在登陆火星的“毅力号”火星探测器中的应用为什么说数据是人工智能的基础硅谷大厂也看「名校学历」?Reddit小哥灵魂拷问引起热议
- 2019深度学习框架排行榜 (从TOP 10到TOP 3)竟能让照片人物动起来唱歌!这AI黑科技被玩坏了2021年排名前20位的AI平台2021年的12大人工智能工具和框架芯片级边缘AI驱动下一代物联网让人细思极恐!人工智能疑似学会操控人类行为,成功率达70%人工智能和机器学习在金融科技领域的应用和发展我国多项技术赶超美国,AI、5G囊括在内,美国卡脖子越来越难
- 2019深度学习框架排行榜 (从TOP 10到TOP 3)她因重仓马斯克和比特币封神!现在分享了十大2021技术趋势人工智能与网络安全是一把双刃剑用10行Python代码进行图像识别神经网络训练中,傻傻分不清Epoch、Batch Size和迭代竟能让照片人物动起来唱歌!这AI黑科技被玩坏了关于人工智能的十二条名人名言马云:未来50%的工作都将被人工智能取代,这两行已经开始了
订阅专栏+更多
-
数据湖与数据仓库的分析实践攻略
助力现代化数据管理:数据湖与数据仓库的分析实践攻略共3章 | 创世达人6人订阅学习
-
云原生架构实践
新技术引领移动互联网进入急速赛道共3章 | KaliArch34人订阅学习
-
数据中心和VPDN网络建设案例
漫画+案例共20章 | 捷哥CCIE221人订阅学习
视频课程+更多
-
AD活动目录管理 - 理论与实战
讲师:杰森洋59657人学习过
-
kubernetes/k8s全栈技术讲解+企业级实战项目
讲师:先超30257人学习过
-
软件测试全栈系列课程
讲师:陈槐2408人学习过
专题推荐+更多
-
订阅51CTO邮刊
点击这里查看样刊

51CTO服务号

51CTO官微