星期日 , 12月 22 2024
首页 / 人工智能 / AI / 操纵选举、劫持无人汽车……AI的恐怖远远超出我们的想象

操纵选举、劫持无人汽车……AI的恐怖远远超出我们的想象

人工智能(AI)近年来的发展引人瞩目,但是,其中潜在的风险也引起了不少专家的担忧。

在一些专家眼里,在不久的未来,如果迅猛发展的 AI 技术被恶意使用,不仅可能制造恶意假新闻、制造网络攻击,甚至会毁坏基础设施。

在题为《恶意使用人工智能:预测、防范与缓解》的报告中,26 名来自人工智能、网络技术、安全领域的专家警告,如果不能有效管控恶意使用 AI 技术,那么在未来数年中,网络犯罪将急剧增加。

这份报告称,如果 AI 技术继续如此快速地发展,那么全球现有的数字和实体防御机制将很快对 AI 技术束手无策。

这份报告预计,在未来五到十年中,由于 AI 技术可以对人类的行为、情绪和思想有更为全面的认识,同时掌握更大规模的数据库,因此可能会制造一些难以识别真伪的假新闻在社交媒体上大肆传播,从而通过社交媒体和广告等方式来影响乃至操纵选举和其他政治事件。

在网络攻击方面,这份报告认为,借助 AI 的力量,网络犯罪分子将能够实现更精准的犯罪。此外,报告还提到,AI 技术还可能会劫持无人机和自动驾驶汽车,被劫持的无人机和自动驾驶汽车甚至可能成为武器。

之所以未来 AI 技术如果被恶意使用,会产生如此严重的后果,一个重要的原因是 AI 技术已经走进人们的日常生活。人们的行为方式都被 AI 以不同形式记录下来,形成巨大的数据库,从而为上述的精准犯罪提供可能。

这份报告的作者之一,剑桥大学危机研究中心的 Sean O hEigeartaigh 博士指出,AI 是改变规则的技术,这份报告预计了未来五到十年中可能发生的事情。他认为,如果 AI 被恶意使用,那么将会威胁人们的现实生活。

虽然没有提出具体的应对方法,但是这份报告敦促决策者和研究人员共同努力,为可能出现的 AI 被恶意使用的情况做准备,同时敦促开发者想办法避免 AI 技术被恶意使用。

在 AI 最为广泛使用的硅谷,巨头们的态度明显不同。Space X 的创始人马斯克一直担忧进展过快的 AI 技术会给人类带来威胁,但 Facebook 的 CEO 扎克伯格却对 AI 技术持乐观态度,微软的比尔 · 盖茨也对 AI 比较 ” 放心 “,认为未来 AI 技术将以更少的劳动力制造更多的产品和服务。

关于 吉运好熊

吉运好熊
清华计算机系

检查

OpenAI重磅发布o3,再次突破AI极限

OpenAI迎来了年底AI春晚 …

发表评论

邮箱地址不会被公开。 必填项已用*标注