人工智能领军企业警告快速发展带来风险,主要科技股下跌
周一早盘,多家大型科技公司股价下跌,此前人工智能领域的高管警告称,安全风险日益增加,并敦促业界以更为稳健的步伐推进人工智能模型能力的发展。 Anthropic 首席执行官 Dario Amodei 周六在其个人网站上发表文章,呼吁业界放慢人工智能模型能力发展的步伐。他表示,应对这项技术的风险需要更加谨慎,能力的提升速度应该让风险防范措施有时间跟上。 Amodei 指出:“自今年夏天以来,人工智能的发展速度急剧加快,这主要是由于人工智能构建下一代人工智能的能力日益增强。如果不加以控制,它的发展速度可能会超过我们理解和控制这些系统的能力,因此,如果一定要发展人工智能,就必须非常谨慎。” 英伟达 (NVDA)、AMD、美光科技 (MU)、闪迪 (SNDK)、英特尔 (INTC) 和高通 (QCOM) 的股价在最近的盘前交易中均呈下跌趋势。包括微软 (MSFT)、Alphabet (GOOG, GOOGL)、亚马逊 (AMZN) 和 Meta Platforms (META) 在内的几家在人工智能基础设施领域投入巨资的大型科技公司股价也出现下跌。 OpenAI 首席执行官 Sam Altman 支持 Amodei 的观点。Altman 在周六发表于 X 的一篇文章中表示:“我同意 Dario 的看法,我们需要引领前沿发展。” Altman 在另一篇发表于 X 的文章中写道:“我们可能会失去对未来的控制权,拱手让给人工智能。”他解释了人工智能发展可能带来的负面后果。“这是不可接受的;我们坚定地站在人类一边,人工智能必须始终服务于人类。为了确保这一点,我们需要采取措施,确保模型能力的提升能够跟上其发展步伐,并保证其一致性和安全技术始终领先于人工智能的发展。” 特斯拉 (TSLA) 和 SpaceX (SPCX) 首席执行官 Elon Musk 也赞同 Amodei 的观点,他在 X 上写道:“Dario 说得对。” Altman 在周末接受《财富》杂志采访时表示,由于对人工智能安全的担忧,OpenAI 今年不会上市。今年早些时候,OpenAI 和 Anthropic 秘密提交了在美国进行首次公开募股 (IPO) 的申请。 Amodei 提出了一项三步计划,旨在缓和人工智能的发展,同时“不牺牲商业优势或美国在人工智能领域的领先地位”。该计划呼吁在领先的人工智能公司内部设立独立评估人员,在整个行业内建立通用的安全标准,并协调世界各国政府之间的安全保障措施。 与此同时,唐纳德·特朗普总统周日驳斥了有关人工智能风险的担忧。据路透社报道,特朗普告诉记者:“我认为有很多非常负面的势力在炒作这个问题,他们不应该炒作这个问题,他们炒作的事情根本不会发生。” 据报道,特朗普还表示,美国在人工智能行业“领先于中国”,他希望“保持这种局面,因为谁赢了人工智能,谁就赢了。” 上个月,网络安全公司 CrowdStrike (CRWD) 上调了其全年新增年度经常性收入 (ARR) 预期,原因是市场对应对人工智能风险的解决方案的需求不断增长。 Palo Alto Networks (PANW) 首席执行官 Nikesh Arora 在本月初的财报电话会议上表示,他预计人工智能带来的利好因素将在未来进一步推动网络安全需求。 上周,人工智能研究员 Jacob Coxon 宣布离开公司,并警告称,领先的人工智能开发商正在竞相构建他们可能无法控制的自我改进系统,这加剧了人们对人工智能安全性的担忧。