马斯克「宫斗」GPT-5

马斯克「宫斗」GPT-5,作为OpenAI公司的联合创始人之一,马斯克对其态度一直较为耐人寻味。

2023年之前,恐怕谁也没想到,AI有一天能用如此速度,席卷全球。

距离ChatGPT点燃全网讨论热度不到半年,GPT-4、Microsoft 365 Copilot、Midjourney V5、文心一言、Google PaLM API等众多巨头级 AI 大模型及应用已经纷纷落地。

这些前沿科技成果在为大众带来震撼的同时,也难免让人产生担忧。一场“降临派”与“拯救派”的较量在默默展开。

近日,生命未来研究所(Future of Life)公开发布一封名为《暂停大型人工智能研究》的公开信,将这场较量放在了明面之上。公开信中呼吁,所有人工智能实验室应立即暂停比GPT-4更强大的人工智能系统的训练,为期至少6个月。

该机构在信中提到:“只有当我们确信其影响将是积极的,并且其风险是可控时,才应该开发强大的人工智能系统。这种信心必须有充分的理由,并随着系统潜在影响的大小而增加。”

“人工智能实验室和独立专家应该利用这次暂停,共同制定和实施一套共享的安全协议,用于先进的人工智能设计和开发,这些协议由独立的外部专家进行严格的审计和监督,并应确保它们是安全的。”

特斯拉和推特的首席执行官马斯克、苹果联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak、蒙特利尔学习算法研究所所长约书亚·本吉奥(Yoshua Bengio)等众多科技领域从业者和AI专家都在这封公开信上留下签名。截至发稿前,总人数已经达到1794名,并仍在持续增加。

01

马斯克与OpenAI“宫斗”始末

作为OpenAI公司的联合创始人之一,马斯克对其态度一直较为耐人寻味。过去几个月,马斯克对 OpenAI 相关信息持续轰炸,一会儿强调 AI 安全性的问题,一会儿又“阴阳” OpenAI 的代码库,而他作为*位投资者,什么都没有得到。

2015年,马斯克和阿尔特曼一起担任联合主席,当时,OpenAI的目标是“以最有可能造福整个人类的方式推进数字智能,不受产生财务回报需求的约束”。

但他在2018年离开了OpenAI的董事会,并撤销了一大笔赞助款。杂志《财富》报道称,马斯克虽然支持人工智能,但特斯拉智能驾驶技术与OpenAI之间有“潜在利益冲突”。

当时特斯拉正在为自动驾驶开发自己的人工智能,并在与OpenAI竞争人才。2022年离职的特斯拉自动驾驶主管Andrej Kapathy就是其中之一。他是 OpenAI*秀的人才之一,且是AI界著名网红,在推特和Medium上非常活跃。

但在OpenAI,大多数员工对这个故事并不买账。《Semafor》采访了八位熟悉内情的人士后发现,马斯克在2018年离开的原因是夺权失败。他认为该公司已经严重落后于Google,于是,马斯克提出了一个可能的解决方案——他来掌控OpenAI并亲自运营。然而,阿尔特曼和其他创始人拒绝了马斯克的提议。

在这场权力之争失败后,马斯克选择离开公司,并取消了一笔大规模的捐赠计划。这使得OpenAI无法支付在超级计算机上训练人工智能模型所需的巨额费用。6个月后,OpenAI从微软那里获得了10亿美元的投资,不仅是资金,还有微软提供的基础设施的专业知识。

这或许也就不难理解,为何在离开OpenAI后,马斯克就一直在批评后者,甚至矛头直指其*的支持者微软。3月16日,马斯克还在Twitter上表示,“我最早向OpenAI捐赠了1亿美元,当时它还是非营利的机构,没有所有权,也不受任何人控制。”他还抨击微软“将OpenAI占为己有”。

在越来越不可调和的矛盾面前,阿尔特曼也终于没忍住爆了粗口。在最近与科技记者卡拉·斯威舍(Kara Swisher)的播客中,阿尔特曼用“混蛋”(jerk)来形容马斯克。

有意思的是,此前阿尔特曼的名字也曾出现在公开信上。后续,经证明,此签名为虚假签名,很快被移除。

对于公开信,阿尔特曼也并未做出直接回应。但在30日早晨,他在Twitter发表了一些关于通用人工智能的观点,OpenAI的另一位创始人格雷格·布罗克曼(Greg Brockman)也转发了阿尔特曼的推文,并再次强调OpenAI的使命是“确保AGI惠及全人类”

02

都在担忧什么?

“宫斗权谋”故事总归令人兴奋,但相比于马斯克,名单上的大部分人则真正是对当前突然加速的AGI(通用人工智能)发展感到担忧——尤其是发展的速度。

在这封信的组织者之一、生命未来研究所所长马克斯·泰格马克(Max Tegmark)看来,“把这说成是一场军备竞赛是不幸的,这更像是一场自杀竞赛。谁先到达那里并不重要,它意味着人类作为一个整体可能会失去对自己命运的控制。”

更加具有争议性的一点是,在这项新技术以光速发展的同时,大型科技公司却一直在致力于裁减评估部署AI相关伦理问题的团队员工。今年1月,微软在万人级别大裁员行动中,解散了所有的伦理道德与社会团队。随后,Meta、谷歌、亚马逊和推特等公司都裁减了其“负责任的人工智能团队”(Responsible AI)的成员,这些团队负责为使用AI的消费产品提供安全建议。

颇为讽刺的是,推特的“道德人工智能(Ethical AI)”团队,也在裁员中全军覆没,彼时距离马斯克接手推特只不过刚刚两个月。

在AI发展堪称光速的当下,这么多相关员工被解雇让众多业内人士感到震惊和不解。Alphabet 旗下 DeepMind 的前伦理和政策研究员安德鲁·斯科特(Andrew Strait) 表示,“在比以往任何时候都需要这样的团队的时候,有这么多相关员工被解雇。”

“这些东西正在塑造我们的世界,”长期以来批评AI系统缺陷的企业家、学者加里·马库斯在接受采访时这样说道,“我们面临着不负责任的企业、广泛应用、监管缺失和大量未知因素引发的‘*风暴’。”

但同时,马库斯也明白,说服更广泛的科技界同意暂停是很困难的。

图灵三巨头之一杨立昆(LeCun)认为,所谓“暂停研发”,不过就是“秘密研发”罢了,这与一些签名者所希望的恰恰完全相反。

值得一提的是,此前由于竞争立场关系,杨立昆一直对ChatGPT甚至聊天机器人持反对态度,他曾直言,“ChatGPT满嘴胡诌,你们却对它如此宽容,但我家的Galactica才出来三天,就被你们骂到下线了。”

这次因为这份公开信,展露出了与OpenAI冰释前嫌的信号,也是令人啼笑皆非。

与此同时,马库斯认为,公开信中提到的“如果不暂停,应由政府强制暂停”的可能性也很小,因为立法者在监管AI方面做得很少。

昨日,美国科技伦理组织人工智能与数字政策中心(CAIDP)要求美国联邦贸易委员会(FTC)禁止 OpenAI 发布新的商业版 GPT-4,目前后者对此尚未做出回应。

加州共和党众议员杰伊·奥伯诺尔特(Jay oberolte)表示,美国政界对这项技术了解不多,“你会惊讶于我花了多少时间向我的同事解释人工智能的主要危险不会来自邪恶的机器人,它们的眼睛里会射出红色激光。”

2021年,欧盟政策制定者倒是提出了一项法律,旨在规范可能造成伤害的AI技术,包括面部识别系统。该措施预计最早将于今年通过,它要求公司对AI技术进行风险评估,以确定它们的应用将是否影响健康、安全和个人权利。

但前谷歌大脑成员、在线教育平台Coursera的创始人吴恩达在政府介入方面,表示了强烈的反对。他认为,让政府暂停他们不了解的新兴技术是反竞争的,这会树立一个可怕先例,是糟糕的创新政策。

“在推进技术发展的同时,让我们也对安全进行更多的投资,而不是扼杀进步。”吴恩达如是呼吁。

(0)
小多多的头像小多多创始人

相关推荐

  • iQOO快手强强联合:登陆快手热榜7个,直播间618大促自播GMV破亿_行业动态

    618大促刚刚过去,各大品牌正在陆续公布大促战绩。此前,iQOO在618大促期间,第三次牵手快手超级品牌日营销IP,进行多方资源的联动,聚合…” />
    <meta http-equiv="Content-Type" content="text/html; charset=utf-8

    2023年6月20日 创投
  • 曝马云减持阿里股票原因(不是因为蚂蚁集团要上市)

    中国经济周刊-经济网讯 (记者 孙冰) 7月13日消息,阿里巴巴集团在近日向美国SEC提交财年报告中披露,截至2020年7月2日,阿里巴巴创始人马云的持股比例为4.8%,持股比例首…

  • 别了,宜家城市店

    别了,宜家城市店,近年来,国内线上电商发展迅猛,线上家居消费热潮空前激增,由宜家掀起大卖场模式逐渐落伍,尽管宜家线上、线下持续发力,但收效甚微。

    2023年7月17日
  • 2003-2023,出海独立站20年简史

    2012年,夏亚(化名)在上海做谷歌的一级代理。一天,一个神秘男子推开办公室的大门,他提着一个重重的包裹,里面是一百万元的现钞。对方希望她可以把这笔钱在谷歌广告上花出去。这一幕在今天听起来匪夷所思,但在10年之前,那个出海存在巨大信息差的年代,这是隐秘角落里的日常。神秘男子经营着一家婚纱网站,出售的

    2023年9月22日
  • 四大流量巨头,带不动一个苏宁易购

    四大流量巨头,带不动一个苏宁易购,但市场就那么大,有人多吃一口,就会有人饿肚子,苏宁付出种种努力显然是不想做一个“饿死鬼”。

    2023年6月18日
  • 「平替」遍地开花,人人都想抢山姆的生意

    突然之间,山姆成了国内会员制超市的众矢之的,人人都欲取而代之。盒马“移山”一事还没结束,1688严选又推出了会员制“白牌超市”——PLUS会员店,主打品牌平替。有消息称,这一项目在内部被对标线下的山姆超市。另外,各个城市的本土版“山姆”也在不断发力。先有刚刚在北京布局第四家门店的Fudi,后有河南洛

    创投 2023年10月11日
  • 天津大爷跳水现场,专治打工人精神内耗的“6A级景区”

    当你还在踌躇到底要不要趁人少了点儿去淄博吃烧烤时,旅游先锋队们已经坐上了前往天津的高铁。最近刷十条抖音,3条常规美妆搞笑视频、3条电影《封神》,剩下4条全是天津大爷花样跳水。当然,我也不是一个人。点开评论区,观众席频频出现感慨——“我这号算是练成了,一早上七八个天津大爷跳水”。在“来得到了天津卫,嘛

    2023年8月25日 创投
  • 股市五一节休市安排(劳动节股市休市一览表)

    2022五一股市放假休市几天?五一A股几号开盘可交易呢?下面给大家介绍2022年五一A股股市休市安排及开盘时间。 2022五一股市休市安排及开盘时间 根据中国证监会《关于2021年…

  • 小红书和微博,谁在「白嫖」谁?

    小红书和微博,谁在「白嫖」谁?,但从小红书素材频频“上热搜”开始,微博自身的原创地位开始缺位。但有成熟的商业化体系“保驾护航”,微博并不像小红书那般,面临盈利的拷问。

    创投 2023年6月9日
  • 该不该,复制淄博

    该不该,复制淄博,淄博的成功,让很多老工业城市忽然明白,工业城市向“轻”转型,效果也还不错。

    创投 2023年5月11日
  • 2024年的生成式AI,到底该投什么?

    随着AI故事的演进,一个重要问题逐渐摆在了投资人面前:生成式AI到底应该投什么?想要回答这个问题,我们不妨看看移动互联网的发展历史。在很多人看来,生成式AI的机会有点像移动互联网。回顾移动互联网的发展,大概有三个关键阶段:2007 年,iPhone 1 发布,至此移动互联网开始正式启航;2010 年

    2023年12月26日
  • 播客会成为音频界的「小红书」吗?

    2022年初,当一些新消费品牌从小红书等流量池撤退,转而在播客平台试水,人们曾预测播客的“商业化元年”已至。一年后,熟悉播客的人一定不难发现,出现在播客里的品牌更多元,且更多是知名品牌了。从包括小雨伞在内的保险经济品牌,到包括乐事在内的零食品牌和包括资生堂在内的化妆品品牌,再到包括奔驰在内的汽车品牌

    创投 2023年9月22日
  • 新能源赛道风起云涌

    几天前, CleanTechnica 公布了今年1-8月的全球新能源乘用车销量数据,不出意外的是,比亚迪和特斯拉的销量遥遥*,比亚迪取得了超过170万辆的销量,不过其中包括了插电式混合动力(PHEV)车型,紧随其后的是特斯拉,接近118万辆,纯电动(BEV)车型销量则超过比亚迪。两者分别占到了全球销

    2023年10月16日 创投
  • 喜茶们“围猎”香飘飘

    来源丨伯虎新消费(ID:bohuNC) 文 | 唐伯虎 曾经凭借一句“一年卖出十几亿杯,能绕地球3圈”火爆全国的香飘飘,正如其他老牌快消品一样,面临着…

    2021年10月18日 创投
  • 北京设立200亿元医药健康产业投资基金

    投资界(ID:pedaily2012)消息,12月28号,北京市医药健康产业投资基金(有限合伙)在昌平设立,注册资本200亿元。据悉,2023年9月,北京市委市政府批准设立200亿元医药健康产业投资基金,100亿元人工智能产业投资基金、100亿元机器人产业发展基金、100亿元信息产业发展基金。北京市

    2024年1月3日