当前所在位置:首页 > 杠杆配资网

人形机器人“狂奔”,马斯克并非杞人忧天AI安全观察①

9256

2024-06-23 【 字体:

  AI大模型疾行军,人形机器人所代表的硅基生物,行为越来越智能,恐怖谷效应也难以避免。

  据国际投行高盛预测,到2035年,人形机器人市场规模有望达到1540亿美元。

  科技巨头纷纷“用钱投票”人形机器人赛道的同时,技术的规范与安全,同样重要。

  机器人的AI革命

  3月18日,芯片巨头英伟达的GTC大会举行,这是英伟达每年最重要的技术发布平台之一,被业界公认为“AI风向标”。今年,大会的重点议题也是人形机器人。

  就在上周,Figure 01人形机器人的演示视频,在全球的社交媒体刷屏。

  Figure 01机器人根据人类发出的口头指令,完成了一系列动作:将苹果递给人类,将“垃圾”归类并放入篮子,将杯子和盘子拿起来放到沥水架上。

  除了这些连贯的动作,机器人与人类之间的对话也相当清晰流畅,虽然其言行有一定的延时,但整体表现称得上“优异”。

  这款人形机器人由Figure AI公司开发。该公司由硅谷另一位传奇人物阿德科克在2022年创立,阿德科克被称为“青春版马斯克”。创立不足两年,今年2月,Figure AI接受英伟达等公司投资时,估值已达26亿美元。

  Figure 01接入了OpenAI提供的大模型。值得注意的是,该机器人的所有行为均来自其自主学习,并不是远程操控。而Figure AI公司在3月1日才宣布与OpenAI合作,只有不足两周时间的训练。

  在这个过程中,由OpenAI提供视觉推理和语言理解,Figure 01的神经网络提供快速、低等级、灵巧的机器人动作。

  Figure 01接入OpenAI的成果,揭示了AI大模型在商业应用上的广阔前景,而且很有可能超乎想象。

  Figure AI和OpenAI均未透露该人形机器人接入的大模型是哪个版本,但可以确信的是,随着大模型能力的迅速迭代,人形机器人的思考、对话和行为也将得到大幅进化。

  就在Figure 01霸屏的几天前,一份54页的内部文件在硅谷流传,它描画的核心,是OpenAI正在开发的一个超级神秘项目,被命名为Q*(Q Star)。

  令人惊叹的是,Q*多模态大模型拥有125万亿个参数,比现有GPT-4多60倍。可供比较的是,人脑有800-1000亿个神经元、100万亿个突触。

  业界纷纷猜测,Q*多模态大模型,正是模仿人类大脑设计的。

  事实上,Q*准备走得更远。根据上述内部文件披露,OpenAI计划于2027年完成Q*训练,以GPT-7的名义发布。Q*最终面世的时候,它将相当于一个智商145的人类。

  换而言之, GPT-7将成为第一个真正具有初步自我意识的AGI模型,而且智商将高达145,超过了99%的人类。众所周知,爱因斯坦的智商是160,而拥有145智商的人物,在全球也是凤毛麟角。

  进步还是终结?

  巧合的是,与Q*项目文件泄露差不多同一天,OpenAI公布了“宫斗夺权事件”的调查报告。该报告由美国著名律师事务所WilmerHale完成。

  经过对OpenAI前董事会成员、高管及其他相关证人进行了数十次访谈、审阅文件3万余份,并评估各种公司行为之后,报告认为,前董事会解雇CEO山姆·奥特曼的决定,并非出于对产品安全、开发速度、公司财务状况或其向投资者、客户或业务合作伙伴声誉的担忧,而更多是二者之间的信任关系破裂。基于该调查报告,奥特曼“无罪”重返OpenAI董事会,并任命了来自外部的三名女性董事。

  奥特曼称得上是“完胜”,但该调查报告有意无意回避了一个重要问题,即前董事会指责奥特曼“不坦诚”。

  此外,人们还关心,现在已经离开公司的OpenAI前首席科学家、联合创始人Ilya Sutskever(伊尔亚·苏茨克维),去年11月发生内部“宫斗”时与奥特曼的重大分歧到底是指什么,是不是传闻中“伦理与商业的方向控制”?

  Q*项目文件或许揭开了谜底的一角。AI大模型初具自我意识,正是Ilya Sutskever担忧的,他要求人工智能与人类“对齐”,就是希望在商业伦理方面加强对它的控制,以确保OpenAI 不偏离其“人工智能造福全人类”的创建初衷。

  这也是马斯克长期以来的担忧。这位OpenAI前创始人之一、捐助者之一,前不久发起了一项针对OpenAI的诉讼,其所公开宣称的目的,就是让OpenAI践行“人工智能造福全人类”的初衷,而不是被微软等公司用于商业化。

  性格强悍、行事偏执的马斯克,是一位“人类至上主义者”,无论是离开OpenAI再创办自己的AI公司xAI,还是创建火箭发射公司X SPACE,都是他核心观点的外化。前者是想确保人类不被人工智能机器人控制,后者则是要为人类拓展新的星际生存空间。

  如果说Figure 01打开了大模型的商业化前景,预示着产业界祈盼多年的GAI奇点即将到来,那么,Q*项目训练中的智商145大模型则夹杂着一丝担忧,如何防止它在拥有自我意识之后失控,或者反过来伤害人类甚至役使人类,这样的想法并非杞人忧天。

  工业革命以来,尝到科技转化甜头的人类,总是期望更高更强更新的技术,从而使碳基生物在地球上能生活(统治)得更舒适、更长久。这就是为什么人们普遍希冀多模态大模型最终能导向一次产业革命的原因所在。

  科学技术本身是中立的,没有善恶之分,但商业化路径却存在邪恶与良善。如果技术被不良理念主导,可能使科技走向无法收场。而且技术越先进,对人类潜在的伤害越大,人工智能换脸只是其中极小的例子。

  不过,业界已经行动起来了。3月13日,欧洲议会高票通过了《人工智能法案》,下一步是待欧盟理事会批准。相对于管控和惩罚,这项法案更重在防范,比如要求微软、谷歌以及OpenAI等公司在发展工人智能时额外增加透明度。

  当下,人类确实期待一次新的产业革命。但技术的运行,需要严格的规则与指引,使其运行在安全轨道上,防止技术脱缰。

阅读全文
相关推荐

深圳南山6家企业上榜!《财富》首次发布中国科技50强榜单

深圳南山6家企业上榜!《财富》首次发布中国科技50强榜单
日前,《财富》杂志首次推出“《财富》中国科技50强”榜单,12家深圳企业上榜,其...

他是中共热河党组织的创建者,412反革命政变后,徒步到莫斯科寻找党组织

他是中共热河党组织的创建者,412反革命政变后,徒步到莫斯科寻找党组织
【他是中共热河党组织的创建者,412反革命政变后,徒步到莫斯科寻找党组织】192...

《理财公司理财产品销售管理暂行办法》6月27日起施行

《理财公司理财产品销售管理暂行办法》6月27日起施行
北京商报讯(记者 孟凡霞 宋亦桐)5月27日,来自银保监会官网发布的信息,《理财...

公开怒怼美加州州长,马斯克宣布旗下两家公司总部搬走

公开怒怼美加州州长,马斯克宣布旗下两家公司总部搬走
当地时间周二,世界首富马斯克又在自家社交媒体上发脾气了。 特斯拉CEO气鼓鼓地...

不爱学,没有上进心,做什么都不出色的三个星座

不爱学,没有上进心,做什么都不出色的三个星座
一个人想要让自己变得出色,变得出人头地,无论是爱学习还是上进心,都是缺一不可的。...

海印股份(000861SZ):深交所决定终止公司股票上市

海印股份(000861SZ):深交所决定终止公司股票上市
格隆汇9月6日丨海印股份(000861.SZ)公布,深交所决定终止公司股票上市。...

俄本土被入侵,为什么没有一个国家军援俄罗斯?

俄本土被入侵,为什么没有一个国家军援俄罗斯?
俄军攻闪击基辅,欧美40余国军援乌克兰。可如今,乌军闪击库尔斯克,为什么没有一个...

花旗:维持中国交通建设(01800)“中性”评级 目标价上调至52港元

花旗:维持中国交通建设(01800)“中性”评级 目标价上调至52港元
花旗发布研究报告称,维持中国交通建设(01800)“中性”评级,预计2026财年...

娃哈哈,不再姓宗了?

娃哈哈,不再姓宗了?
一、娃哈哈,以后大概率不会姓宗了!18日,宗馥莉的辞职信迅速登上热搜。相信很多小...

iPhone15Pro跌价2121元,3nm芯片+iOS 17+120Hz屏,售价更加亲民了

iPhone15Pro跌价2121元,3nm芯片+iOS 17+120Hz屏,售价更加亲民了
苹果公司作为全球最潮流的手机品牌,一直以来都以其独特的设计、高端的品质和强大的性...