大概也只有马斯克敢了。
用微软论文当证据,起诉OpenAI。
一年前微软研究院发表的论文《Sparks of AGI:Early experiments with GPT-4》,现在成为了马斯克起诉书中的关键角色。
这篇论文通过分析早期GPT-4的能力,认为GPT-4可以被视为 早期AGI 。
去年论文发表时就引发不小关注,1年时间里被引次数已经高达次。
马斯克的起诉书里写道,微软自己的科学家自己都承认了。
这么看,OpenAI最新的一通回应不是**自己打脸?
还真不一定。
这篇《Sparks of AGI》当初爆火确实不假,但其中很大一部分热度来自 争议 。
不少人觉得它不够严谨、在炒热度,而且这篇论文没有经过同行评议,只是上传到了arxiv,结果也无法复现。
所以这篇论文到底说了啥?马斯克凭啥敢拿它大做文章?
论文说了啥?
这篇论文主要测试了GPT-4在2022年秋季的一个早期版本。
研究提出,GPT-4不仅掌握语言能力,而且能解决复杂新奇的问题,任务可以跨数学、编码、医学、法律、视觉等。
在这些任务中,GPT-4的表现接近于人类水平,大大超越以往LLM性能,比如ChatGPT。
由此,研究给出了关键性结论:
在此基础上,研究团队还进一步探讨了真正意义上的AGI应该具备哪些要素。
论文全篇超过150页,分别测试了GPT-4的多模态、代码、数学、常识等能力,通过大量实例得出结论。
以测试代码能力为例,GPT-4和ChatGPT会得到同样的提示词,研究人员将会对回答结果进行分析。
GPT-4的一些数据结果非常值得关注。
比如在零样本下,GPT-4代码能力在HumanEval上的精度达到82%。
再比如在现实问题问答中,GPT-4的表现也远好于ChatGPT。
研究还讨论了GPT-4基于自回归架构表现出的局限性。
比如模型本身具备相应的知识能力,但是却会回答错问题,因为预测下一个token的机制使得模型不能进行“内心对话”。
最后,论文作者还提出了对AGI的一系列构想。
这篇论文发表于GPT-4面世的一周后,当时引发业界巨大关注。
“AGI的闪现”让不少人感叹,一切都结束了。
但质疑也不少,很多人觉得这个结论是不是有点夸大其词了?
而且研究团队承认使用的一些测试方法不够科学严谨,他们主要是想展示GPT-4卓越的能力。
不过可以肯定的是,这篇论文成功把GPT-4和AGI强关联,给GPT-4创造了更多讨论热度,也成为AGI讨论热潮的重要推力。
可是谁又能想得到,它现在倒成为马斯克起诉OpenAI的关键了。
马斯克到底想干啥?
马斯克搞事,总是醉翁之意不在酒。
去年他和千名大佬共同呼吁暂停开发AI半年,结果转头自己囤卡、开搞大模型,火速成立AI初创公司xAI。
今年起诉OpenAI,核心的目的就是督促其开源。
号称GPT-4是AGI也是给OpenAI上道德压力。一方面要求他们开源,另一方面提出“AGI算法不应该授权给微软”。
所以有人合理怀疑,这场官司“会让一切减速”。
与此同时,马斯克的Grok也还在稳步推进中,目前已发布Grok-2。
值得一提的是,去年OpenAI宫斗前后,马斯克曾在一场访谈中表示,从现在(23年12月)算起, AGI还有不到3年 。
当时他还表示觉得山姆·奥特曼很复杂。
目前,OpenAI方面除了否认GPT-4是AGI外,还没有更多回应。
有法律专家认为,马斯克列出的一系列观点,很难当成明确的条款来执行。“诉讼可能比较牵强”,但是提出了“强有力的政策论点”。
有圈内大V还觉得马斯克这么干,有点吃不到葡萄说葡萄酸。
马库斯则调侃说,马斯克这么做逼得OpenAI不得不承认自己没达到AGI,但是可以找第三方来承认。