第486章 OpenAI的进展(1/4)
时间一晃,就到了2015年年底。
加州旧金山,openAI的办公室里。
气氛有些压抑。
宽敞的办公区里,满地都是揉成团的废纸、吃剩的披萨盒子,还有横七竖八丢在地上的空咖啡杯。
墙上挂着好几块巨大的白板。
上面密密麻麻写满了各种复杂的数学公式、神经网络架构图。
只不过,这些公式上面,全被红色的记号笔画了一个又一个的大叉。
伊利亚顶着两个黑眼圈,头发乱糟糟的。
他已经连续好几天没怎么合眼了。
现在,他正盯着面前的电脑屏幕,双手烦躁地在键盘上乱敲,嘴里不停地念叨着脏话。
“又崩了!
又忘了!”
“这破模型,简直就是个只有七秒记忆的金鱼!”
伊利亚气得一巴掌拍在桌子上。
办公室里其他的顶尖科学家们,一个个也都是满脸的颓废和绝望。
这几个月来,openAI的进展,完全可以用四个字来形容,那就是:惨不忍睹!
根本推不动!
他们当初信誓旦旦,要走生成式AI这条路。
要让机器去人类的海量文本,学会人类的语言逻辑。
这想法听着确实很牛。
马斯克也给他们搞来了钱,搞来了算力。
纪元公司地下的超级算力中心,对他们无限量敞开供应。
按理说,兵强马壮,粮草充足,直接开干就完了。
可是,一动手,这帮顶尖大脑就全傻眼了。
他们被一个最底层的数学逻辑给卡住了脖子。
这个逻辑的名字,叫序列。
此时全硅谷,乃至全世界的AI圈子,处理自然语言用的都是一套叫RNN的东西。
全称叫循环神经网络。
虽然又升级了一下,搞了个叫LStm的东西,叫长短期记忆网络。
但也就名字听着挺高大上。
其实说白了,原理非常死板。
它就是完全模仿人类看书的习惯。
人类怎么看书?
从左到右,一个字一个字地看,一句话一句话地读。
我看第一段,再看第二段。
这种方式,对人类来说很正常。
但是!
本章未完,请翻下一页继续阅读.........