寂默心流 » 2023-06-06 20:03
近一个月来GPT的新闻慢慢少了起来,据说股价也降了。但我近两天却发现从GPT的表现看它的算法可能和实际人类大脑的运作机制有接近之处。具体说有两点:
1、GPT是接受预先大规模训练后进行的按概率大小进行优化的词语接龙。我们的大脑也是,下图是9年前的14年轰动过一阵的:
可见,大脑在扫描了很多词以后,就按之前的学习内容、生活经历、认知水平和集体潜意识等对资料的内容进行了脑补,它不是严格按顺序一个个词接龙,而整个句子,整段地接龙,也就是所谓的整体认读,这和GPT的方式类似。
2、GPT有一个广为人诟病的硬伤,那就是它会一本正经地胡说八道。最近有个律师团体利用GPT写辩词做辩护,没想到里面有三个看似完全没毛病的案例是它杜撰的,是彻头彻尾的编造,虽然很贴切但完全没有意义,就像苏轼在殿试时杜撰的尧帝的段子一样,很精彩,也帮他得到了主考官欧阳修的欣赏,但确实假得不能再假一样。但GPT编的东西再假,里面的元素还是真实存在过的,它做不到从基础概念上就凭空想象。人的大脑亦然。我们做的梦可以非常逼真,非常精彩,就像庄周梦蝶,但这些全是从我们过去的认知和白天的心理活动中组合出来的,整体上是假的,也是一本正经地胡说八道。按理说睡梦中应该天马行空,创造力惊人,应该有很多原始创新,结果恰恰相反,我们的梦里面没有一个元素是本来不存在的,这和GPT编的假段子是一个层次。我们真正的原始创新都是在醒着时刻意推理或灵感闪现的结果。
另外,神经元网络的设计看似很粗糙简陋,有点儿生拉硬凑的意思,但它确实就实现了类似人类大脑的学习功能,而且同样也展现了过程细节不可解析的特点,并且在规模到了一定程度还可以拥有涌现的能力,这些和人类大脑很像。所以,AI可能真的要登堂入室了。