ChatGPT之父提出新“摩尔定律” 每18个月AI运算量提升1倍

darthracer · 2023-3-12 12:27

自半导体出现，为电子产品定下重要基石，也为科技和文明带来飞跃的进步。而半导体行业有一金科玉律在近60年前由Intel创办人Gordon Moore所提出的摩尔定律Moore’s law 。时至今日， ChatGPT之父Sam Altman又持另一想法，就住AI时代提出了新版摩尔定律。

OpenAI CEO Sam Altman“ChatGPT之父”在twitter发文提出新版摩尔定律，指全球AI的运算量每隔18个月就会提升一倍。虽然内文并无详细解释，但仍有已引起不少网民留言及过千个retweet 。

回到1965年，当时身为快捷半导体工程师的Gordon Moore的文章在电子学杂志发布，文章预言每隔18个月，半导体芯片上的晶体管和电阻数量就会以倍数增长，后来被称为摩尔定律Moore’s law。后续在1975年又再提交论文，将时间间隔修正为24个月，即是每两年半导体芯片密度增加一倍，同时成本降低一半。

而ChatGPT目前正使用GPT-3 Model ，有过万亿的参数，并积累了1亿用户，每日活动超过1300万。训练阶段时总算力消耗大约3640 PF-days（即1PetaFLOP/s效率运行3640天），成本预计在每次500万美元。

未来若提升到GPT-4 Model将会有100万亿参数，但运算性能需要进一步的指数级提升。

三天帝 · 2023-4-11 13:49

感谢大佬分享

ChatGPT之父提出新“摩尔定律” 每18个月AI运算量提升1倍

浏览过的版块