AI 時代的信仰是什么
信仰是人們內心深處的信念,是推動人類前進的驅動力。AI從幾十年前的緩慢探索,到如今的飛速發展,是什么信仰在驅動這一切呢?
摩爾定律
聊起信仰,我就會想起信息時代的摩爾定律。摩爾定律是由英特爾聯合創始人戈登·摩爾在1965年提出的一個觀察性定律。
摩爾定律指出,在大規模集成電路中,可容納的晶體管數量大約每兩年會增加一倍,而計算能力也會隨之大幅提升。這一定律貫穿于整個芯片的發展歷程。
如果說是真理、公理、定理,那毫無疑問具有很大的說服力。
但是,摩爾定律是一個基于觀察和經驗的預測規律,為什么全世界都相信它呢?它為什么能引起英特爾、AMD、高通等巨頭紛紛投入大量資金、人才去發展芯片呢?
我認為這可能就是信仰的力量吧。這些芯片界的領袖,因為相信所以看見,才愿意重倉投入,才會持續推動芯片行業的發展。
一旦基于這樣的信仰產生了持續的發展,那就會演變成一種默認的確定性。確定性就會持續吸引更多的資金和人才,會產生持續的變革。
規模效應
在回到AI的發展上看,AI的飛速發展源于神經網絡的發展,神經網絡借鑒了人腦的神經元機制。
人腦的是由百萬億的神經元連接組成的龐大網絡,每個神經元都接受輸入,然后經過簡單計算,最后輸出給下一個神經元。但是簡單的神經元,被放大到了萬億級別的規模,則會產生更多的智能。
這一點,我們從生物的演化史也能看出來。
早起的地球只有單細胞,然后演化出了多細胞、低等生物、高等生物,再到人類。這個過程中,生物的神經系統也是越來越發達,智能程度也越來越高。
這就是規模效應。
AI時代的信仰
現在流行的大語言模型,是基于神經網絡訓練而來。早期的神經網絡規模不夠大,所以還沒產生智能。
隨著神經網絡的參數被放大到一個閾值,模型會產生質的飛越,突然變得聰明,擁有智能,這就是量變引起質量。
這一切的發現都要歸功于OpenAI,隨后OpenAI還提出了類似摩爾定律這種信仰級別的理念,即規模越大越好。重點是3個:
- 神經網絡的模型參數越多越好
- 訓練數據集的越大越好
- 算力越強越好
OpenAI自己也是吹起了沖鋒號,OpenAI的CEO山姆·奧特曼正在尋求巨額投資,準備建立更多的AI基礎設施和超大算力平臺。
這就是AI時代的信仰吧,這種信仰推動這一個個AI巨頭持續重倉在算力領域、大模型領域。
這一信仰將來應該也會與摩爾定律一樣,持續推動科技的高速發展。
總結
每個時代和行業,總得有一些領袖存在信仰,正是這種信仰推動著一個又一個高科技的發展!
AI時代的信仰就是規模效應,無限去追求 模型參數、訓練數據集、算力。