成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

26 年前的古董 Windows 98 電腦成功運行大語言模型:搭載奔騰 II 處理器、128MB 內存

系統 Windows 人工智能
一個名為 EXO Labs 的組織今日在社交媒體上發布了一段視頻,展示了一臺運行 Windows 98 系統的 26 年高齡的奔騰 II 電腦(128MB 內存)成功運行大型語言模型(LLM)的情形。

12 月 30 日消息,一個名為 EXO Labs 的組織今日在社交媒體上發布了一段視頻,展示了一臺運行 Windows 98 系統的 26 年高齡的奔騰 II 電腦(128MB 內存)成功運行大型語言模型(LLM)的情形。隨后,EXO Labs 在其博客上發表了一篇詳細文章,進一步闡述了這個項目的細節,以及其“普及人工智能”的愿景。

IT之家注意到,視頻中一臺 350MHz 的 Elonex 奔騰 II 電腦啟動 Windows 98 后,EXO Labs 運行了基于 Andrej Karpathy 的 Llama2.c 開發的定制純 C 推理引擎,并讓 LLM 生成了一個關于“Sleepy Joe”的故事。令人驚訝的是,整個過程運行流暢,故事生成速度也相當可觀。

EXO Labs 由牛津大學的研究人員和工程師組成,于今年 9 月正式對外亮相,其使命是“普及人工智能”。該組織認為,少數大型企業控制人工智能會對文化、真相以及社會其他基本方面造成負面影響。因此,EXO Labs 希望“構建開放的基礎設施,以訓練前沿模型,并使任何人都能在任何地方運行它們”,從而讓普通人也能在幾乎任何設備上訓練和運行 AI 模型。此次在 Windows 98 上運行 LLM 的壯舉,正是對這一理念的有力證明。

根據 EXO Labs 的博客文章,他們從 eBay 上購得了一臺老式 Windows 98 電腦。然而,將數據傳輸到這臺老機器上卻是一個挑戰,他們最終通過其以太網端口使用“古老的 FTP”完成了文件傳輸。

更大的挑戰在于為 Windows 98 編譯現代代碼,幸運的是他們找到了 Andrej Karpathy 的 llama2.c,這是一個“用 700 行純 C 代碼即可在 Llama 2 架構的模型上運行推理”的工具。借助這一資源以及老式的 Borland C++ 5.02 IDE 和編譯器(以及一些小的調整),EXO Labs 成功將代碼編譯成可在 Windows 98 上運行的可執行文件。他們還在 GitHub 上公開了最終代碼。

EXO Labs 的 Alex Cheema 特別感謝了 Andrej Karpathy 的代碼,并對其性能贊嘆不已,稱其在使用基于 Llama 架構的 26 萬參數 LLM 時,在 Windows 98 上實現了“每秒 35.9 個 token”的生成速度。值得一提的是,Karpathy 曾任特斯拉人工智能主管,也是 OpenAI 的創始團隊成員之一。

雖然 26 萬參數的 LLM 規模較小,但在這臺古老的 350MHz 單核電腦上運行速度相當不錯。根據 EXO Labs 的博客,使用 1500 萬參數的 LLM 時,生成速度略高于每秒 1 個 token。而使用 Llama 3.2 10 億參數模型時,速度則非常緩慢,僅為每秒 0.0093 個 token。

EXO Labs 的目標遠不止于在 Windows 98 機器上運行 LLM。他們在博客文章中進一步闡述了其對未來的展望,并希望通過 BitNet 實現人工智能的普及。

據介紹,“BitNet 是一種使用三元權重的 transformer 架構”,使用這種架構,一個 70 億參數的模型只需要 1.38GB 的存儲空間。這對于一臺 26 年前的奔騰 II 來說可能仍然有些吃力,但對于現代硬件甚至十年前的設備來說,都非常輕量級的。

EXO Labs 還強調,BitNet 是“CPU 優先”的,避免了對昂貴 GPU 的依賴。此外,據稱這種類型的模型比全精度模型效率高 50%,并且可以在單個 CPU 上以人類閱讀速度(約每秒 5 到 7 個 token)運行一個 1000 億參數的模型。

責任編輯:龐桂玉 來源: IT之家
相關推薦

2024-12-30 12:35:24

2021-10-14 08:58:23

Windows 11操作系統微軟

2023-04-10 07:28:50

Arm處理器顯卡

2020-02-11 19:09:05

MacOSAMD電腦

2009-07-02 08:50:13

微軟Windows 7操作系統

2009-06-18 08:45:04

Windows 7微軟操作系統

2019-09-25 11:20:51

微軟GeekBenchWindows Cor

2012-02-13 13:20:34

惠普臺式機

2023-04-25 10:05:56

Windows 98ChatGPT聊天機器人

2009-05-14 18:36:30

Nehalem富士通刀片服務器

2012-12-26 09:27:25

處理器古董俄羅斯

2010-03-19 16:48:09

AMD六核高頻

2009-12-21 10:55:29

Fedora 7 li

2009-12-22 15:39:56

多核處理器

2009-04-07 18:51:05

四核AMD服務器

2009-04-03 13:22:50

四核服務器AMD

2021-06-26 06:22:37

Windows 11操作系統微軟

2012-04-12 14:58:52

聯想臺式機

2025-05-09 01:00:00

大語言模型LLMGPU內存

2010-03-05 09:00:28

點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 美女黄色在线观看 | 久草精品视频 | 免费成人高清在线视频 | 美女高潮网站 | 国产成人网 | 久久久久国产精品一区 | 国产精品99久久免费观看 | 久草福利 | 精品国产欧美一区二区三区成人 | 成人在线看片 | www.嫩草| 日韩不卡在线观看 | 性高朝久久久久久久3小时 av一区二区三区四区 | 亚洲精品国产电影 | 亚洲精品国产a久久久久久 午夜影院网站 | 免费黄色的网站 | 成人午夜激情 | 一区二区三区四区视频 | 国产欧美精品一区二区 | 亚洲一区二区视频在线观看 | 毛片网在线观看 | 国产良家自拍 | 欧美日韩视频在线第一区 | 国产91精品久久久久久久网曝门 | 国产又爽又黄的视频 | 国产一区二区三区在线 | 免费骚视频| 日韩视频高清 | 久久一区 | 91高清免费 | 全部免费毛片在线播放网站 | 天天干狠狠操 | 久久久久无码国产精品一区 | 国产一区二区三区免费观看在线 | 中文字幕不卡在线观看 | 成人在线视频网址 | 欧美国产日韩精品 | 久久激情av | 日韩伦理一区二区 | 国产欧美在线视频 | 涩涩视频网站在线观看 |