成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

陶哲軒:計(jì)算機(jī)通用方法,往往比深?yuàn)W的純數(shù)學(xué)更能解決問(wèn)題

人工智能 新聞
陶哲軒強(qiáng)調(diào)了在數(shù)學(xué)應(yīng)用和問(wèn)題解決中需要找到合適的平衡點(diǎn):既不過(guò)度簡(jiǎn)化,也不過(guò)度復(fù)雜化,避免過(guò)度優(yōu)化和過(guò)度抽象導(dǎo)致的反效果。

剛剛,著名數(shù)學(xué)家陶哲軒在個(gè)人社交平臺(tái)更新的幾篇帖子,引起大家廣泛的共鳴。

陶哲軒用淺顯易懂的語(yǔ)言表達(dá)了自己對(duì)數(shù)學(xué)的理解與思考心得。 

文中談到了一個(gè)關(guān)于「度」的問(wèn)題,陶哲軒表示在設(shè)計(jì)系統(tǒng)時(shí),缺乏或者過(guò)度的數(shù)學(xué)分析可能都會(huì)適得其反,所以要適度。

有時(shí),我們不需要太過(guò)復(fù)雜精深的專(zhuān)業(yè)知識(shí),大道至簡(jiǎn)。

對(duì)于大多數(shù)任務(wù),使用一些相對(duì)簡(jiǎn)單但通用的數(shù)學(xué)方法,往往比專(zhuān)門(mén)設(shè)計(jì)的算法效果更好。

陶哲軒還提到,在純數(shù)學(xué)中,故意忽略一些直覺(jué)上看似非常重要的信息非常有幫助。

接下來(lái)是陶哲軒帖子全部?jī)?nèi)容。

掌握一點(diǎn)點(diǎn)的數(shù)學(xué)知識(shí)就能大有裨益。系統(tǒng)的設(shè)計(jì)不僅僅會(huì)因?yàn)槿狈ψ銐虻臄?shù)學(xué)分析而受到限制,同樣也可能因?yàn)檫^(guò)度的數(shù)學(xué)分析而受到阻礙。 

一個(gè)常見(jiàn)的例子是網(wǎng)絡(luò)安全中對(duì)密碼的要求。從數(shù)學(xué)上講,密碼要求越復(fù)雜(例如,規(guī)定最小長(zhǎng)度、特殊字符或不重復(fù)使用密碼),密碼就越安全。

然而,如果要求過(guò)于復(fù)雜,用戶(hù)和服務(wù)提供商可能會(huì)尋找繞過(guò)復(fù)雜要求的方法,比如尋找簡(jiǎn)單的密碼重置或恢復(fù)方式,或者將密碼存儲(chǔ)在不安全的系統(tǒng)中。這些做法反而可能降低整體系統(tǒng)的安全性,而不是提升它。 

另一方面,只對(duì)單一指標(biāo)(如用戶(hù)使用密碼直接登錄系統(tǒng))進(jìn)行過(guò)度優(yōu)化,可能會(huì)損害更廣泛的目標(biāo)。就如古德哈特定律(Goodhart's law)中所說(shuō)的,「當(dāng)壓力施于其上以進(jìn)行控制時(shí),任何觀(guān)測(cè)到的統(tǒng)計(jì)恒性都傾向消散。」

粗略的講,在設(shè)計(jì)安全性時(shí),直接輸入方式的安全性應(yīng)該加強(qiáng)到與其他輸入方式的安全性相當(dāng),但超過(guò)這個(gè)程度的加強(qiáng)反而可能適得其反

舉個(gè)例子來(lái)說(shuō),如果一棟建筑的前門(mén)有鎖,但窗戶(hù)沒(méi)有防護(hù),那么再給前門(mén)加更多的鎖就沒(méi)有太大意義,這樣做甚至可能導(dǎo)致一種危險(xiǎn)的虛假安全感。另一方面,如果窗戶(hù)比前門(mén)更難進(jìn)入,那么在前門(mén)上至少加一把鎖就很合理。 

圖片

在人工智能領(lǐng)域,強(qiáng)化學(xué)習(xí)之父 Rick Sutton 的「苦澀的教訓(xùn)」(Bitter Lesson)就是這一原則的一個(gè)例子。

從直覺(jué)上來(lái)看,大家往往會(huì)認(rèn)為針對(duì)具體任務(wù)量身定制算法是最自然的選擇,在某些情況下,確實(shí)能取得不錯(cuò)的效果。

其實(shí),對(duì)于大多數(shù)任務(wù),使用一些相對(duì)簡(jiǎn)單但通用的數(shù)學(xué)方法,如梯度下降和反向傳播,往往比專(zhuān)門(mén)設(shè)計(jì)的算法效果更好。通用方法不依賴(lài)于特定任務(wù)的領(lǐng)域知識(shí),而是通過(guò)大量的數(shù)據(jù)和計(jì)算資源來(lái)訓(xùn)練模型,通常能帶來(lái)更大的進(jìn)展。

最近,我看到了有人為傳感器網(wǎng)絡(luò)開(kāi)發(fā)更實(shí)惠的模數(shù)轉(zhuǎn)換器(ADC),就是這條發(fā)現(xiàn)的證明。

傳統(tǒng)上,ADC 電路基于經(jīng)典電氣工程原理設(shè)計(jì),采用常微分方程(ODE)、共振、傅里葉變換等數(shù)學(xué)工具來(lái)構(gòu)建高效電路。然而,在一些特定環(huán)境(如傳感器網(wǎng)絡(luò))中,我們的目標(biāo)是大規(guī)模、快速且成本低的方式實(shí)現(xiàn)模數(shù)轉(zhuǎn)換,同時(shí)可以容忍一定的故障率。

在這種情況下,訓(xùn)練神經(jīng)網(wǎng)絡(luò)來(lái)設(shè)計(jì) ADC 電路,不依賴(lài)任何專(zhuān)業(yè)領(lǐng)域的知識(shí)(如傅里葉分析),反而是更好的方法。

這并不是說(shuō)領(lǐng)域知識(shí)毫無(wú)用處 —— 例如,物理信息神經(jīng)網(wǎng)絡(luò)在許多物理領(lǐng)域的表現(xiàn)可以遠(yuǎn)超標(biāo)準(zhǔn)神經(jīng)網(wǎng)絡(luò) —— 關(guān)鍵在于了解在什么情況下,應(yīng)該運(yùn)用多少領(lǐng)域知識(shí)。

圖片

在純數(shù)學(xué)中,一個(gè)有效的解題方法是故意忽略一些直覺(jué)上看似非常重要的信息。比如,在分析數(shù)論中,許多進(jìn)展都是通過(guò)把像素?cái)?shù)這樣的「重要」數(shù)學(xué)對(duì)象轉(zhuǎn)化為看起來(lái)更加簡(jiǎn)單、結(jié)構(gòu)較少的形式來(lái)實(shí)現(xiàn)的。這樣做可以讓我們更容易找到解決問(wèn)題的途徑。

抽象也需要把握一個(gè)度。如果抽象得過(guò)頭,就會(huì)丟失關(guān)鍵信息,反而無(wú)法解決問(wèn)題;而如果抽象得恰到好處,問(wèn)題就會(huì)變得更加清晰,從而找到合適的技巧去解決它。在此過(guò)程中甚至可以做出一些看似不太合理的變換,讓解題思路更加靈活起來(lái)。

我有時(shí)會(huì)開(kāi)玩笑說(shuō),應(yīng)用數(shù)學(xué)家只需要掌握每本純數(shù)學(xué)研究生教材的前兩章,之后的章節(jié)對(duì)他們可能幫助不大(甚至可能有負(fù)面作用)。

另一方面,正是尋找第 3 到第 12 章的過(guò)程,才使得前兩章至臻完美、具有廣泛實(shí)用性的瑰寶。

圖片

在讀完陶哲軒的這段見(jiàn)解后,有人評(píng)論道:這些建議非常有價(jià)值,不論是對(duì)于哪種問(wèn)題,都要做到: 

  • 簡(jiǎn)化細(xì)節(jié),直到看到更宏觀(guān)的問(wèn)題結(jié)構(gòu)。
  • 判斷是否已有針對(duì)同類(lèi)問(wèn)題的解決方案。
  • 或者判斷這個(gè)一般性問(wèn)題類(lèi)是否過(guò)于籠統(tǒng),或者是否過(guò)于具體。

圖片

責(zé)任編輯:張燕妮 來(lái)源: 機(jī)器之心
相關(guān)推薦

2024-07-08 13:08:04

2023-09-05 17:43:04

人工智能AI

2023-04-10 11:45:26

GPT-4AI

2023-10-04 08:07:06

CopilotGitHub

2024-08-29 13:50:00

AI數(shù)學(xué)

2025-06-03 08:15:00

2024-07-29 08:49:00

AI數(shù)學(xué)

2024-02-26 08:30:00

2024-12-09 09:35:00

AI數(shù)據(jù)訓(xùn)練

2023-12-06 13:44:00

模型訓(xùn)練

2023-10-10 13:51:46

GPT-4GitHubAI

2024-12-02 08:00:00

2023-12-16 12:47:59

2025-06-12 14:20:35

谷歌DeepMindAI

2025-05-21 09:10:00

AI代碼陶哲軒

2024-11-29 13:25:00

2023-09-02 11:21:54

代碼ChatGPT

2021-09-26 10:49:27

計(jì)算機(jī)互聯(lián)網(wǎng) 技術(shù)

2024-05-23 17:18:50

2024-10-14 14:31:36

點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)

主站蜘蛛池模板: 在线播放精品视频 | 日韩精品一区中文字幕 | 亚洲精品99 | 尤物在线精品视频 | 成人福利在线观看 | 成人天堂 | 毛片免费观看 | 9久9久9久女女女九九九一九 | 免费h在线 | 日韩三级 | av国产精品毛片一区二区小说 | 天堂中文在线播放 | 九九热最新地址 | 浴室洗澡偷拍一区二区 | 亚洲精品不卡 | 精品日韩一区二区 | 国产成人精品一区二区三区网站观看 | 亚洲 欧美 综合 | 一区二区伦理电影 | 久久久久亚洲精品 | 国产一区二区麻豆 | 日韩一区二区av | 色爱综合网 | 国产成在线观看免费视频 | 国产一区二区三区网站 | 久久成人激情 | 午夜寂寞影院在线观看 | 青青久久av北条麻妃海外网 | 中文字幕不卡在线观看 | 操久久 | 日本一区二区高清不卡 | 久久久成人免费视频 | 成人区精品 | 国产色网 | 亚洲欧美精品国产一级在线 | 久久aⅴ乱码一区二区三区 91综合网 | 天天综合久久网 | 夜夜艹 | 亚洲热在线视频 | www.天天操.com | 人操人免费视频 |