深度學(xué)習(xí)

五個PyTorch 中的處理張量的基本函數(shù)

每個深度學(xué)習(xí)初學(xué)者都應(yīng)該知道這5個Pytorch 的基本函數(shù)。

2022-01-03 16:08:36

深度學(xué)習(xí)PyTorch NumPy

機器學(xué)習(xí)零代碼背后的秘密

從目前看來，企業(yè)想要快速上手機器學(xué)習(xí)仍然是一個問題，有行業(yè)技術(shù)的人不懂AI，懂AI的人缺乏行業(yè)技術(shù)積累。有沒有方法可以讓企業(yè)快速簡單的掌握機器學(xué)習(xí)這項技能？

2021-12-30 11:30:13

人工智能機器學(xué)習(xí)技術(shù)

PyTorch | 優(yōu)化神經(jīng)網(wǎng)絡(luò)訓(xùn)練的十七種方法

本文介紹在使用 PyTorch 訓(xùn)練深度模型時最省力、最有效的 17 種方法。該文所提方法，都是假設(shè)你在 GPU 環(huán)境下訓(xùn)練模型。

2021-12-28 08:48:54

PyTorch 神經(jīng)網(wǎng)絡(luò)人工智能

神經(jīng)輻射場去掉「神經(jīng)」，訓(xùn)練速度提升100多倍，3D效果質(zhì)量不減

加州大學(xué)伯克利分校、谷歌、加州大學(xué)圣地亞哥分校的研究者提出了一種名為「NeRF」的 2D 圖像轉(zhuǎn) 3D 模型，可以利用少數(shù)幾張靜態(tài)圖像生成多視角的逼真 3D 圖像。

2021-12-27 15:25:24

使用深度學(xué)習(xí)模型在 Java 中執(zhí)行文本情感分析

本文介紹如何使用集成到斯坦福 CoreNLP（一個用于自然語言處理的開源庫）中的情感工具在 Java 中實現(xiàn)此類任務(wù)。

2021-12-26 22:57:57

Java 開發(fā)深度學(xué)習(xí)

深度學(xué)習(xí)如煉丹，你有哪些迷信做法？網(wǎng)友：Random seed=42結(jié)果好

近日，reddit 上一則帖子引發(fā)了網(wǎng)友熱議，「機器學(xué)習(xí)調(diào)參領(lǐng)域有哪些迷信的看法或做法呢？」

2021-12-21 14:26:59

深度學(xué)習(xí)機器學(xué)習(xí)人工智能

研究發(fā)現(xiàn)神經(jīng)網(wǎng)絡(luò)可以隱藏惡意軟件譯文

深度學(xué)習(xí)模型擁有數(shù)以百萬計甚至數(shù)十億計的數(shù)值參數(shù)，因此可以做很多事情：檢測照片中的物體、識別語音、生成文本，甚至隱藏惡意軟件。加州大學(xué)圣迭戈分校和伊利諾伊大學(xué)的研究人員發(fā)現(xiàn)，神經(jīng)網(wǎng)絡(luò)可以嵌入惡意軟件中而不會觸發(fā)反惡意軟件。

2021-12-20 09:00:00

深度學(xué)習(xí)神經(jīng)元網(wǎng)絡(luò)安全

手把手帶你入門人工神經(jīng)網(wǎng)絡(luò)

深度學(xué)習(xí)(DL)在搜索技術(shù)，數(shù)據(jù)挖掘，機器學(xué)習(xí)，機器翻譯，自然語言處理，多媒體學(xué)習(xí)，語音，推薦和個性化技術(shù)，以及其他相關(guān)領(lǐng)域都取得了很多成果。

2021-12-15 07:24:57

人工神經(jīng)網(wǎng)絡(luò)翻譯

模型輸入不靠眼睛看！華人一作：強化學(xué)習(xí)和人類有相同的感知能力

神經(jīng)網(wǎng)絡(luò)的眼睛如果只能看到混亂的世界，那它會習(xí)慣嗎？Google Brain在NeurIPS 2021的spotlight paper最近就研究了這個問題，將輸入圖像隨機打亂，發(fā)現(xiàn)強化學(xué)習(xí)得到的agent仍然能夠正確決策！

2021-12-09 09:45:44

AI 數(shù)據(jù)神經(jīng)網(wǎng)絡(luò)

九種深度學(xué)習(xí)算法，你會嗎？

兩階段算法包含選擇候選框和修正目標(biāo)分類/位置兩個階段，對這兩個階段的不同處理方式，構(gòu)成了不同的算法方案。

2021-12-09 07:33:45

深度學(xué)習(xí)算法

DeepMind長文掀開AlphaZero黑盒神經(jīng)網(wǎng)絡(luò)所學(xué)知識和人類基本相似

DeepMind最近攜手國際象棋世界冠軍發(fā)69頁論文，深度解剖AlphaZero后發(fā)現(xiàn)，神經(jīng)網(wǎng)絡(luò)學(xué)到的知識和人類基本相似！

2021-12-07 09:51:06

當(dāng)深度學(xué)習(xí)搭上一雙鞋，有人要用這檢測你的壓力水平！可無線操作，準(zhǔn)確率達84%

新西蘭奧克蘭理工大學(xué)和德國呂貝克應(yīng)用科學(xué)技術(shù)大學(xué)的研究團隊開發(fā)出了一種壓力檢測裝置StressFoot，在鞋子中塞入一個檢測腿部運動的設(shè)備，再結(jié)合深度學(xué)習(xí)，就能從腿的運動中判斷你的壓力狀態(tài)。

2021-12-02 14:22:04

深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)壓力

解決Transformer固有缺陷：復(fù)旦大學(xué)等提出線性復(fù)雜度SOFT

近日，來自復(fù)旦大學(xué)、薩里大學(xué)和華為諾亞方舟實驗室的研究者在一項研究中經(jīng)過深入分析表明，這些嘗試要么在理論上存在缺陷，要么在實驗中對視覺識別無效，并進一步發(fā)現(xiàn)這些方法的局限性在于在近似過程中仍然保持 softmax 自注意力。

2021-12-01 15:16:32

自然語言神經(jīng)網(wǎng)絡(luò)人工智能

研究人員利用深度學(xué)習(xí)模型預(yù)測交通事故譯文

交通事故預(yù)測是一個重要且困難的研究問題，因為一般來說交通事故在時空上相對稀疏，還有不同地理環(huán)境造成的時空異質(zhì)性，這都加大了預(yù)測難度。

2021-11-24 17:48:30

深度學(xué)習(xí)風(fēng)險預(yù)測

為提高能量利用效率，大腦練就了預(yù)測感知能力

越來越多的神經(jīng)科學(xué)家開始將大腦視為 "預(yù)測機器"。通過預(yù)測處理，大腦利用其對世界的先驗知識來推斷或產(chǎn)生假設(shè)，來解釋傳入感官信息的原因。

2021-11-23 15:45:30

神經(jīng)網(wǎng)絡(luò) 數(shù)據(jù)訓(xùn)練

圖靈獎得主Yoshua Bengio：生成流網(wǎng)絡(luò)拓展深度學(xué)習(xí)領(lǐng)域

近日，一篇名為《GFlowNet Foundations》的論文引發(fā)了人們的關(guān)注，這是一篇圖靈獎得主 Yoshua Bengio 一作的新研究，論文長達 70 頁。

2021-11-23 09:34:50

GAN靠「偽造思維」登上Nature子刊：首次合成神經(jīng)活動數(shù)據(jù)

GAN這回玩了票大的，把手伸向了“人腦思維”。沒錯，直接就是一個“合成思維”——生成用來喂給腦機接口的那種大腦活動數(shù)據(jù)。

2021-11-22 17:40:08

AI 神經(jīng)網(wǎng)絡(luò)人工智能

高級API、異構(gòu)圖：谷歌發(fā)布TF-GNN，在TensorFlow創(chuàng)建圖神經(jīng)網(wǎng)絡(luò)

今天，TensorFlow 官方博客發(fā)布了 TensorFlow Graph Neural Networks（TensorFlow GNN）庫，這個庫使得用戶在使用 TensorFlow 時能夠輕松處理圖結(jié)構(gòu)數(shù)據(jù)。

2021-11-19 17:18:39

谷歌 TensorFlow 技術(shù)

探秘深層神經(jīng)網(wǎng)絡(luò)對稱結(jié)構(gòu)，賓大提出層間剝離分析模型

來自賓夕法尼亞大學(xué)的研究者提出了一種層間「剝離」的分析模型，該研究發(fā)表在頂級期刊《美國國家科學(xué)院院刊》上。

2021-11-16 09:31:24

利用 LSTM 神經(jīng)網(wǎng)絡(luò)預(yù)測股價走勢

長短期記憶 (LSTM) 神經(jīng)網(wǎng)絡(luò)屬于循環(huán)神經(jīng)網(wǎng)絡(luò) (RNN) 的一種，特別適合處理和預(yù)測與時間序列相關(guān)的重要事件。

2021-11-12 15:41:42

LSTM 神經(jīng)網(wǎng)絡(luò)人工智能

拯救深度學(xué)習(xí)：標(biāo)注數(shù)據(jù)不足下的深度學(xué)習(xí)方法

解決深度學(xué)習(xí)對數(shù)據(jù)的依賴問題和減少數(shù)據(jù)標(biāo)注成本成為了業(yè)界的研究熱點。本文將介紹以下幾個研究方向：半監(jiān)督/弱監(jiān)督學(xué)習(xí)、數(shù)據(jù)合成、主動學(xué)習(xí)、自監(jiān)督。

2021-11-12 15:16:32

深度學(xué)習(xí)數(shù)據(jù)合成人工智能

說到深度學(xué)習(xí)架構(gòu)中的預(yù)測編碼模型，還得看PredNet

本文中，作者對經(jīng)典預(yù)測編碼模型和深度學(xué)習(xí)架構(gòu)中的預(yù)測編碼模型進行了簡單回顧，其中重點介紹了用于視頻預(yù)測和無監(jiān)督學(xué)習(xí)的深度預(yù)測編碼網(wǎng)絡(luò) PredNet 以及基于 PredNet 進行改進的一些版本。

2021-11-12 14:11:21

深度強化學(xué)習(xí)探索算法最新綜述，近200篇文獻揭示挑戰(zhàn)和未來方向

為了提升對樣本的利用效率，智能體需要有效率地探索未知的環(huán)境，然后收集一些有利于智能體達到最優(yōu)策略的交互數(shù)據(jù)，以便促進智能體的學(xué)習(xí)。

2021-11-10 15:03:17

深度學(xué)習(xí)算法人工智能

結(jié)合隨機微分方程，多大Duvenaud團隊提出無限深度貝葉斯神經(jīng)網(wǎng)絡(luò)

近日，來自多倫多大學(xué)和斯坦福大學(xué)的一項研究表明貝葉斯連續(xù)深度神經(jīng)網(wǎng)絡(luò)的替代構(gòu)造具有一些額外的好處，開發(fā)了一種在連續(xù)深度貝葉斯神經(jīng)網(wǎng)絡(luò)中進行近似推理的實用方法。

2021-11-05 15:22:46

深度學(xué)習(xí)Pytorch框架Tensor張量

本文主要介紹了Tensor的裁剪運算、索引與數(shù)據(jù)篩選、組合/拼接、切片、變形操作、填充操作和Tensor的頻譜操作（傅里葉變換）。

2021-11-05 12:59:51

深度學(xué)習(xí)Pytorch Tenso

強化學(xué)習(xí)AI能帶你1打5嗎？MIT新研究：AI并不是人類的最佳隊友

MIT最近研究表明，AI和人類玩家之間的配合可以說是沒有配合了，根本看不懂隊友給的各種暗示信息！

2021-11-04 15:30:56

AI 數(shù)據(jù)人工智能

面向深度學(xué)習(xí)的文本預(yù)處理方法譯文

如今，深度學(xué)習(xí)引起了人們極大的興趣，尤其是自然語言處理(NLP)。不久前，Kaggle公司開展一場自然語言處理（NLP）競賽，其名稱為“Quora不真誠問題挑戰(zhàn)（Quora Question insincerity Challenge）”。

2021-11-03 09:00:00

深度學(xué)習(xí)自然語言機器學(xué)習(xí)

深度學(xué)習(xí)如何廣泛用于惡意軟件檢測和分類

深度學(xué)習(xí)(DL, Deep Learning)是機器學(xué)習(xí)(ML, Machine Learning)領(lǐng)域中一個新的研究方向，深度學(xué)習(xí)是學(xué)習(xí)樣本數(shù)據(jù)的內(nèi)在規(guī)律和表示層次，這些學(xué)習(xí)過程中獲得的信息對諸如文字，圖像和聲音等數(shù)據(jù)的解釋有很大的幫助。

2021-11-02 11:48:39

深度學(xué)習(xí)惡意軟件觀察

“非深度網(wǎng)絡(luò)”12層打敗50層，普林斯頓+英特爾：更深不一定更好

“深度”是深度神經(jīng)網(wǎng)絡(luò)（DNN）的關(guān)鍵詞。但網(wǎng)絡(luò)越深也就意味著，訓(xùn)練時反向傳播的鏈條更長，推理時順序計算步驟更多、延遲更高。

2021-11-01 09:44:12

算力≠智慧！MIT教授「意識來源」新理論：人類認(rèn)知與計算沒關(guān)系

心智的計算理論是一個根深蒂固的理論，我們一般假設(shè)智能、思想、認(rèn)知屬于計算的產(chǎn)物。但也許有意識的體驗來自某種「自我組織」。也許認(rèn)知與計算根本沒有關(guān)系。

2021-10-29 14:45:42

計算數(shù)據(jù) 技術(shù)

用AI取代SGD？無需訓(xùn)練ResNet-50，AI秒級預(yù)測全部2400萬個參數(shù)，準(zhǔn)確率60%

來自圭爾夫大學(xué)的論文一作 Boris Knyazev 介紹道，該元模型可以預(yù)測 ResNet-50 的所有2400萬個參數(shù)，并且這個 ResNet-50 將在 CIFAR-10 上達到將近60%的準(zhǔn)確率，無需任何訓(xùn)練。特別是，該模型適用于幾乎任何神經(jīng)網(wǎng)絡(luò)。

2021-10-29 14:14:26

AI 數(shù)據(jù)人工智能

用一盤殘局帶你了解人工神經(jīng)網(wǎng)絡(luò)算法

志斌現(xiàn)在手頭上有一個國際象棋的殘局，它是黑方只剩下一個王，白方剩一個兵和一個王。現(xiàn)在志斌已知它有兩種可能的結(jié)局，即白方將死黑方獲勝，或者和棋。那么結(jié)局到底是什么呢？

2021-10-29 09:55:20

人工神經(jīng)網(wǎng)絡(luò)

面向商業(yè)應(yīng)用的深度學(xué)習(xí)圖像字幕技術(shù) 譯文

采用人工智能技術(shù)將圖像上的像素序列轉(zhuǎn)換成文字的技術(shù)如今已經(jīng)不像5年前或更早以前那么原始了。更好的性能、準(zhǔn)確性、可靠性使從社交媒體到電子商務(wù)的不同領(lǐng)域的圖像字幕變得平滑、高效成為可能。而標(biāo)簽的自動創(chuàng)建與下載的圖像相對應(yīng)。

2021-10-28 09:00:00

深度學(xué)習(xí)人工智能技術(shù)

從梯度下降到 Adam！一文看懂各種神經(jīng)網(wǎng)絡(luò)優(yōu)化算法

在有效地訓(xùn)練模型并產(chǎn)生準(zhǔn)確結(jié)果時，模型的內(nèi)部參數(shù)起到了非常重要的作用。這也是為什么我們應(yīng)該用各種優(yōu)化策略和算法，來更新和計算影響模型訓(xùn)練和模型輸出的網(wǎng)絡(luò)參數(shù)，使其逼近或達到最優(yōu)值。

2021-10-26 16:10:50

量子卷積網(wǎng)絡(luò)中的「貧瘠高原」現(xiàn)象被解決，新研究克服了量子AI一大難題

許多人質(zhì)疑量子數(shù)據(jù)能否變得高度可用，來自洛斯阿拉莫斯國家實驗室（LANL）和倫敦大學(xué)的一項研究證明量子卷積神經(jīng)網(wǎng)絡(luò)（QCNN）具備巨大的潛力。

2021-10-26 15:24:12

量子卷積神經(jīng)網(wǎng)絡(luò)QCNN AI

實現(xiàn)AI運算本地化的另一種可能：CoCoPIE的探索與抉擇原創(chuàng)

在業(yè)界普遍認(rèn)為硬件是限制當(dāng)前終端設(shè)備進行實時推理的主要因素，故而針對芯片的競爭趨向白熱化的當(dāng)口，CoCoPIE的另辟蹊徑反而提供了一種的新的可能和想象空間。

2021-10-20 12:20:08

深度學(xué)習(xí)AI賦能

ResNet假說被推翻？Reddit小哥：這么多年都沒人搞懂Ta的原理

ResNet 發(fā)布至今已經(jīng)有六年多了，但它的工作原理至今仍然是個迷。最近Reddit 上一個網(wǎng)友發(fā)帖表示，是否ResNet的創(chuàng)新出發(fā)點就有問題？

2021-10-18 17:50:32

培養(yǎng)產(chǎn)業(yè)高端復(fù)合型AI人才 AICA首席AI架構(gòu)師培養(yǎng)計劃第五期開啟

10月15日，深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程實驗室與百度聯(lián)合發(fā)起創(chuàng)辦的AICA首席AI架構(gòu)師培養(yǎng)計劃第五期在京迎來開學(xué)典禮。

2021-10-15 18:09:24

人工智能 AI架構(gòu)百度飛槳

真 · 神經(jīng)網(wǎng)絡(luò)發(fā)明人福島邦彥獲獎，Schmidhuber、李飛飛點贊

1980 年，福島邦彥首次使用卷積神經(jīng)網(wǎng)絡(luò)實現(xiàn)了模式識別，他被認(rèn)為是真正的卷積神經(jīng)網(wǎng)絡(luò)發(fā)明者。

2021-10-15 10:32:42

深度學(xué)習(xí)的工作原理：窺視驅(qū)動今日AI的神經(jīng)網(wǎng)絡(luò)的內(nèi)部譯文

今天人工智能的繁榮離不開一種名為深度學(xué)習(xí)的技術(shù)，該技術(shù)基于人工神經(jīng)網(wǎng)絡(luò)。本文通過圖形解釋了如何構(gòu)建和訓(xùn)練這些神經(jīng)網(wǎng)絡(luò)。

2021-10-15 08:00:00

人工智能深度學(xué)習(xí)技術(shù)

一個算法統(tǒng)治一切！DeepMind提出神經(jīng)算法推理，深度學(xué)習(xí)和傳統(tǒng)算法融合再現(xiàn)奇跡？

現(xiàn)在，DeepMind 想開創(chuàng)一條新路，他們要找到一種深度學(xué)習(xí)模型，模仿任何經(jīng)典算法，并在現(xiàn)實世界實現(xiàn)功能。

2021-10-14 10:34:38

算法深度學(xué)習(xí)技術(shù)

深度學(xué)習(xí)正改變物理系統(tǒng)模擬，速度最高提升20億倍那種

他們用強化學(xué)習(xí)優(yōu)化游戲NPC的尋路行為，用GAN生成豐富的NPC臉型。

2021-10-12 15:15:01

用上Pytorch Lightning的這六招，深度學(xué)習(xí)pipeline提速10倍

最近，一個國外小哥就提出了一種建議：在Pytorch lightning基礎(chǔ)上，讓深度學(xué)習(xí)pipeline速度提升10倍！

2021-10-08 10:45:38

深度學(xué)習(xí)檢測小目標(biāo)常用方法

在深度學(xué)習(xí)目標(biāo)檢測中，特別是人臉檢測中，小目標(biāo)、小人臉的檢測由于分辨率低，圖片模糊，信息少，噪音多，所以一直是一個實際且常見的困難問題。

2021-10-08 09:46:42

小模型大趨勢！Google 提出兩個模型：體積下降7倍，速度提升10倍

Google Research提出兩個模型EfficientNetV2和CoAtNet，竟然同時做到了這三點，模型下降7倍，訓(xùn)練速度提升10倍，還能拿到sota！

2021-09-30 11:27:58

模型人工智能神經(jīng)網(wǎng)絡(luò)

看得“深”、看得“清” 深度學(xué)習(xí)在圖像超清化的應(yīng)用

傳統(tǒng)的規(guī)則算法不堪重負(fù)，新興的深度學(xué)習(xí)照耀著圖像超清化的星空。

2021-09-28 09:34:23

深度學(xué)習(xí)模型大小與模型推理速度的一些探討

本文對衡量深度學(xué)習(xí)模型大小的一些常用指標(biāo)，如計算量、參數(shù)量、訪存量、內(nèi)存占用等進行探討。

2021-09-27 09:55:52