盤點20多個強大且免費的數(shù)據(jù)源,任何人都能以此來構建AI
當我們談論當今商業(yè)領域和社會中的人工智能時,我們其實指的是機器學習。機器學習是一種應用,通過使用算法(一組指令)變得越來越擅長執(zhí)行某項特定任務,因為它接觸了越來越多與這項任務相關的數(shù)據(jù)。
這些任務可以是任何任務,從回答問題、創(chuàng)建文本或圖像(如ChatGPT或Dall-E等應用所能做的)到識別圖像(計算機視覺)或者把自動駕駛汽車從A地導航到B地。
所有這些任務都需要數(shù)據(jù),那些想要訓練自己的機器學習算法以自動執(zhí)行日常任務的企業(yè),他們需要一些數(shù)據(jù)源。
有哪些類型的數(shù)據(jù)?
企業(yè)數(shù)據(jù)通常分為兩類——內部數(shù)據(jù)和外部數(shù)據(jù)。
- 內部數(shù)據(jù)是企業(yè)組織自己從運營過程中收集的數(shù)據(jù),這通常包括財務數(shù)據(jù)、客戶反饋數(shù)據(jù)、人力資源數(shù)據(jù)、運營數(shù)據(jù)、和其他更多來源的數(shù)據(jù)。某個組織在監(jiān)控其自身運營過程中收集的數(shù)據(jù)被稱為專有數(shù)據(jù),這種數(shù)據(jù)很有價值,因為它提供了有關特定業(yè)務的信息。
- 外部數(shù)據(jù)是來自組織外部來源的數(shù)據(jù),通常是從如下所列的第三方數(shù)據(jù)源收集而來。如果數(shù)據(jù)可供任何人免費使用,則稱為開放數(shù)據(jù)。
除此之外,數(shù)據(jù)還可以分為結構化、非結構化或半結構化數(shù)據(jù)。
- 結構化數(shù)據(jù)是可以很好地、整齊地放入表格中的信息——例如,顯示企業(yè)銷售的產品、時間、地點、價格的銷售數(shù)據(jù)就是內部結構化數(shù)據(jù)。或者,企業(yè)會選擇分析歷史市場數(shù)據(jù)和經(jīng)濟指標來預測他們面向市場的未來走勢(結構化的外部數(shù)據(jù))。
- 非結構化數(shù)據(jù)則是其他一切,例如圖片、視頻、文本和社交媒體內容,當然也可以包含有價值的洞察,但更難于分析。不過,AI已經(jīng)被證明對于從非結構化數(shù)據(jù)中提取意義特別有用處。例如,圖像識別算法可以通過分析店內閉路電視圖像(內部非結構化數(shù)據(jù))來告訴企業(yè)有關客戶行為的有用信息,還可以通過分析社交媒體上發(fā)布的與業(yè)務相關的圖像(非結構化外部數(shù)據(jù))來找到有價值的洞察。
所幸的是,數(shù)據(jù)無處不在。政府、研究機構、私營公司、非政府組織都免費提供數(shù)據(jù)用于研究甚至商業(yè)目的。因此,這里羅列了一些2023年可用的免費在線數(shù)據(jù)最佳來源。
數(shù)據(jù)搜索引擎和存儲庫
- Google Dataset Search——這實際上是谷歌編目的數(shù)據(jù)集的搜索引擎;使用這個搜索引擎可以查找你可能需要的幾乎所有內容的數(shù)據(jù)。
- AWS Open Data Search——另一個數(shù)據(jù)集搜索引擎,由亞馬遜的AWS提供。
- Microsoft Research Open Data——由Microsoft收集的免費、開放的數(shù)據(jù)集,主要以科學為重點。
- UCI Machine Learning Repository——由加州大學歐文分校策劃和維護的600多個開放數(shù)據(jù)集的存儲庫,可用于訓練機器學習算法。
- Kaggle Datasets——在線數(shù)據(jù)科學平臺Kaggle還提供了精選的數(shù)據(jù)集目錄,涵蓋從大學排名到谷歌搜索趨勢、零售銷售、在線電影評論和犯罪統(tǒng)計數(shù)據(jù)的所有內容。
- Reddit R/Datasets——由在線社區(qū)網(wǎng)站Reddit的用戶提交的龐大數(shù)據(jù)集,涵蓋了數(shù)百個主題。
政府和政府間組織的數(shù)據(jù)集
- Data.Gov——美國政府提供的開放數(shù)據(jù)門戶,托管了政府機構發(fā)布的一百萬個數(shù)據(jù)集中的近四分之一數(shù)據(jù)。
- Data.Census.Gov——如果你專門尋找美國的人口統(tǒng)計數(shù)據(jù),這是一個很好的起點!
- Data.EU——歐盟的開放數(shù)據(jù)門戶,包含了來自歐盟組織的數(shù)據(jù)和成員國政府的數(shù)據(jù)。
- Data.gov.uk——英國政府機構發(fā)布的開放數(shù)據(jù)集。
- World Health Organization Data——與全球健康和福祉相關的數(shù)據(jù)集。
- World Bank Open Data——與經(jīng)濟發(fā)展、國際金融市場、社會指標和環(huán)境問題相關的數(shù)據(jù)集。
圖像數(shù)據(jù)
- Google Open Images——數(shù)以百萬計的圖像以各種方式分類和標記,用于訓練許多不同類型的計算機視覺算法。
- ImageNet Open Dataset——另一個由標記圖像組成的數(shù)據(jù)集,可免費用于非商業(yè)機器學習應用。
- COCO Dataset——Common Objects in Context (COCO)數(shù)據(jù)集中包含了超過200000張圖像,這些圖像被選擇用于訓練對象檢測和字幕算法。
聲音數(shù)據(jù)
- Mozilla Common Voice——一個開放的錄音數(shù)據(jù)集,可用于訓練任何涉及語音的AI應用。
- Audioset——另一個由谷歌策劃的數(shù)據(jù)集,這個數(shù)據(jù)集專注于聲音,包含數(shù)十萬個10秒樣本,這些樣本被分解為樂器、車輛和人聲等類別。
- Million Song Dataset——來自一百萬個當代流行音樂曲目的樣本和元數(shù)據(jù)。
文本數(shù)據(jù)
- Wikidata——多種不同格式的維基百科文章的數(shù)據(jù)庫下載。
- Common Crawl——一個從萬維網(wǎng)上抓取的開放數(shù)據(jù)存儲庫,最知名的用途就是對ChatGPT和其他聊天機器人的GPU大型語言模型進行訓練。
其他和雜項數(shù)據(jù)集
- Amazon Reviews——包含約3500萬條亞馬遜產品評論的數(shù)據(jù)庫,包括產品信息和評級。
- Waymo Open Dataset——Alphabet自動駕駛子公司W(wǎng)aymo公開了通過自動駕駛車輛收集的大量數(shù)據(jù),包括來自攝像頭和LiDAR傳感器數(shù)據(jù)。
- Apolloscape Dataset——更多的自動駕駛數(shù)據(jù),是由百度開源Apollo平臺提供的。