R語(yǔ)言的三種聚類方法
一、層次聚類
1)距離和相似系數(shù)
r語(yǔ)言中使用dist(x, method = “euclidean”,diag = FALSE, upper = FALSE, p = 2) 來(lái)計(jì)算距離。其中x是樣本矩陣或者數(shù)據(jù)框。method表示計(jì)算哪種距離。method的取值有：
- euclidean 歐幾里德距離，就是平方再開方
- maximum 切比雪夫距離
- manhattan 絕對(duì)值距離
- canberra Lance 距離
- minkowski 明科夫斯基距離，使用時(shí)要指定p值
- binary 定性變量距離.
定性變量距離： 記m個(gè)項(xiàng)目里面的 0:0配對(duì)數(shù)為m0 ,1:1配對(duì)數(shù)為m1，不能配對(duì)數(shù)為m2，距離=m1/(m1+m2);
diag 為TRUE的時(shí)候給出對(duì)角線上的距離。upper為TURE的時(shí)候給出上三角矩陣上的值。
r語(yǔ)言中使用scale(x, center = TRUE, scale = TRUE) 對(duì)數(shù)據(jù)矩陣做中心化和標(biāo)準(zhǔn)化變換。
如只中心化 scale(x,scale=F) ,
r語(yǔ)言中使用sweep(x, MARGIN, STATS, FUN=”-“, …) 對(duì)矩陣進(jìn)行運(yùn)算。MARGIN為1，表示行的方向上進(jìn)行運(yùn)算，為2表示列的方向上運(yùn)算。STATS是運(yùn)算的參數(shù)。FUN為運(yùn)算函數(shù)，默認(rèn)是減法。下面利用sweep對(duì)矩陣x進(jìn)行極差標(biāo)準(zhǔn)化變換
有時(shí)候我們不是對(duì)樣本進(jìn)行分類，而是對(duì)變量進(jìn)行分類。這時(shí)候，我們不計(jì)算距離，而是計(jì)算變量間的相似系數(shù)。常用的有夾角和相關(guān)系數(shù)。
r語(yǔ)言計(jì)算兩向量的夾角余弦：
相關(guān)系數(shù)用cor函數(shù)
2)層次聚類法
層次聚類法。先計(jì)算樣本之間的距離。每次將距離最近的點(diǎn)合并到同一個(gè)類。然后，再計(jì)算類與類之間的距離，將距離最近的類合并為一個(gè)大類。不停的合并，直到合成了一個(gè)類。其中類與類的距離的計(jì)算方法有：最短距離法，最長(zhǎng)距離法，中間距離法，類平均法等。比如最短距離法，將類與類的距離定義為類與類之間樣本的最段距離。。。
r語(yǔ)言中使用hclust(d, method = “complete”, members=NULL) 來(lái)進(jìn)行層次聚類。
其中d為距離矩陣。
method表示類的合并方法，有：
- single 最短距離法
- complete 最長(zhǎng)距離法
- median 中間距離法
- mcquitty 相似法
- average 類平均法
- centroid 重心法
- ward 離差平方和法
然后可以用rect.hclust(tree, k = NULL, which = NULL, x = NULL, h = NULL,border = 2, cluster = NULL)來(lái)確定類的個(gè)數(shù)。 tree就是求出來(lái)的對(duì)象。k為分類的個(gè)數(shù)，h為類間距離的閾值。border是畫出來(lái)的顏色，用來(lái)分類的。
二、動(dòng)態(tài)聚類k-means
層次聚類，在類形成之后就不再改變。而且數(shù)據(jù)比較大的時(shí)候更占內(nèi)存。
動(dòng)態(tài)聚類，先抽幾個(gè)點(diǎn)，把周圍的點(diǎn)聚集起來(lái)。然后算每個(gè)類的重心或平均值什么的，以算出來(lái)的結(jié)果為分類點(diǎn)，不斷的重復(fù)。直到分類的結(jié)果收斂為止。r語(yǔ)言中主要使用kmeans(x, centers, iter.max = 10, nstart = 1,algorithm =c(“Hartigan-Wong”, “Lloyd”,”Forgy”, “MacQueen”))來(lái)進(jìn)行聚類。centers是初始類的個(gè)數(shù)或者初始類的中心。iter.max是***迭代次數(shù)。nstart是當(dāng)centers是數(shù)字的時(shí)候，隨機(jī)集合的個(gè)數(shù)。algorithm是算法，默認(rèn)是***個(gè)。
使用knn包進(jìn)行Kmean聚類分析
將數(shù)據(jù)集進(jìn)行備份，將列newiris$Species置為空，將此數(shù)據(jù)集作為測(cè)試數(shù)據(jù)集
在數(shù)據(jù)集newiris上運(yùn)行Kmean聚類分析， 將聚類結(jié)果保存在kc中。在kmean函數(shù)中，將需要生成聚類數(shù)設(shè)置為
Cluster means: 每個(gè)聚類中各個(gè)列值生成的最終平均值
Clustering vector: 每行記錄所屬的聚類(2代表屬于第二個(gè)聚類，1代表屬于***個(gè)聚類，3代表屬于第三個(gè)聚類)
Within cluster sum of squares by cluster: 每個(gè)聚類內(nèi)部的距離平方和
(between_SS / total_SS = 88.4 %) 組間的距離平方和占了整體距離平方和的的88.4%，也就是說(shuō)各個(gè)聚類間的距離做到了***
Available components: 運(yùn)行kmeans函數(shù)返回的對(duì)象所包含的各個(gè)組成部分
(“cluster”是一個(gè)整數(shù)向量，用于表示記錄所屬的聚類
“centers”是一個(gè)矩陣，表示每聚類中各個(gè)變量的中心點(diǎn)
“totss”表示所生成聚類的總體距離平方和
“withinss”表示各個(gè)聚類組內(nèi)的距離平方和
“tot.withinss”表示聚類組內(nèi)的距離平方和總量
“betweenss”表示聚類組間的聚類平方和總量
“size”表示每個(gè)聚類組中成員的數(shù)量)
創(chuàng)建一個(gè)連續(xù)表,在三個(gè)聚類中分別統(tǒng)計(jì)各種花出現(xiàn)的次數(shù)
根據(jù)***的聚類結(jié)果畫出散點(diǎn)圖，數(shù)據(jù)為結(jié)果集中的列”Sepal.Length”和”Sepal.Width”，顏色為用1，2，3表示的缺省顏色
在圖上標(biāo)出每個(gè)聚類的中心點(diǎn)
三、DBSCAN
動(dòng)態(tài)聚類往往聚出來(lái)的類有點(diǎn)圓形或者橢圓形。基于密度掃描的算法能夠解決這個(gè)問題。思路就是定一個(gè)距離半徑，定最少有多少個(gè)點(diǎn)，然后把可以到達(dá)的點(diǎn)都連起來(lái)，判定為同類。在r中的實(shí)現(xiàn)
其中eps是距離的半徑，minpts是最少多少個(gè)點(diǎn)。 scale是否標(biāo)準(zhǔn)化(我猜) ,method 有三個(gè)值raw,dist,hybird,分別表示，數(shù)據(jù)是原始數(shù)據(jù)避免計(jì)算距離矩陣，數(shù)據(jù)就是距離矩陣，數(shù)據(jù)是原始數(shù)據(jù)但計(jì)算部分距離矩陣。showplot畫不畫圖，0不畫，1和2都畫。countmode，可以填個(gè)向量，用來(lái)顯示計(jì)算進(jìn)度。用鳶尾花試一試
