成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

Hadoop 文件系統多次關閉的問題

運維 系統運維 Hadoop
當讀寫文件的時候,Hadoop拋異常說文件系統已經關閉。后來發現,是一個多線程的程序。FileSystem.get(getConf())返回的可能是一個cache中的結果,它并不是每次都創建一個新的實例。這就意味著,如果每個線程都自己去get一個文件系統,然后使用,然后關閉,就會有問題。

今天我犯了一個BUG。在我讀寫文件的時候,Hadoop拋異常說文件系統已經關閉。

2013-05-20 17:39:00,153 ERROR com.sunchangming.searchlog.CopyAppLogs: err on 2013051918_api_access_65.gz 
java.io.IOException: Filesystem closed 
at org.apache.hadoop.hdfs.DFSClient.checkOpen(DFSClient.java:319) 
at org.apache.hadoop.hdfs.DFSClient.getFileInfo(DFSClient.java:1026) 
at org.apache.hadoop.hdfs.DistributedFileSystem.getFileStatus(DistributedFileSystem.java:524) 
at org.apache.hadoop.fs.FileSystem.exists(FileSystem.java:768) 
at com.sunchangming.searchlog.CopyAppLogs.copyFile(CopyAppLogs.java:51) 
at com.sunchangming.searchlog.CopyAppLogs.access$000(CopyAppLogs.java:18) 
at com.sunchangming.searchlog.CopyAppLogs$1.run(CopyAppLogs.java:194) 
at java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:471) 
at java.util.concurrent.FutureTask$Sync.innerRun(FutureTask.java:334) 
at java.util.concurrent.FutureTask.run(FutureTask.java:166) 
at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1145) 
at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:615) 
at java.lang.Thread.run(Thread.java:722)

然后我就查,為什么呢。我剛剛用final FileSystem dfs = FileSystem.get(getConf()); 得到它啊。

后來發現,我是一個多線程的程序。FileSystem.get(getConf())返回的可能是一個cache中的結果,它并不是每次都創建一個新的實例。這就意味著,如果每個線程都自己去get一個文件系統,然后使用,然后關閉,就會有問題。因為你們關閉的可能是同一個對象。而別人還在用它!

所以***是在main函數中就創建好filesystem對象然后在不同函數之間來回傳遞吧。在main函數用用try…finally關閉它。

多線程程序中,如果你確保在你的get和close之間不會有別人調用get,也沒問題。

責任編輯:黃丹 來源: IT牛人博客
相關推薦

2010-06-04 19:12:38

Hadoop文件系統

2010-06-04 18:45:43

Hadoop分布式文件

2018-03-01 16:26:30

HDFSHadoop系統

2011-07-15 17:48:27

Platform

2020-07-22 14:53:06

Linux系統虛擬文件

2018-07-06 09:16:22

HadoopRAID文件系統

2013-05-27 14:46:06

文件系統分布式文件系統

2010-04-30 15:51:48

Unix系統

2011-01-13 14:10:30

Linux文件系統

2012-09-19 13:48:33

pNFS文件系統

2010-05-10 19:03:00

Unix文件

2009-04-08 15:36:46

LinuxLustre集群文件系統

2020-01-15 09:10:13

LinuxWindowsmacOS

2019-09-20 10:04:45

Linux系統虛擬文件

2018-08-24 10:10:25

Linux文件系統技術

2018-08-14 10:44:58

HadoopHDFS命令

2016-09-14 23:51:23

2018-06-08 15:56:52

LinuxBittorrent文件系統

2020-09-25 07:48:12

Linux系統文件

2021-06-06 16:55:22

Linux文件系統
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 久久午夜剧场 | 国产露脸国语对白在线 | 国产久| 国产美女在线精品免费 | 99在线播放 | 精品一区二区三区在线观看国产 | 成人免费观看男女羞羞视频 | 中文字幕一区在线观看视频 | 午夜不卡福利视频 | 亚洲精品乱码久久久久久蜜桃 | 欧美在线播放一区 | 亚洲色欲色欲www | 一区二区三区电影在线观看 | 午夜激情在线视频 | 天天草天天射 | 91av视频在线观看 | 亚洲国产视频一区二区 | 国产精品久久国产愉拍 | 中文字幕一区在线观看视频 | 国产目拍亚洲精品99久久精品 | 午夜视频在线免费观看 | 91视频网址 | 亚洲一区二区在线 | 天天插天天操 | 精品久久久久久久久久久 | 亚洲视频一 | 欧美精品一区在线观看 | 日韩视频 中文字幕 | 国产精品一区二区三 | 国产视频一二三区 | a久久| 久久国产精品91 | 日本高清中文字幕 | 国产成人综合在线 | 国产影音先锋 | 国产精品视频网址 | 亚洲五码在线 | 国产一区二区欧美 | 亚洲精品福利在线 | 免费看国产一级特黄aaaa大片 | 国产精品久久久久久福利一牛影视 |