cPickle.load() in python consumes a large memory -


मेरे पास एक बड़ा शब्दकोश है जिसका संरचना दिखता है: 

  dcPaths = {'id_jola_001' : CPath उदाहरण}   
 जहां सीपीथ स्वयं परिभाषित वर्ग है:  
  वर्ग सीपीथ (ऑब्जेक्ट): def __init __ (स्वयं): # कुछ विशेषताएँ स्वयं .m_dAvgSpeed ​​= 0.0 ... # सीएनडोड की सूची self.m_lsNodes = []   
 की सूची जहां m_lsNodes सीएनड की एक सूची है:  
  वर्ग सीएनडी (ऑब्जेक्ट): def __init __ (स्वयं): # कुछ गुण self.m_nLoc = 0 # एप्लिकेशन की एक सूची self.m_lsApps = []   
 यहां, m_lsApps CApp की एक सूची है, जो एक अन्य स्व-परिभाषित वर्ग है:  
  वर्ग CApp (ऑब्जेक्ट): def __init __ (स्व): # कुछ विशेषताएँ स्वयं। M_nCount = 0 self.m_nUpPackets = 0   
 मैं cPickle का उपयोग करके इस शब्दकोश को सीरियल कर सकता हूं:  
  डीआरफ़ सीरियललाइज़ 2 फ़ाइल (स्ट्रफाइलनाम, स्ट्रॉओटीडीआईआर, ओबीजी): अगर लैन (ओबीजे)! = 0: strOutFilePath = "% s% s"% ( strOutDir, strFileName) खुले (strOutFilePath, 'w') के रूप में होटफ़ाइल के रूप में: cPickle.dump (obj , hOutFile, प्रोटोकॉल = 0) वापसी strOutFilePath अन्य: प्रिंट ("serialize करने के लिए कुछ भी नहीं!")   
 यह ठीक काम करता है और धारावाहिक फ़ाइल का आकार लगभग 6.8GB है हालांकि, जब मैं इस ऑब्जेक्ट को डिसेरीलाइज़ करने का प्रयास करता हूं:  
  def deserializeFromFile (strFilePath): obj = 0 खुले (strFilePath) के साथ hFile: obj = cPickle.load (hFile) वापस obj   
 मुझे लगता है कि यह 90 जीबी से अधिक स्मृति का सेवन करता है और एक लंबा समय लगता है।  
     
  1.  ऐसा क्यों होता है?  
  2.  क्या मैं इसे अनुकूलित कर सकता हूं?   
     बीटीडब्ल्यू, मैं अजगर 2.7.6 का उपयोग कर रहा हूं   
     
     
     आप स्टाक्ल प्रोटोकॉल निर्दिष्ट करने का प्रयास कर सकते हैं; सबसे तेज़ -1 है अर्थात्: नवीनतम प्रोटोकॉल, यदि आप एक ही पायथन संस्करण के साथ नमकीन बनाना और अनप्लिकिंग कर रहे हैं तो कोई समस्या नहीं)।  
      cPickle.dump (obj, file, protocol = -1)   
       संपादित करें  : जैसा कि टिप्पणियों में कहा गया है:  लोड  प्रोटोकॉल को स्वयं का पता लगाता है।  
      cPickle.load (obj, फ़ाइल)

Comments

Post a Comment

Popular posts from this blog

Java - Error: no suitable method found for add(int, java.lang.String) -

I'm in the middle of homework work and I'm stuck. At this point in my code, I think that I should have a GUI window that opens and allows me to type "inserted text number". Notice is not going anywhere but at this point, If I pass through the problem then it will be in a linked list. I am getting two of the same error for the lines. Add (index, element); And I can not seem to get past it, there is no suitable method for the error "add (int, java. string string)". Code is below, please advise. To clarify - this will not be a method error because it is a linked list. There should not be any way involved. import java.awt. *; Import java.awt.event. *; Import javax.swing. *; Import java.util. *; Import java.util.Scanner; Import java.util.LinkedList; Public class TopTenList JFrame {Private TopTenList tt; See the Private JTextArea list; Private JTextField cmdTextField; Private JTextField resultsTestfield; // This GUI window is the code for the public toptist...
Read more

java - JPA TypedQuery: Parameter value element did not match expected type -

I am using JPA 2.0 and getting the following code in the DAO layer: Public Zero Test () {string key = "status"; String [] Conditions = {"A", "B"}; & Lt; TestTable & gt; Results = Search (Keys, Conditions); } Public listing & lt; TestTable & gt; Search (string key, object value error) {string sql = "test ndf to testlet and jade nand." + Key + "in:" + key; TypedQuery & LT; TestTable & gt; Query = entityManager.createQuery (SQL, TestTable.class); Query.setParameter (key, Arrays.asList (valueArr)) / *** Error Line *** Return query.getResultList (); } In the above error line, it throws the following exception: java.lang.IllegalArgumentException: parameter value element [[Ljava.lang.String; @ cbe5bc] did not match the expected type [java.lang.String] Why is this expected type string while actually this string []? Please help! Note: This is derived from the normal routine and is a simplified code. I can no...
Read more

c++ - static template member variable has internal linkage but is not defined -

Yes, I know, there is a question with almost the same title, but it refers to a different situation. Error message) In my case, I have a .cpp file with a big named designation name (implementation details). There is a property class template with a static data member in that name space, which I need to access from outside the unknown namespace. I give it a little bit of meat: file.hpp namespace Bar {template & lt; Typename A & gt; Struct foo {static_assert (is_same & lt; a, float & gt; :: value} is_same & lt; a, double>: value, ""); Fixed zero set_static_var (a const & x); // ...}; } and file.cpp namespace {template & lt; Typename A & gt; Struct foo_traits {// supports the implementation of several static code bars: foo & lt; & Gt; Fixed A data; }; The template's & lt; & Gt; Float foo_traits & lt; Float & gt; :: datum; // No change if this is in the global namespace template & lt; & Gt; Doub...
Read more