diff --git a/RTNeural/torch_helpers.h b/RTNeural/torch_helpers.h index a4acec6..c22e78d 100644 --- a/RTNeural/torch_helpers.h +++ b/RTNeural/torch_helpers.h @@ -132,19 +132,23 @@ namespace torch_helpers } } - /** Loads a GRU layer from a JSON object containing a PyTorch state_dict. */ + /** + * Loads a GRU layer from a JSON object containing a PyTorch state_dict. + * If your PyTorch GRU has num_layers > 1, you must call this method once + * for each layer, with the correct layer object and layer_index. + */ template - void loadGRU(const nlohmann::json& modelJson, const std::string& layerPrefix, GRUType& gru, bool hasBias = true) + void loadGRU(const nlohmann::json& modelJson, const std::string& layerPrefix, GRUType& gru, bool hasBias = true, int layer_index = 0) { // For the kernel and recurrent weights, PyTorch stores the weights similar to the // Tensorflow format, but transposed, and with the "r" and "z" indexes swapped. - const std::vector> gru_ih_weights = modelJson.at(layerPrefix + "weight_ih_l0"); + const std::vector> gru_ih_weights = modelJson.at(layerPrefix + "weight_ih_l" + std::to_string(layer_index)); auto wVals = detail::transpose(gru_ih_weights); detail::swap_rz(wVals, gru.out_size); gru.setWVals(wVals); - const std::vector> gru_hh_weights = modelJson.at(layerPrefix + "weight_hh_l0"); + const std::vector> gru_hh_weights = modelJson.at(layerPrefix + "weight_hh_l" + std::to_string(layer_index)); auto uVals = detail::transpose(gru_hh_weights); detail::swap_rz(uVals, gru.out_size); gru.setUVals(uVals); @@ -154,8 +158,8 @@ namespace torch_helpers if(hasBias) { - const std::vector gru_ih_bias = modelJson.at(layerPrefix + "bias_ih_l0"); - const std::vector gru_hh_bias = modelJson.at(layerPrefix + "bias_hh_l0"); + const std::vector gru_ih_bias = modelJson.at(layerPrefix + "bias_ih_l" + std::to_string(layer_index)); + const std::vector gru_hh_bias = modelJson.at(layerPrefix + "bias_hh_l" + std::to_string(layer_index)); std::vector> gru_bias { gru_ih_bias, gru_hh_bias }; detail::swap_rz(gru_bias, gru.out_size); gru.setBVals(gru_bias); @@ -169,20 +173,24 @@ namespace torch_helpers } } - /** Loads a LSTM layer from a JSON object containing a PyTorch state_dict. */ + /** + * Loads a LSTM layer from a JSON object containing a PyTorch state_dict. + * If your PyTorch LSTM has num_layers > 1, you must call this method once + * for each layer, with the correct layer object and layer_index. + */ template - void loadLSTM(const nlohmann::json& modelJson, const std::string& layerPrefix, LSTMType& lstm, bool hasBias = true) + void loadLSTM(const nlohmann::json& modelJson, const std::string& layerPrefix, LSTMType& lstm, bool hasBias = true, int layer_index = 0) { - const std::vector> lstm_weights_ih = modelJson.at(layerPrefix + "weight_ih_l0"); + const std::vector> lstm_weights_ih = modelJson.at(layerPrefix + "weight_ih_l" + std::to_string(layer_index)); lstm.setWVals(detail::transpose(lstm_weights_ih)); - const std::vector> lstm_weights_hh = modelJson.at(layerPrefix + "weight_hh_l0"); + const std::vector> lstm_weights_hh = modelJson.at(layerPrefix + "weight_hh_l" + std::to_string(layer_index)); lstm.setUVals(detail::transpose(lstm_weights_hh)); if(hasBias) { - std::vector lstm_bias_ih = modelJson.at(layerPrefix + "bias_ih_l0"); - std::vector lstm_bias_hh = modelJson.at(layerPrefix + "bias_hh_l0"); + std::vector lstm_bias_ih = modelJson.at(layerPrefix + "bias_ih_l" + std::to_string(layer_index)); + std::vector lstm_bias_hh = modelJson.at(layerPrefix + "bias_hh_l" + std::to_string(layer_index)); for(size_t i = 0; i < lstm_bias_ih.size(); ++i) lstm_bias_hh[i] += lstm_bias_ih[i]; lstm.setBVals(lstm_bias_hh); diff --git a/models/gru_torch.json b/models/gru_torch.json index 9b9cd5f..8d99094 100644 --- a/models/gru_torch.json +++ b/models/gru_torch.json @@ -1 +1 @@ -{"gru.weight_ih_l0": [[-0.0026469826698303223], [0.18966147303581238], [-0.2909903824329376], [-0.26019373536109924], [-0.13617262244224548], [0.0948079526424408], [-0.0070050060749053955], [0.28032878041267395], [-0.031375765800476074], [0.09355467557907104], [-0.10684844851493835], [-0.06949636340141296], [-0.33776670694351196], [-0.23415207862854004], [-0.14574287831783295], [0.013096868991851807], [0.13977208733558655], [0.21214011311531067], [-0.23968836665153503], [-0.15395936369895935], [0.12841662764549255], [0.29358646273612976], [-0.07276135683059692], [0.26456817984580994]], "gru.weight_hh_l0": [[-0.05698692798614502, 0.03741094470024109, 0.3201341927051544, -0.32798099517822266, -0.22257526218891144, -0.08950743079185486, -0.13781508803367615, 0.30547037720680237], [-0.22916612029075623, -0.16275224089622498, -0.24700669944286346, -0.33112430572509766, -0.20638342201709747, 0.30391380190849304, 0.15776202082633972, 0.17135760188102722], [0.018593937158584595, -0.18126098811626434, 0.059815824031829834, -0.33011093735694885, -0.2554657459259033, -0.18226736783981323, 0.22307023406028748, 0.20729586482048035], [-0.15679916739463806, -0.012757062911987305, 0.22611883282661438, 0.3514791429042816, 0.14031904935836792, 0.047762542963027954, 0.23705270886421204, -0.20817306637763977], [0.06588256359100342, -0.27411189675331116, -0.24504294991493225, -0.18263986706733704, 0.1599733531475067, 0.14218518137931824, -0.20942823588848114, 0.10681098699569702], [0.19409093260765076, -0.04462456703186035, 0.013499200344085693, 0.08191999793052673, 0.21933624148368835, 0.33947989344596863, -0.2724565863609314, -0.12956660985946655], [0.13894999027252197, 0.29293641448020935, 0.3076647222042084, 0.3119601905345917, 0.07036226987838745, -0.30744388699531555, 0.03252425789833069, -0.2211848944425583], [-0.32949554920196533, 0.314129501581192, 0.26882776618003845, -0.35267937183380127, 0.06617531180381775, -0.05955961346626282, -0.058181166648864746, -0.1618414968252182], [0.1359611451625824, -0.2094109058380127, 0.129609614610672, 0.17879483103752136, 0.25309881567955017, 0.1321975588798523, -0.349924236536026, -0.22934898734092712], [0.176534503698349, 0.07399919629096985, -0.2758013606071472, -0.20358292758464813, 0.3326050937175751, 0.2382306158542633, -0.15415816009044647, -0.08898401260375977], [-0.33679428696632385, -0.006354808807373047, -0.2662465274333954, -0.2727157771587372, -0.019480645656585693, 0.05308428406715393, -0.14479081332683563, 0.2097906768321991], [-0.21515105664730072, 0.32080379128456116, 0.24229010939598083, -0.2981455326080322, -0.08799389004707336, 0.015953242778778076, 0.051583826541900635, 0.08385378122329712], [0.13874435424804688, 0.02117791771888733, -0.1725088655948639, 0.1672975718975067, -0.339145690202713, -0.20955345034599304, -0.08850497007369995, -0.17222057282924652], [-0.12368477880954742, -0.28978002071380615, -0.07520616054534912, 0.07557430863380432, -0.23032793402671814, -0.01814413070678711, 0.2530914843082428, -0.03634536266326904], [0.009826034307479858, -0.03050065040588379, 0.07155260443687439, 0.22480317950248718, 0.3349020779132843, 0.22452613711357117, 0.3356683552265167, -0.025569558143615723], [-0.31760460138320923, -0.16761161386966705, 0.24073633551597595, -0.0022919178009033203, -0.17573241889476776, -0.2709321081638336, -0.33087366819381714, -0.29840195178985596], [-0.07171362638473511, 0.193890780210495, 0.19114550948143005, -0.34097814559936523, 0.22054025530815125, -0.2766588628292084, -0.0747448205947876, -0.14335621893405914], [-0.06809976696968079, -0.06941762566566467, -0.31726109981536865, -0.3052713871002197, -0.05532383918762207, 0.0045722126960754395, -0.16061042249202728, 0.13318327069282532], [-0.3182186782360077, -0.02386033535003662, 0.31092169880867004, -0.14421159029006958, 0.31925979256629944, 0.12804070115089417, -0.31906813383102417, 0.22369226813316345], [-0.04079809784889221, -0.15782864391803741, 0.2827201187610626, -0.2857047915458679, 0.03793802857398987, -0.07402300834655762, 0.2524769604206085, 0.09869250655174255], [0.16988429427146912, 0.12486055493354797, -0.08502063155174255, -0.07435420155525208, -0.29135677218437195, 0.19157084822654724, 0.28071364760398865, 0.24191001057624817], [-0.24938887357711792, 0.015768438577651978, -0.24923184514045715, -0.19462554156780243, -0.20601749420166016, 0.12082511186599731, -0.21068711578845978, -0.0077135562896728516], [0.014873325824737549, 0.2279086410999298, -0.2672581076622009, -0.24271872639656067, -0.20529484748840332, 0.24746385216712952, -0.12709006667137146, 0.2982182800769806], [0.1278475821018219, 0.0447690486907959, -0.0026318728923797607, -0.06989097595214844, 0.044359058141708374, -0.08073204755783081, -0.002484232187271118, 0.04511094093322754]], "gru.bias_ih_l0": [-0.2765512466430664, -0.18530844151973724, 0.28549179434776306, -0.2869250774383545, -0.025387316942214966, 0.3497487008571625, 0.1277165710926056, 0.010010182857513428, -0.3063928782939911, 0.1751425564289093, -0.25182926654815674, -0.100361168384552, -0.11862292885780334, -0.05235680937767029, 0.0038672685623168945, 0.29161348938941956, 0.04413717985153198, 0.31667521595954895, 0.2162729799747467, -0.2235213816165924, 0.15857014060020447, -0.24992549419403076, -0.14984481036663055, 0.10398808121681213], "gru.bias_hh_l0": [0.11674052476882935, 0.265245646238327, -0.11381444334983826, 0.0005659759044647217, 0.18201759457588196, -0.3419187068939209, 0.25561222434043884, -0.29236122965812683, 0.00487285852432251, -0.060110002756118774, -0.18620701134204865, 0.04672950506210327, 0.2923599183559418, -0.10335054993629456, -0.2099025547504425, -0.13075776398181915, -0.3504238426685333, 0.1595918834209442, -0.1697988659143448, -0.23594041168689728, -0.20368260145187378, 0.20327767729759216, 0.1872325837612152, 0.27135995030403137], "dense.weight": [[0.12824198603630066, -0.11807258427143097, -0.09879985451698303, 0.10445025563240051, 0.2906331717967987, 0.09612840414047241, -0.16728214919567108, -0.16619744896888733]], "dense.bias": [-0.3342737853527069]} \ No newline at end of file +{"gru.weight_ih_l0": [[-0.0026469905860722065], [0.18966144323349], [-0.2909903824329376], [-0.26019373536109924], [-0.13617262244224548], [0.0948079451918602], [-0.007005016785115004], [0.28032875061035156], [-0.03137575834989548], [0.09355466812849045], [-0.10684845596551895], [-0.06949635595083237], [-0.33776670694351196], [-0.23415207862854004], [-0.14574287831783295], [0.013096880167722702], [0.13977210223674774], [0.21214008331298828], [-0.23968836665153503], [-0.15395936369895935], [0.12841664254665375], [0.29358646273612976], [-0.07276134938001633], [0.26456815004348755]], "gru.weight_hh_l0": [[-0.05698692053556442, 0.037410933524370193, 0.3201341927051544, -0.32798099517822266, -0.22257526218891144, -0.08950743079185486, -0.13781508803367615, 0.30547040700912476], [-0.22916610538959503, -0.16275224089622498, -0.24700669944286346, -0.33112430572509766, -0.20638342201709747, 0.30391380190849304, 0.15776202082633972, 0.17135761678218842], [0.01859392412006855, -0.18126098811626434, 0.05981581658124924, -0.33011093735694885, -0.2554657459259033, -0.18226736783981323, 0.22307024896144867, 0.20729584991931915], [-0.15679916739463806, -0.01275704987347126, 0.22611884772777557, 0.35147911310195923, 0.14031903445720673, 0.04776253551244736, 0.23705270886421204, -0.20817306637763977], [0.06588256359100342, -0.27411189675331116, -0.24504294991493225, -0.18263986706733704, 0.1599733829498291, 0.14218516647815704, -0.20942823588848114, 0.10681098699569702], [0.19409091770648956, -0.04462457820773125, 0.013499214313924313, 0.08191998302936554, 0.21933624148368835, 0.33947986364364624, -0.272456556558609, -0.12956660985946655], [0.13894997537136078, 0.29293644428253174, 0.30766475200653076, 0.31196022033691406, 0.07036226242780685, -0.30744388699531555, 0.03252425789833069, -0.2211848944425583], [-0.32949554920196533, 0.3141295313835144, 0.26882776618003845, -0.35267937183380127, 0.06617531180381775, -0.05955960601568222, -0.05818115174770355, -0.1618414968252182], [0.1359611302614212, -0.2094109058380127, 0.1296095997095108, 0.17879481613636017, 0.25309881567955017, 0.1321975439786911, -0.349924236536026, -0.22934898734092712], [0.1765345185995102, 0.07399920374155045, -0.27580133080482483, -0.20358292758464813, 0.3326050937175751, 0.23823058605194092, -0.15415816009044647, -0.08898400515317917], [-0.33679428696632385, -0.006354817189276218, -0.2662465274333954, -0.2727157771587372, -0.01948065310716629, 0.05308429151773453, -0.14479081332683563, 0.2097906619310379], [-0.21515105664730072, 0.32080376148223877, 0.24229009449481964, -0.2981455326080322, -0.08799389749765396, 0.01595325581729412, 0.051583822816610336, 0.08385376632213593], [0.13874433934688568, 0.021177906543016434, -0.1725088655948639, 0.1672975718975067, -0.339145690202713, -0.20955345034599304, -0.08850497007369995, -0.17222057282924652], [-0.12368477135896683, -0.28978002071380615, -0.07520616054534912, 0.07557431608438492, -0.23032793402671814, -0.018144134432077408, 0.2530914843082428, -0.03634537756443024], [0.009826031513512135, -0.030500661581754684, 0.07155261933803558, 0.22480319440364838, 0.3349021077156067, 0.22452616691589355, 0.3356683552265167, -0.02556956559419632], [-0.31760460138320923, -0.16761161386966705, 0.24073635041713715, -0.0022919033654034138, -0.17573241889476776, -0.2709321081638336, -0.33087366819381714, -0.29840195178985596], [-0.07171361893415451, 0.1938907951116562, 0.19114547967910767, -0.34097814559936523, 0.22054025530815125, -0.2766588628292084, -0.0747448205947876, -0.14335621893405914], [-0.06809978187084198, -0.06941762566566467, -0.31726109981536865, -0.3052713871002197, -0.055323850363492966, 0.004572216421365738, -0.16061042249202728, 0.1331832855939865], [-0.3182186782360077, -0.023860342800617218, 0.31092172861099243, -0.14421159029006958, 0.31925979256629944, 0.12804068624973297, -0.3190681040287018, 0.22369228303432465], [-0.04079810529947281, -0.15782864391803741, 0.2827201187610626, -0.2857047915458679, 0.03793802112340927, -0.07402301579713821, 0.25247693061828613, 0.09869249165058136], [0.16988429427146912, 0.12486054003238678, -0.08502064645290375, -0.07435420155525208, -0.29135677218437195, 0.19157083332538605, 0.28071364760398865, 0.24191001057624817], [-0.2493888884782791, 0.015768442302942276, -0.24923184514045715, -0.19462554156780243, -0.20601749420166016, 0.12082510441541672, -0.21068711578845978, -0.007713547442108393], [0.014873327687382698, 0.227908656001091, -0.2672581076622009, -0.24271872639656067, -0.20529484748840332, 0.24746382236480713, -0.12709006667137146, 0.2982182800769806], [0.1278475672006607, 0.044769056141376495, -0.002631859853863716, -0.06989098340272903, 0.04435905069112778, -0.08073203265666962, -0.002484219614416361, 0.045110952109098434]], "gru.bias_ih_l0": [-0.2765512764453888, -0.18530844151973724, 0.28549179434776306, -0.2869250774383545, -0.025387322530150414, 0.3497487008571625, 0.12771658599376678, 0.010010171681642532, -0.3063928782939911, 0.17514252662658691, -0.25182926654815674, -0.100361168384552, -0.11862293630838394, -0.052356794476509094, 0.003867268329486251, 0.29161348938941956, 0.04413719102740288, 0.31667521595954895, 0.2162730097770691, -0.2235213816165924, 0.15857014060020447, -0.24992549419403076, -0.14984481036663055, 0.10398807376623154], "gru.bias_hh_l0": [0.11674053221940994, 0.2652456760406494, -0.11381444334983826, 0.0005659899907186627, 0.18201760947704315, -0.3419187068939209, 0.25561225414276123, -0.29236122965812683, 0.004872850142419338, -0.060110002756118774, -0.18620701134204865, 0.04672951623797417, 0.2923599183559418, -0.10335056483745575, -0.2099025547504425, -0.13075776398181915, -0.3504238426685333, 0.15959186851978302, -0.1697988659143448, -0.23594041168689728, -0.20368260145187378, 0.20327766239643097, 0.18723256886005402, 0.27135995030403137], "gru2.weight_ih_l0": [[0.12824198603630066, -0.11807258427143097, -0.09879983961582184, 0.10445025563240051, 0.2906331419944763, 0.09612840414047241, -0.16728214919567108, -0.16619744896888733], [-0.3342737853527069, 0.07638449966907501, -0.19840797781944275, -0.3152196407318115, 0.31002265214920044, -0.22960153222084045, -0.040220778435468674, 0.101290762424469], [0.011263618245720863, -0.23789961636066437, -0.28578487038612366, 0.2818111777305603, 0.057572171092033386, 0.2933165729045868, -0.11852545291185379, 0.10414106398820877], [-0.08084924519062042, -0.01572292298078537, -0.2153296321630478, 0.11957208067178726, 0.1117815300822258, -0.007293301168829203, -0.07951492071151733, -0.21794083714485168], [0.24449799954891205, -0.26319366693496704, 0.1448386162519455, -0.11888357251882553, -0.17057819664478302, 0.06351412087678909, -0.1836557686328888, 0.08146041631698608], [0.0694311186671257, -0.26250967383384705, 0.05886612460017204, 0.15058870613574982, 0.13994738459587097, -0.044504836201667786, -0.2898387014865875, -0.05450168997049332], [0.12279180437326431, -0.12900353968143463, 0.13420218229293823, 0.23545332252979279, -0.18460845947265625, 0.0034866821952164173, 0.1461939662694931, 0.027710752561688423], [0.029532844200730324, 0.0441465899348259, -0.2779451906681061, 0.02778514102101326, 0.24482505023479462, 0.31859180331230164, 0.20780132710933685, 0.04737722873687744], [0.16511444747447968, -0.17199651896953583, -0.29298558831214905, -0.3040280044078827, 0.3527083098888397, 0.22443191707134247, -0.24438802897930145, 0.13832515478134155], [0.26699206233024597, 0.35341721773147583, 0.3091452717781067, 0.2739168405532837, -0.08105538785457611, -0.12407661229372025, 0.2902846038341522, 0.19812411069869995], [-0.21276099979877472, 0.31785058975219727, 0.1708223521709442, 0.192734494805336, -0.22159889340400696, 0.10143439471721649, -0.1239425390958786, 0.27625125646591187], [-0.06361860036849976, 0.1376427561044693, 0.06279880553483963, 0.1504257172346115, -0.12014717608690262, 0.17238250374794006, -0.2469467669725418, 0.07985179871320724], [-0.23921135067939758, -0.3487936854362488, -0.28392308950424194, 0.2791198194026947, 0.19128498435020447, 0.3317093551158905, 0.28323912620544434, -0.315739244222641], [-0.2412758320569992, -0.057128071784973145, -0.22960898280143738, 0.24550622701644897, -0.26728910207748413, -0.17249920964241028, -0.3415648937225342, -0.2007283717393875], [0.2907896935939789, 0.28947538137435913, 0.2530868351459503, 0.2729882001876831, 0.3143748939037323, -0.09053193777799606, 0.15556421875953674, 0.31499147415161133], [0.11696209758520126, 0.35343894362449646, 0.1833750307559967, 0.2197858691215515, -0.12374091148376465, 0.16964463889598846, 0.04062559828162193, -0.08443467319011688], [-0.19930152595043182, -0.19838465750217438, -0.2720525562763214, 0.23735110461711884, 0.25135213136672974, -0.04023886099457741, -0.2045964002609253, 0.2732633352279663], [0.22609347105026245, 0.026281045749783516, -0.16692502796649933, 0.3249324858188629, 0.1445823609828949, -0.2683984041213989, 0.3383798897266388, 0.2684791684150696], [-0.1288669854402542, 0.19875164330005646, -0.20088514685630798, -0.055406879633665085, 0.3002026081085205, 0.014608519151806831, -0.25003936886787415, -0.11816918104887009], [-0.09597035497426987, -0.06821062415838242, 0.0338352769613266, 0.32697662711143494, 0.01892937161028385, -0.21829800307750702, 0.01812112145125866, 0.16952431201934814], [0.17537669837474823, -0.32312604784965515, -0.06326570361852646, -0.2627412676811218, -0.1508561223745346, 0.12738294899463654, -0.25106894969940186, 0.13142529129981995], [0.30008837580680847, 0.023188984021544456, -0.23563897609710693, -0.1266728639602661, 0.07720337063074112, -0.269520103931427, 0.17564897239208221, -0.32098037004470825], [-0.3398685157299042, -0.3435339033603668, -0.07172302156686783, 0.23774093389511108, -0.3346308469772339, 0.2938690185546875, -0.14142943918704987, 0.10355016589164734], [0.01612306572496891, -0.31880584359169006, 0.29321208596229553, 0.19036850333213806, 0.3514305353164673, 0.17861947417259216, -0.2333696186542511, 0.2950699031352997]], "gru2.weight_hh_l0": [[0.01900152675807476, 0.16766083240509033, -0.2834894061088562, -0.10169132798910141, -0.3471461236476898, -0.13770639896392822, 0.07627247273921967, -0.2775965929031372], [0.11270016431808472, 0.18978986144065857, 0.04925327003002167, -0.23655667901039124, -0.2741169035434723, -0.1090770959854126, 0.15519514679908752, 0.3487437963485718], [0.20330345630645752, -0.039813388139009476, 0.12396163493394852, -0.34685811400413513, -0.30197039246559143, 0.16497081518173218, -0.20025800168514252, 0.17009299993515015], [-0.24958470463752747, -0.1751188486814499, -0.2912180423736572, 0.18449854850769043, -0.036025356501340866, 0.27209508419036865, 0.21880434453487396, 0.19563613831996918], [0.01136890146881342, -0.10931092500686646, -0.07687369734048843, 0.04698745533823967, 0.1752597838640213, -0.2476959228515625, 0.29672953486442566, -0.03844188526272774], [-0.29625850915908813, -0.19129282236099243, 0.3128302991390228, 0.3233341872692108, -0.32748931646347046, 0.2493606060743332, 0.1771865338087082, 0.2092747837305069], [0.29929327964782715, -0.19054770469665527, 0.11164358258247375, 0.1446857899427414, -0.10447268187999725, 0.11831775307655334, -0.10172204673290253, 0.21858838200569153], [-0.09809501469135284, -0.13180318474769592, 0.08900672197341919, 0.12540313601493835, -0.17273615300655365, 0.03125353157520294, 0.20489682257175446, -0.03517740219831467], [0.10759828984737396, -0.08527246862649918, 0.12392032891511917, -0.2561120092868805, -0.2078995704650879, -0.179460346698761, 0.3249194025993347, -0.09513559192419052], [-0.0009653313900344074, -0.17129503190517426, 0.3529488444328308, 0.34530502557754517, -0.266645222902298, -0.2866150736808777, -0.26799097657203674, -0.0017050928436219692], [-0.09012214094400406, -0.23141683638095856, -0.1268097460269928, 0.06679714471101761, -0.18472836911678314, 0.07834125310182571, -0.08107540756464005, -0.17131900787353516], [0.04857310280203819, 0.2907121777534485, -0.23903010785579681, 0.016417039558291435, -0.1303790807723999, 0.3469441831111908, -0.33543846011161804, -0.338937908411026], [0.34838616847991943, -0.22368967533111572, 0.06778443604707718, -0.030513811856508255, -0.07447849214076996, -0.07896536588668823, 0.2246621698141098, 0.016898779198527336], [-0.3442247211933136, -0.20872382819652557, -0.12052645534276962, 0.1779138594865799, -0.2287963181734085, 0.33337241411209106, -0.07874670624732971, -0.06348474323749542], [0.2770295739173889, 0.17769865691661835, 0.2998558282852173, 0.20451095700263977, -0.10725180059671402, -0.23457291722297668, -0.02630545012652874, 0.29261407256126404], [-0.11865951865911484, -0.3278747797012329, 0.1449315845966339, 0.3441741168498993, -0.10065072029829025, -0.2927505373954773, -0.3206940293312073, 0.0886002629995346], [-0.02677096053957939, -0.1785399466753006, 0.071464404463768, 0.1342650204896927, 0.2811877131462097, 0.2744925618171692, -0.05292118340730667, -0.31175175309181213], [-0.3194790184497833, 0.3301091194152832, 0.15629011392593384, 0.15411652624607086, -0.30590182542800903, 0.3273960053920746, 0.33493635058403015, 0.3192093074321747], [-0.2982523441314697, -0.1334039568901062, -0.24316121637821198, 0.33480289578437805, -0.1519148200750351, -0.16141639649868011, 0.18523117899894714, -0.16355109214782715], [-0.17413286864757538, -0.030925840139389038, -0.03398338332772255, -0.2754104733467102, 0.29474619030952454, -0.1559600681066513, 0.12541064620018005, 0.3075149357318878], [0.1783027946949005, 0.05005604028701782, 0.3008233904838562, 0.047526851296424866, -0.16357381641864777, 0.3344613313674927, 0.0836791917681694, -0.3449552655220032], [-0.10065367072820663, -0.24082906544208527, 0.30997899174690247, -0.0583878830075264, -0.32227271795272827, -0.022225549444556236, 0.22203607857227325, 0.0918533205986023], [0.11179514229297638, 0.032835640013217926, 0.13181132078170776, -0.08614398539066315, -0.14064361155033112, -0.3304693400859833, -0.26634481549263, 0.1532309353351593], [-0.20934368669986725, 0.050723057240247726, 0.11285121738910675, 0.025032952427864075, -0.2292262464761734, 0.33811312913894653, -0.2055910974740982, 0.2907978594303131]], "gru2.bias_ih_l0": [-0.2812546491622925, -0.08504673093557358, 0.1923220157623291, -0.14445507526397705, 0.2970000207424164, -0.24330005049705505, -0.296904057264328, -0.15942399203777313, 0.057152051478624344, 0.3255363404750824, -0.16878670454025269, 0.12644067406654358, -0.0886383205652237, -0.07667240500450134, 0.25996899604797363, -0.273998886346817, 0.03755208104848862, 0.3324848413467407, -0.048582546412944794, 0.27451232075691223, -0.10887917131185532, 0.28459709882736206, -0.3420029282569885, -0.05095541104674339], "gru2.bias_hh_l0": [-0.06210038810968399, 0.11458134651184082, 0.13870869576931, 0.2714642584323883, -0.05267449840903282, -0.014020191505551338, 0.24211733043193817, -0.09566204994916916, 0.3099367916584015, -0.23540014028549194, -0.03825795650482178, -0.01898968406021595, 0.15775902569293976, 0.24171601235866547, -0.05603954568505287, -0.2929121255874634, 0.17518295347690582, 0.10575903952121735, 0.14202214777469635, -0.21809564530849457, 0.22754539549350739, 0.3348698616027832, 0.030678311362862587, -0.3302359879016876], "gru2.weight_ih_l1": [[0.24819089472293854, -0.2621425986289978, 0.08127205818891525, 0.05137759819626808, -0.16547590494155884, 0.1231057196855545, -0.3162297010421753, 0.08052513748407364], [-0.22413550317287445, -0.038231026381254196, 0.04547716677188873, 0.30120784044265747, -0.16868749260902405, 0.2264990508556366, -0.044913239777088165, -0.1679123193025589], [-0.3078741729259491, -0.3243917226791382, 0.34528401494026184, -0.08817604929208755, 0.017659571021795273, 0.09585268050432205, 0.24032162129878998, 0.301748663187027], [0.286737859249115, -0.26194173097610474, -0.05664519593119621, -0.2092108428478241, -0.2020033448934555, 0.08386535942554474, 0.3318621814250946, -0.28323301672935486], [0.2139720916748047, -0.18330566585063934, -0.06886310130357742, 0.2806403934955597, -0.07996327430009842, 0.03219306841492653, -0.24714532494544983, 0.3009590804576874], [-0.045703787356615067, -0.2585855722427368, 0.10352408140897751, -0.25138258934020996, -0.28054720163345337, 0.021538177505135536, 0.28031253814697266, -0.1000499576330185], [0.16640587151050568, 0.30381593108177185, 0.23449814319610596, -0.18546032905578613, -0.03875647112727165, -0.11125790327787399, -0.28430038690567017, 0.0001460809726268053], [0.26602596044540405, 0.29787424206733704, 0.032986778765916824, 0.08030011504888535, -0.1530609130859375, 0.26687708497047424, -0.14711657166481018, -0.24559684097766876], [0.054444920271635056, 0.21191473305225372, -0.3187607526779175, 0.31960076093673706, 0.12718413770198822, -0.24770401418209076, -0.07615804672241211, 0.3067358136177063], [-0.2712584137916565, -0.10333559662103653, 0.11595854163169861, -0.30974283814430237, 0.19381733238697052, 0.18404138088226318, 0.21927575767040253, -0.2254069447517395], [0.35213953256607056, -0.20957283675670624, 0.35296666622161865, -0.33930179476737976, -0.31500545144081116, 0.21715117990970612, 0.03695090115070343, 0.02039625123143196], [-0.19578315317630768, -0.1483069658279419, -0.10337458550930023, -0.34441596269607544, 0.018373707309365273, 0.0625290647149086, -0.00029932690085843205, 0.11417311429977417], [0.33546948432922363, 0.09400420635938644, -0.12942613661289215, -0.14550372958183289, -0.22620542347431183, -0.24508985877037048, -0.05693971738219261, -0.06253142654895782], [0.15728263556957245, -0.15112173557281494, 0.2818540632724762, -0.24808140099048615, 0.0010048651602119207, 0.31781619787216187, 0.35156822204589844, -0.20480012893676758], [0.062978096306324, 0.04176267981529236, -0.16576409339904785, -0.12215087562799454, 0.09576134383678436, -0.24584871530532837, 0.05833477899432182, 0.15299127995967865], [-0.1393248289823532, 0.2936759889125824, -0.023267503827810287, 0.16041165590286255, 0.350126177072525, -0.10807008296251297, 0.19212378561496735, -0.10112659633159637], [-0.051644597202539444, -0.05991709604859352, -0.0021964830812066793, -0.13356129825115204, 0.08286828547716141, 0.013322028331458569, 0.22411388158798218, -0.07156109064817429], [0.035454392433166504, -0.1315184384584427, -0.29608461260795593, 0.1430714726448059, 0.04523996263742447, -0.1415923833847046, -0.11953815072774887, 0.09246175736188889], [-0.06392842531204224, 0.23103861510753632, 0.020026369020342827, 0.13355007767677307, 0.15404188632965088, -0.0867500975728035, 0.15297013521194458, 0.26089879870414734], [0.016269948333501816, 0.06918788701295853, 0.012846569530665874, 0.24478885531425476, -0.14926858246326447, -0.18793831765651703, 0.1540621519088745, -0.30770251154899597], [0.005668329540640116, -0.16259604692459106, 0.23335710167884827, -0.3291720151901245, 0.21437092125415802, 0.34979042410850525, 0.0715380385518074, -0.02355608344078064], [0.3480202257633209, -0.15109185874462128, -0.028331490233540535, -0.15482278168201447, -0.04880495369434357, 0.07684090733528137, 0.04722107574343681, -0.06677737832069397], [-0.3534970283508301, 0.018103377893567085, -0.010472944006323814, 0.053187426179647446, 0.270910382270813, 0.3436572253704071, -0.2097570151090622, -0.022045625373721123], [-0.14165951311588287, -0.3258509337902069, -0.2572663426399231, 0.3318314552307129, 0.20614323019981384, 0.1899115890264511, 0.19648489356040955, -0.28089073300361633]], "gru2.weight_hh_l1": [[0.03712989762425423, 0.3290573060512543, -0.19731315970420837, 0.31451907753944397, 0.09292743355035782, 0.24874019622802734, -0.15145790576934814, 0.162994384765625], [-0.31342074275016785, -0.022449055686593056, 0.117928147315979, 0.10602869838476181, 0.2958563268184662, 0.3474217355251312, 0.32164767384529114, 0.2373729795217514], [0.24856996536254883, -0.04561890661716461, -0.27437400817871094, -0.1312486082315445, -0.0396915003657341, -0.19105549156665802, 0.18072618544101715, 0.12410686910152435], [0.057046517729759216, 0.08540460467338562, 0.310579776763916, 0.1287752240896225, -0.31004488468170166, -0.2566376030445099, 0.1558285355567932, 0.04818198084831238], [0.1724250316619873, -0.35310080647468567, -0.3262835741043091, 0.2168082743883133, 0.22614890336990356, -0.3198636472225189, 0.13420365750789642, -0.27607011795043945], [0.26774871349334717, 0.11094167083501816, 0.34958896040916443, -0.3486008048057556, -0.3403574228286743, 0.23903816938400269, 0.3138928711414337, 0.21661506593227386], [0.23505283892154694, -0.2977878749370575, 0.25590676069259644, -0.3338063955307007, 0.07898441702127457, -0.23158976435661316, -0.1404297947883606, 0.06260328739881516], [-0.13901013135910034, -0.05594024807214737, -0.3351065218448639, -0.33335602283477783, 0.13695353269577026, -0.14965152740478516, -0.21509820222854614, -0.13950589299201965], [-0.28905412554740906, -0.28263065218925476, 0.2115565687417984, 0.17969071865081787, 0.04709454998373985, -0.1931319385766983, 0.11762755364179611, 0.015883460640907288], [-0.25267499685287476, 0.07608108967542648, 0.3219258785247803, -0.34775733947753906, -0.351570725440979, 0.04529901221394539, 0.2662335932254791, -0.21513360738754272], [0.0778302252292633, 0.24854283034801483, 0.10900628566741943, 0.07651275396347046, 0.35274937748908997, 0.23033037781715393, -0.19884797930717468, 0.030559919774532318], [0.18062065541744232, 0.31180208921432495, -0.3517618775367737, 0.1914510428905487, -0.1026478037238121, -0.34620699286460876, 0.07847966253757477, -0.19247929751873016], [0.05010282248258591, -0.22954344749450684, -0.26605919003486633, -0.029999367892742157, -0.11876767128705978, 0.20678091049194336, 0.030482707545161247, 0.27596911787986755], [0.06625695526599884, -0.11368910223245621, 0.23947358131408691, 0.019319945946335793, 0.0663590282201767, -0.11371076107025146, 0.0012688308488577604, -0.06797882169485092], [-0.030058162286877632, -0.2757289707660675, -0.002174313645809889, -0.2934649586677551, -0.0760602280497551, 0.20490051805973053, -0.24584345519542694, -0.23831328749656677], [-0.08632943034172058, -0.09692101925611496, 0.059852149337530136, 0.058695387095212936, 0.1792856901884079, -0.24355605244636536, -0.024950681254267693, 0.19773931801319122], [0.30581361055374146, -0.025790119543671608, -0.2045731246471405, 0.10163336992263794, 0.20134063065052032, -0.22088244557380676, -0.20516470074653625, 0.15626996755599976], [-0.02477206289768219, -0.33393070101737976, -0.20385359227657318, 0.14337751269340515, -0.11991671472787857, 0.2440328150987625, 0.27949804067611694, 0.05143137648701668], [-0.027957141399383545, -0.11222744733095169, -0.017877724021673203, 0.06435410678386688, -0.270062118768692, -0.08449772745370865, -0.2940860390663147, 0.21699510514736176], [-0.22515562176704407, 0.32298651337623596, -0.09113927185535431, -0.2025419920682907, 0.16986583173274994, 0.05270741507411003, 0.24482016265392303, 0.14759783446788788], [-0.3405919075012207, 0.22361911833286285, -0.06657899916172028, -0.15626037120819092, 0.22452545166015625, 0.25785720348358154, -0.3107489049434662, -0.03196948021650314], [0.2903403639793396, 0.1369265466928482, 0.2978578805923462, -0.1211622804403305, -0.19503504037857056, 0.30402398109436035, 0.1473691463470459, 0.3394050598144531], [-0.14767804741859436, -0.22700490057468414, -0.041441015899181366, -0.3328987658023834, 0.13858415186405182, 0.2607768774032593, 0.08487291634082794, -0.03493349999189377], [0.17529401183128357, -0.22441847622394562, 0.34586116671562195, -0.3515535593032837, -0.3386847674846649, -0.0835452526807785, 0.28879812359809875, 0.03539981320500374]], "gru2.bias_ih_l1": [0.13578066229820251, -0.25915706157684326, 0.12893588840961456, -0.03950727358460426, 0.14171253144741058, 0.24969445168972015, 0.1536826640367508, -0.030074726790189743, -0.021778583526611328, -0.2217416912317276, -0.1278809905052185, 0.22975245118141174, -0.14177368581295013, 0.21957071125507355, -0.14019520580768585, -0.08234217017889023, 0.007524392567574978, -0.3244437277317047, -0.0035302198957651854, -0.03563667833805084, -0.03176194801926613, -0.07067681103944778, 0.2787334620952606, 0.26091787219047546], "gru2.bias_hh_l1": [-0.23962336778640747, 0.16423501074314117, -0.27732113003730774, -0.3009875416755676, 0.10807488858699799, 0.005195989739149809, -0.164934903383255, -0.34100356698036194, -0.1368732750415802, 0.11808665841817856, -0.32724952697753906, -0.3434649109840393, 0.04485621675848961, -0.25470131635665894, -0.30974113941192627, -0.13621924817562103, -0.056922394782304764, -0.3212758004665375, -0.23607739806175232, 0.0231817364692688, -0.33339083194732666, -0.04969349503517151, -0.2282903790473938, -0.24509640038013458], "gru2.weight_ih_l2": [[0.1389574408531189, -0.27212637662887573, -0.2679348587989807, 0.20162495970726013, 0.06610257178544998, 0.3219856023788452, -0.09450322389602661, -0.17077161371707916], [-0.032720115035772324, 0.0017887543654069304, 0.26963546872138977, -0.35216742753982544, -0.025173258036375046, 0.1563951075077057, -0.194695845246315, -0.17965489625930786], [0.17086096107959747, -0.3387696146965027, 0.08377651125192642, -0.2737162411212921, 0.1757379025220871, -0.30230244994163513, 0.2173662930727005, -0.33468517661094666], [-0.2971852123737335, 0.005210277624428272, 0.2785959839820862, -0.3027815520763397, -0.15770591795444489, 0.3105197548866272, -0.059289995580911636, 0.14647172391414642], [-0.3401177227497101, -0.11118578910827637, -0.17954577505588531, 0.2980671525001526, 0.14673876762390137, -0.25797930359840393, 0.05700234696269035, -0.0040635461919009686], [-0.1452644169330597, -0.20190607011318207, -0.1173226609826088, 0.27868014574050903, -0.253445565700531, -0.2518514096736908, -0.10907798260450363, 0.006150531582534313], [0.09624144434928894, 0.010609457269310951, -0.08510936051607132, -0.21437716484069824, -0.0634390115737915, -0.14232409000396729, 0.2856459617614746, -0.3441522419452667], [-0.22551719844341278, -0.287647545337677, -0.06461428105831146, 0.27551475167274475, 0.30990341305732727, -0.30778777599334717, -0.015318356454372406, 0.2075238674879074], [0.15584543347358704, 0.28959694504737854, -0.009806939400732517, -0.23754996061325073, 0.23388634622097015, -0.12123861163854599, 0.1830650418996811, -0.08712845295667648], [0.1502934694290161, 0.3179951012134552, 0.3287535607814789, -0.3217565715312958, -0.23386859893798828, -0.1461825966835022, -0.22546136379241943, 0.33923450112342834], [-0.0312254186719656, -0.23452630639076233, -0.15732751786708832, -0.19529037177562714, 0.14424602687358856, -0.3083873391151428, -0.3296542763710022, -0.3485192060470581], [0.15221326053142548, 0.1748161017894745, -0.2195846140384674, 0.08767366409301758, 0.26098769903182983, 0.05137178301811218, -0.07480538636445999, 0.0261213518679142], [-0.03791071102023125, 0.17801383137702942, -0.2400667518377304, 0.17928780615329742, 0.19927100837230682, -0.21420903503894806, 0.28869882225990295, 0.34725475311279297], [-0.13938088715076447, -0.0990283191204071, 0.17619527876377106, -0.2769809365272522, 0.13981550931930542, 0.08248568326234818, 0.22285521030426025, -0.3070988655090332], [-0.29372677206993103, 0.15879110991954803, 0.1273537427186966, -0.32907554507255554, -0.19716240465641022, -0.32349374890327454, -0.2532937526702881, -0.1595231592655182], [0.2925790250301361, -0.07037512212991714, 0.20306380093097687, 0.3357629179954529, 0.16112567484378815, -0.31650465726852417, 0.17791609466075897, 0.13485747575759888], [0.2740270495414734, -0.34875714778900146, 0.21744097769260406, 0.28939807415008545, -0.32893359661102295, 0.03699098154902458, 0.3018190264701843, -0.25714224576950073], [0.11600767821073532, 0.1562272310256958, 0.09266283363103867, 0.3515295684337616, 0.2894822955131531, 0.3033328056335449, -0.04406929016113281, 0.2965296804904938], [-0.3294808864593506, -0.19078777730464935, -0.07561840116977692, -0.10502543300390244, 0.3265753984451294, 0.16675885021686554, 0.22762227058410645, 0.24049033224582672], [-0.2641056478023529, -0.040948908776044846, 0.05162748694419861, 0.09195658564567566, 0.1818086951971054, -0.14068128168582916, -0.10660851001739502, 0.29583272337913513], [-0.09488818794488907, -0.24559280276298523, 0.23972326517105103, 0.2394106239080429, -0.11086264997720718, -0.07068241387605667, -0.2608799636363983, -0.29525020718574524], [0.13295358419418335, -0.1510353833436966, 0.28146225214004517, -0.2830948531627655, -0.04886994510889053, 0.007633847650140524, 0.1817077398300171, 0.28614160418510437], [0.23942793905735016, 0.15563279390335083, -0.16227881610393524, -0.2524893283843994, -0.3162933886051178, 0.01753789372742176, 0.3429044485092163, -0.06715480983257294], [-0.01488407514989376, -0.256925106048584, 0.10854431986808777, 0.22414696216583252, -0.3485738933086395, -0.24894478917121887, 0.26187974214553833, 0.08370890468358994]], "gru2.weight_hh_l2": [[-0.02204267494380474, 0.06320058554410934, -0.053754933178424835, -0.2471214234828949, -0.33037084341049194, 0.23253487050533295, -0.04205045849084854, -0.13130521774291992], [-0.0912574902176857, -0.19283616542816162, -0.10471662133932114, -0.303495317697525, 0.2645794153213501, 0.14437086880207062, -0.1783045530319214, -0.12067244946956635], [0.158617302775383, -0.13092273473739624, 0.09322979301214218, 0.0973479226231575, -0.22255946695804596, 0.0885656550526619, 0.021631870418787003, 0.30878782272338867], [-0.1279226839542389, -0.09088744223117828, 0.3046218156814575, -0.2887125313282013, 0.025543687865138054, 0.34064948558807373, -0.15852200984954834, 0.33894532918930054], [0.31372228264808655, 0.3289247453212738, -0.03373716026544571, 0.31983616948127747, -0.1540500521659851, -0.12102315574884415, 0.13372541964054108, 0.0746871680021286], [0.1949053555727005, 0.3359886109828949, -0.22132055461406708, 0.1876402050256729, 0.11828643828630447, 0.18652348220348358, 0.16764524579048157, -0.13225369155406952], [-0.2794330418109894, 0.28297874331474304, -0.20160873234272003, 0.22603628039360046, -0.3368103504180908, -0.061165571212768555, 0.0037472762633115053, 0.06117307394742966], [0.02857842855155468, 0.11140689253807068, -0.03936625272035599, 0.08658678084611893, 0.349870890378952, -0.22876743972301483, -0.01930287666618824, -0.13495947420597076], [0.3102182149887085, 0.30265578627586365, -0.009641133248806, -0.12255313247442245, -0.218448668718338, 0.25298142433166504, -0.0243469700217247, 0.3329799473285675], [0.2016180455684662, 0.3094668984413147, 0.27963370084762573, -0.22975392639636993, 0.10348585247993469, -0.14660406112670898, 0.17739655077457428, -0.03178790956735611], [0.030607083812355995, -0.2445206344127655, -0.3159797191619873, 0.13313864171504974, 0.08216064423322678, 0.03071063756942749, 0.24013154208660126, -0.1476348489522934], [0.12550467252731323, -0.19472362101078033, 0.0732562392950058, -0.08071572333574295, 0.24760286509990692, 0.3091762661933899, 0.3070695102214813, 0.015904324129223824], [0.20848798751831055, -0.3532487452030182, -0.2073923796415329, 0.06318819522857666, 0.001971755875274539, -0.2775651812553406, -0.15648682415485382, -0.16512857377529144], [-0.3502872884273529, 0.03371865674853325, 0.24101522564888, 0.1434943825006485, -0.16798485815525055, -0.32465577125549316, -0.28523874282836914, 0.006558133754879236], [0.24321407079696655, -0.14317941665649414, -0.19238430261611938, -0.18860533833503723, -0.03060666099190712, -0.3357536196708679, -0.31199124455451965, 0.3480346202850342], [-0.16861529648303986, -0.0637681782245636, -0.09459417313337326, -0.31059882044792175, -0.06232903525233269, 0.10822859406471252, -0.14356303215026855, -0.01506838295608759], [-0.001691226614639163, -0.3519641160964966, 0.2569330334663391, 0.285590797662735, 0.24105463922023773, -0.11610634624958038, 0.18475399911403656, -0.3312520980834961], [-0.08746439963579178, -0.07190719991922379, -0.12485725432634354, 0.1484924554824829, -0.161099374294281, -0.04097820073366165, -0.10208974033594131, -0.3320159614086151], [-0.058386027812957764, -0.2996281087398529, 0.20615844428539276, 0.1889611780643463, 0.33120599389076233, -0.11872421205043793, 0.017978960648179054, 0.06925781071186066], [0.35292354226112366, 0.3240717947483063, -0.1829778403043747, -0.30083951354026794, -0.31865352392196655, -0.1702570766210556, 0.29726293683052063, 0.11874077469110489], [0.34112709760665894, 0.26206111907958984, 0.0051256888546049595, -0.2191236913204193, 0.3452450931072235, 0.28361034393310547, 0.1530684530735016, -0.19313329458236694], [0.2785220444202423, 0.03217899054288864, 0.23378148674964905, 0.1475614309310913, 0.1877398043870926, -0.31023460626602173, -0.19603869318962097, 0.21205124258995056], [-0.07365785539150238, -0.307584285736084, 0.32152119278907776, -0.007645775564014912, 0.28520581126213074, -0.2763432562351227, 0.12172625213861465, -0.13317249715328217], [-0.1487806886434555, -0.07374054938554764, -0.13086634874343872, 0.19373317062854767, -0.06717482954263687, 0.26807042956352234, 0.0806749239563942, -0.05462939664721489]], "gru2.bias_ih_l2": [-0.2042122185230255, -0.32373929023742676, -0.10313940793275833, -0.32740160822868347, -0.0655030682682991, 0.005778585560619831, -0.022784333676099777, -0.1736713945865631, 0.24538855254650116, 0.1991141438484192, -0.08710746467113495, -0.13969101011753082, 0.2222755253314972, 0.3076000511646271, -0.3237271010875702, -0.07638846337795258, -0.0328105203807354, -0.12800785899162292, 0.30183175206184387, -0.05222386494278908, 0.29975971579551697, 0.0017478297231718898, -0.038350384682416916, -0.20622827112674713], "gru2.bias_hh_l2": [-0.11755876988172531, 0.11392537504434586, 0.15638992190361023, -0.012579485774040222, 0.33688080310821533, -0.2447059005498886, 0.1355571150779724, 0.3184369206428528, -0.0614767000079155, 0.2806892395019531, 0.005828108172863722, -0.2647566497325897, -0.19396518170833588, 0.13159805536270142, -0.1529998481273651, 0.08503349870443344, 0.34798678755760193, 0.1200951635837555, -0.033088985830545425, 0.08837241679430008, -0.2036975771188736, -0.2970743179321289, -0.2657659351825714, -0.29666754603385925], "dense.weight": [[0.07255604863166809, 0.06886626034975052, -0.15024887025356293, -0.34582844376564026, 0.191521555185318, -0.2006094753742218, -0.059024933725595474, -0.29644811153411865]], "dense.bias": [-0.19946004450321198]} \ No newline at end of file diff --git a/models/lstm_torch.json b/models/lstm_torch.json index 2672104..36aa60e 100644 --- a/models/lstm_torch.json +++ b/models/lstm_torch.json @@ -1 +1 @@ -{"lstm.weight_ih_l0": [[-0.0026469826698303223], [0.18966147303581238], [-0.2909903824329376], [-0.26019373536109924], [-0.13617262244224548], [0.0948079526424408], [-0.0070050060749053955], [0.28032878041267395], [-0.031375765800476074], [0.09355467557907104], [-0.10684844851493835], [-0.06949636340141296], [-0.33776670694351196], [-0.23415207862854004], [-0.14574287831783295], [0.013096868991851807], [0.13977208733558655], [0.21214011311531067], [-0.23968836665153503], [-0.15395936369895935], [0.12841662764549255], [0.29358646273612976], [-0.07276135683059692], [0.26456817984580994], [-0.05698692798614502], [0.03741094470024109], [0.3201341927051544], [-0.32798099517822266], [-0.22257526218891144], [-0.08950743079185486], [-0.13781508803367615], [0.30547037720680237]], "lstm.weight_hh_l0": [[-0.22916612029075623, -0.16275224089622498, -0.24700669944286346, -0.33112430572509766, -0.20638342201709747, 0.30391380190849304, 0.15776202082633972, 0.17135760188102722], [0.018593937158584595, -0.18126098811626434, 0.059815824031829834, -0.33011093735694885, -0.2554657459259033, -0.18226736783981323, 0.22307023406028748, 0.20729586482048035], [-0.15679916739463806, -0.012757062911987305, 0.22611883282661438, 0.3514791429042816, 0.14031904935836792, 0.047762542963027954, 0.23705270886421204, -0.20817306637763977], [0.06588256359100342, -0.27411189675331116, -0.24504294991493225, -0.18263986706733704, 0.1599733531475067, 0.14218518137931824, -0.20942823588848114, 0.10681098699569702], [0.19409093260765076, -0.04462456703186035, 0.013499200344085693, 0.08191999793052673, 0.21933624148368835, 0.33947989344596863, -0.2724565863609314, -0.12956660985946655], [0.13894999027252197, 0.29293641448020935, 0.3076647222042084, 0.3119601905345917, 0.07036226987838745, -0.30744388699531555, 0.03252425789833069, -0.2211848944425583], [-0.32949554920196533, 0.314129501581192, 0.26882776618003845, -0.35267937183380127, 0.06617531180381775, -0.05955961346626282, -0.058181166648864746, -0.1618414968252182], [0.1359611451625824, -0.2094109058380127, 0.129609614610672, 0.17879483103752136, 0.25309881567955017, 0.1321975588798523, -0.349924236536026, -0.22934898734092712], [0.176534503698349, 0.07399919629096985, -0.2758013606071472, -0.20358292758464813, 0.3326050937175751, 0.2382306158542633, -0.15415816009044647, -0.08898401260375977], [-0.33679428696632385, -0.006354808807373047, -0.2662465274333954, -0.2727157771587372, -0.019480645656585693, 0.05308428406715393, -0.14479081332683563, 0.2097906768321991], [-0.21515105664730072, 0.32080379128456116, 0.24229010939598083, -0.2981455326080322, -0.08799389004707336, 0.015953242778778076, 0.051583826541900635, 0.08385378122329712], [0.13874435424804688, 0.02117791771888733, -0.1725088655948639, 0.1672975718975067, -0.339145690202713, -0.20955345034599304, -0.08850497007369995, -0.17222057282924652], [-0.12368477880954742, -0.28978002071380615, -0.07520616054534912, 0.07557430863380432, -0.23032793402671814, -0.01814413070678711, 0.2530914843082428, -0.03634536266326904], [0.009826034307479858, -0.03050065040588379, 0.07155260443687439, 0.22480317950248718, 0.3349020779132843, 0.22452613711357117, 0.3356683552265167, -0.025569558143615723], [-0.31760460138320923, -0.16761161386966705, 0.24073633551597595, -0.0022919178009033203, -0.17573241889476776, -0.2709321081638336, -0.33087366819381714, -0.29840195178985596], [-0.07171362638473511, 0.193890780210495, 0.19114550948143005, -0.34097814559936523, 0.22054025530815125, -0.2766588628292084, -0.0747448205947876, -0.14335621893405914], [-0.06809976696968079, -0.06941762566566467, -0.31726109981536865, -0.3052713871002197, -0.05532383918762207, 0.0045722126960754395, -0.16061042249202728, 0.13318327069282532], [-0.3182186782360077, -0.02386033535003662, 0.31092169880867004, -0.14421159029006958, 0.31925979256629944, 0.12804070115089417, -0.31906813383102417, 0.22369226813316345], [-0.04079809784889221, -0.15782864391803741, 0.2827201187610626, -0.2857047915458679, 0.03793802857398987, -0.07402300834655762, 0.2524769604206085, 0.09869250655174255], [0.16988429427146912, 0.12486055493354797, -0.08502063155174255, -0.07435420155525208, -0.29135677218437195, 0.19157084822654724, 0.28071364760398865, 0.24191001057624817], [-0.24938887357711792, 0.015768438577651978, -0.24923184514045715, -0.19462554156780243, -0.20601749420166016, 0.12082511186599731, -0.21068711578845978, -0.0077135562896728516], [0.014873325824737549, 0.2279086410999298, -0.2672581076622009, -0.24271872639656067, -0.20529484748840332, 0.24746385216712952, -0.12709006667137146, 0.2982182800769806], [0.1278475821018219, 0.0447690486907959, -0.0026318728923797607, -0.06989097595214844, 0.044359058141708374, -0.08073204755783081, -0.002484232187271118, 0.04511094093322754], [-0.2765512466430664, -0.18530844151973724, 0.28549179434776306, -0.2869250774383545, -0.025387316942214966, 0.3497487008571625, 0.1277165710926056, 0.010010182857513428], [-0.3063928782939911, 0.1751425564289093, -0.25182926654815674, -0.100361168384552, -0.11862292885780334, -0.05235680937767029, 0.0038672685623168945, 0.29161348938941956], [0.04413717985153198, 0.31667521595954895, 0.2162729799747467, -0.2235213816165924, 0.15857014060020447, -0.24992549419403076, -0.14984481036663055, 0.10398808121681213], [0.11674052476882935, 0.265245646238327, -0.11381444334983826, 0.0005659759044647217, 0.18201759457588196, -0.3419187068939209, 0.25561222434043884, -0.29236122965812683], [0.00487285852432251, -0.060110002756118774, -0.18620701134204865, 0.04672950506210327, 0.2923599183559418, -0.10335054993629456, -0.2099025547504425, -0.13075776398181915], [-0.3504238426685333, 0.1595918834209442, -0.1697988659143448, -0.23594041168689728, -0.20368260145187378, 0.20327767729759216, 0.1872325837612152, 0.27135995030403137], [0.12824198603630066, -0.11807258427143097, -0.09879985451698303, 0.10445025563240051, 0.2906331717967987, 0.09612840414047241, -0.16728214919567108, -0.16619744896888733], [-0.3342737853527069, 0.0763845145702362, -0.19840797781944275, -0.3152196407318115, 0.31002262234687805, -0.22960153222084045, -0.04022076725959778, 0.101290762424469], [0.011263608932495117, -0.23789960145950317, -0.28578487038612366, 0.2818112075328827, 0.05757218599319458, 0.2933165729045868, -0.1185254454612732, 0.10414105653762817]], "lstm.bias_ih_l0": [-0.08084923028945923, -0.015722930431365967, -0.2153296321630478, 0.11957207322120667, 0.1117815375328064, -0.00729331374168396, -0.07951492071151733, -0.21794083714485168, 0.24449798464775085, -0.26319366693496704, 0.1448386013507843, -0.11888356506824493, -0.17057819664478302, 0.0635141134262085, -0.1836557686328888, 0.08146041631698608, 0.0694311261177063, -0.26250964403152466, 0.05886611342430115, 0.150588721036911, 0.13994738459587097, -0.04450485110282898, -0.28983867168426514, -0.05450168251991272, 0.12279179692268372, -0.12900353968143463, 0.13420218229293823, 0.23545333743095398, -0.18460845947265625, 0.0034866929054260254, 0.1461939811706543, 0.027710765600204468], "lstm.bias_hh_l0": [0.02953284978866577, 0.044146597385406494, -0.2779451906681061, 0.027785152196884155, 0.24482503533363342, 0.31859180331230164, 0.20780131220817566, 0.04737722873687744, 0.16511443257331848, -0.17199651896953583, -0.29298558831214905, -0.3040280044078827, 0.3527083098888397, 0.22443190217018127, -0.24438804388046265, 0.13832515478134155, 0.26699206233024597, 0.35341718792915344, 0.3091453015804291, 0.2739168107509613, -0.08105537295341492, -0.12407660484313965, 0.2902846038341522, 0.19812414050102234, -0.21276099979877472, 0.3178505599498749, 0.1708223521709442, 0.1927345097064972, -0.22159889340400696, 0.10143440961837769, -0.1239425390958786, 0.27625128626823425], "dense.weight": [[-0.06361860036849976, 0.1376427412033081, 0.06279879808425903, 0.15042570233345032, -0.12014716863632202, 0.17238250374794006, -0.2469467669725418, 0.07985180616378784]], "dense.bias": [-0.23921135067939758]} \ No newline at end of file +{"lstm.weight_ih_l0": [[-0.0026469905860722065], [0.18966144323349], [-0.2909903824329376], [-0.26019373536109924], [-0.13617262244224548], [0.0948079451918602], [-0.007005016785115004], [0.28032875061035156], [-0.03137575834989548], [0.09355466812849045], [-0.10684845596551895], [-0.06949635595083237], [-0.33776670694351196], [-0.23415207862854004], [-0.14574287831783295], [0.013096880167722702], [0.13977210223674774], [0.21214008331298828], [-0.23968836665153503], [-0.15395936369895935], [0.12841664254665375], [0.29358646273612976], [-0.07276134938001633], [0.26456815004348755], [-0.05698692053556442], [0.037410933524370193], [0.3201341927051544], [-0.32798099517822266], [-0.22257526218891144], [-0.08950743079185486], [-0.13781508803367615], [0.30547040700912476]], "lstm.weight_hh_l0": [[-0.22916610538959503, -0.16275224089622498, -0.24700669944286346, -0.33112430572509766, -0.20638342201709747, 0.30391380190849304, 0.15776202082633972, 0.17135761678218842], [0.01859392412006855, -0.18126098811626434, 0.05981581658124924, -0.33011093735694885, -0.2554657459259033, -0.18226736783981323, 0.22307024896144867, 0.20729584991931915], [-0.15679916739463806, -0.01275704987347126, 0.22611884772777557, 0.35147911310195923, 0.14031903445720673, 0.04776253551244736, 0.23705270886421204, -0.20817306637763977], [0.06588256359100342, -0.27411189675331116, -0.24504294991493225, -0.18263986706733704, 0.1599733829498291, 0.14218516647815704, -0.20942823588848114, 0.10681098699569702], [0.19409091770648956, -0.04462457820773125, 0.013499214313924313, 0.08191998302936554, 0.21933624148368835, 0.33947986364364624, -0.272456556558609, -0.12956660985946655], [0.13894997537136078, 0.29293644428253174, 0.30766475200653076, 0.31196022033691406, 0.07036226242780685, -0.30744388699531555, 0.03252425789833069, -0.2211848944425583], [-0.32949554920196533, 0.3141295313835144, 0.26882776618003845, -0.35267937183380127, 0.06617531180381775, -0.05955960601568222, -0.05818115174770355, -0.1618414968252182], [0.1359611302614212, -0.2094109058380127, 0.1296095997095108, 0.17879481613636017, 0.25309881567955017, 0.1321975439786911, -0.349924236536026, -0.22934898734092712], [0.1765345185995102, 0.07399920374155045, -0.27580133080482483, -0.20358292758464813, 0.3326050937175751, 0.23823058605194092, -0.15415816009044647, -0.08898400515317917], [-0.33679428696632385, -0.006354817189276218, -0.2662465274333954, -0.2727157771587372, -0.01948065310716629, 0.05308429151773453, -0.14479081332683563, 0.2097906619310379], [-0.21515105664730072, 0.32080376148223877, 0.24229009449481964, -0.2981455326080322, -0.08799389749765396, 0.01595325581729412, 0.051583822816610336, 0.08385376632213593], [0.13874433934688568, 0.021177906543016434, -0.1725088655948639, 0.1672975718975067, -0.339145690202713, -0.20955345034599304, -0.08850497007369995, -0.17222057282924652], [-0.12368477135896683, -0.28978002071380615, -0.07520616054534912, 0.07557431608438492, -0.23032793402671814, -0.018144134432077408, 0.2530914843082428, -0.03634537756443024], [0.009826031513512135, -0.030500661581754684, 0.07155261933803558, 0.22480319440364838, 0.3349021077156067, 0.22452616691589355, 0.3356683552265167, -0.02556956559419632], [-0.31760460138320923, -0.16761161386966705, 0.24073635041713715, -0.0022919033654034138, -0.17573241889476776, -0.2709321081638336, -0.33087366819381714, -0.29840195178985596], [-0.07171361893415451, 0.1938907951116562, 0.19114547967910767, -0.34097814559936523, 0.22054025530815125, -0.2766588628292084, -0.0747448205947876, -0.14335621893405914], [-0.06809978187084198, -0.06941762566566467, -0.31726109981536865, -0.3052713871002197, -0.055323850363492966, 0.004572216421365738, -0.16061042249202728, 0.1331832855939865], [-0.3182186782360077, -0.023860342800617218, 0.31092172861099243, -0.14421159029006958, 0.31925979256629944, 0.12804068624973297, -0.3190681040287018, 0.22369228303432465], [-0.04079810529947281, -0.15782864391803741, 0.2827201187610626, -0.2857047915458679, 0.03793802112340927, -0.07402301579713821, 0.25247693061828613, 0.09869249165058136], [0.16988429427146912, 0.12486054003238678, -0.08502064645290375, -0.07435420155525208, -0.29135677218437195, 0.19157083332538605, 0.28071364760398865, 0.24191001057624817], [-0.2493888884782791, 0.015768442302942276, -0.24923184514045715, -0.19462554156780243, -0.20601749420166016, 0.12082510441541672, -0.21068711578845978, -0.007713547442108393], [0.014873327687382698, 0.227908656001091, -0.2672581076622009, -0.24271872639656067, -0.20529484748840332, 0.24746382236480713, -0.12709006667137146, 0.2982182800769806], [0.1278475672006607, 0.044769056141376495, -0.002631859853863716, -0.06989098340272903, 0.04435905069112778, -0.08073203265666962, -0.002484219614416361, 0.045110952109098434], [-0.2765512764453888, -0.18530844151973724, 0.28549179434776306, -0.2869250774383545, -0.025387322530150414, 0.3497487008571625, 0.12771658599376678, 0.010010171681642532], [-0.3063928782939911, 0.17514252662658691, -0.25182926654815674, -0.100361168384552, -0.11862293630838394, -0.052356794476509094, 0.003867268329486251, 0.29161348938941956], [0.04413719102740288, 0.31667521595954895, 0.2162730097770691, -0.2235213816165924, 0.15857014060020447, -0.24992549419403076, -0.14984481036663055, 0.10398807376623154], [0.11674053221940994, 0.2652456760406494, -0.11381444334983826, 0.0005659899907186627, 0.18201760947704315, -0.3419187068939209, 0.25561225414276123, -0.29236122965812683], [0.004872850142419338, -0.060110002756118774, -0.18620701134204865, 0.04672951623797417, 0.2923599183559418, -0.10335056483745575, -0.2099025547504425, -0.13075776398181915], [-0.3504238426685333, 0.15959186851978302, -0.1697988659143448, -0.23594041168689728, -0.20368260145187378, 0.20327766239643097, 0.18723256886005402, 0.27135995030403137], [0.12824198603630066, -0.11807258427143097, -0.09879983961582184, 0.10445025563240051, 0.2906331419944763, 0.09612840414047241, -0.16728214919567108, -0.16619744896888733], [-0.3342737853527069, 0.07638449966907501, -0.19840797781944275, -0.3152196407318115, 0.31002265214920044, -0.22960153222084045, -0.040220778435468674, 0.101290762424469], [0.011263618245720863, -0.23789961636066437, -0.28578487038612366, 0.2818111777305603, 0.057572171092033386, 0.2933165729045868, -0.11852545291185379, 0.10414106398820877]], "lstm.bias_ih_l0": [-0.08084924519062042, -0.01572292298078537, -0.2153296321630478, 0.11957208067178726, 0.1117815300822258, -0.007293301168829203, -0.07951492071151733, -0.21794083714485168, 0.24449799954891205, -0.26319366693496704, 0.1448386162519455, -0.11888357251882553, -0.17057819664478302, 0.06351412087678909, -0.1836557686328888, 0.08146041631698608, 0.0694311186671257, -0.26250967383384705, 0.05886612460017204, 0.15058870613574982, 0.13994738459587097, -0.044504836201667786, -0.2898387014865875, -0.05450168997049332, 0.12279180437326431, -0.12900353968143463, 0.13420218229293823, 0.23545332252979279, -0.18460845947265625, 0.0034866821952164173, 0.1461939662694931, 0.027710752561688423], "lstm.bias_hh_l0": [0.029532844200730324, 0.0441465899348259, -0.2779451906681061, 0.02778514102101326, 0.24482505023479462, 0.31859180331230164, 0.20780132710933685, 0.04737722873687744, 0.16511444747447968, -0.17199651896953583, -0.29298558831214905, -0.3040280044078827, 0.3527083098888397, 0.22443191707134247, -0.24438802897930145, 0.13832515478134155, 0.26699206233024597, 0.35341721773147583, 0.3091452717781067, 0.2739168405532837, -0.08105538785457611, -0.12407661229372025, 0.2902846038341522, 0.19812411069869995, -0.21276099979877472, 0.31785058975219727, 0.1708223521709442, 0.192734494805336, -0.22159889340400696, 0.10143439471721649, -0.1239425390958786, 0.27625125646591187], "lstm2.weight_ih_l0": [[-0.06361860036849976, 0.1376427561044693, 0.06279880553483963, 0.1504257172346115, -0.12014717608690262, 0.17238250374794006, -0.2469467669725418, 0.07985179871320724], [-0.23921135067939758, -0.3487936854362488, -0.28392308950424194, 0.2791198194026947, 0.19128498435020447, 0.3317093551158905, 0.28323912620544434, -0.315739244222641], [-0.2412758320569992, -0.057128071784973145, -0.22960898280143738, 0.24550622701644897, -0.26728910207748413, -0.17249920964241028, -0.3415648937225342, -0.2007283717393875], [0.2907896935939789, 0.28947538137435913, 0.2530868351459503, 0.2729882001876831, 0.3143748939037323, -0.09053193777799606, 0.15556421875953674, 0.31499147415161133], [0.11696209758520126, 0.35343894362449646, 0.1833750307559967, 0.2197858691215515, -0.12374091148376465, 0.16964463889598846, 0.04062559828162193, -0.08443467319011688], [-0.19930152595043182, -0.19838465750217438, -0.2720525562763214, 0.23735110461711884, 0.25135213136672974, -0.04023886099457741, -0.2045964002609253, 0.2732633352279663], [0.22609347105026245, 0.026281045749783516, -0.16692502796649933, 0.3249324858188629, 0.1445823609828949, -0.2683984041213989, 0.3383798897266388, 0.2684791684150696], [-0.1288669854402542, 0.19875164330005646, -0.20088514685630798, -0.055406879633665085, 0.3002026081085205, 0.014608519151806831, -0.25003936886787415, -0.11816918104887009], [-0.09597035497426987, -0.06821062415838242, 0.0338352769613266, 0.32697662711143494, 0.01892937161028385, -0.21829800307750702, 0.01812112145125866, 0.16952431201934814], [0.17537669837474823, -0.32312604784965515, -0.06326570361852646, -0.2627412676811218, -0.1508561223745346, 0.12738294899463654, -0.25106894969940186, 0.13142529129981995], [0.30008837580680847, 0.023188984021544456, -0.23563897609710693, -0.1266728639602661, 0.07720337063074112, -0.269520103931427, 0.17564897239208221, -0.32098037004470825], [-0.3398685157299042, -0.3435339033603668, -0.07172302156686783, 0.23774093389511108, -0.3346308469772339, 0.2938690185546875, -0.14142943918704987, 0.10355016589164734], [0.01612306572496891, -0.31880584359169006, 0.29321208596229553, 0.19036850333213806, 0.3514305353164673, 0.17861947417259216, -0.2333696186542511, 0.2950699031352997], [0.01900152675807476, 0.16766083240509033, -0.2834894061088562, -0.10169132798910141, -0.3471461236476898, -0.13770639896392822, 0.07627247273921967, -0.2775965929031372], [0.11270016431808472, 0.18978986144065857, 0.04925327003002167, -0.23655667901039124, -0.2741169035434723, -0.1090770959854126, 0.15519514679908752, 0.3487437963485718], [0.20330345630645752, -0.039813388139009476, 0.12396163493394852, -0.34685811400413513, -0.30197039246559143, 0.16497081518173218, -0.20025800168514252, 0.17009299993515015], [-0.24958470463752747, -0.1751188486814499, -0.2912180423736572, 0.18449854850769043, -0.036025356501340866, 0.27209508419036865, 0.21880434453487396, 0.19563613831996918], [0.01136890146881342, -0.10931092500686646, -0.07687369734048843, 0.04698745533823967, 0.1752597838640213, -0.2476959228515625, 0.29672953486442566, -0.03844188526272774], [-0.29625850915908813, -0.19129282236099243, 0.3128302991390228, 0.3233341872692108, -0.32748931646347046, 0.2493606060743332, 0.1771865338087082, 0.2092747837305069], [0.29929327964782715, -0.19054770469665527, 0.11164358258247375, 0.1446857899427414, -0.10447268187999725, 0.11831775307655334, -0.10172204673290253, 0.21858838200569153], [-0.09809501469135284, -0.13180318474769592, 0.08900672197341919, 0.12540313601493835, -0.17273615300655365, 0.03125353157520294, 0.20489682257175446, -0.03517740219831467], [0.10759828984737396, -0.08527246862649918, 0.12392032891511917, -0.2561120092868805, -0.2078995704650879, -0.179460346698761, 0.3249194025993347, -0.09513559192419052], [-0.0009653313900344074, -0.17129503190517426, 0.3529488444328308, 0.34530502557754517, -0.266645222902298, -0.2866150736808777, -0.26799097657203674, -0.0017050928436219692], [-0.09012214094400406, -0.23141683638095856, -0.1268097460269928, 0.06679714471101761, -0.18472836911678314, 0.07834125310182571, -0.08107540756464005, -0.17131900787353516], [0.04857310280203819, 0.2907121777534485, -0.23903010785579681, 0.016417039558291435, -0.1303790807723999, 0.3469441831111908, -0.33543846011161804, -0.338937908411026], [0.34838616847991943, -0.22368967533111572, 0.06778443604707718, -0.030513811856508255, -0.07447849214076996, -0.07896536588668823, 0.2246621698141098, 0.016898779198527336], [-0.3442247211933136, -0.20872382819652557, -0.12052645534276962, 0.1779138594865799, -0.2287963181734085, 0.33337241411209106, -0.07874670624732971, -0.06348474323749542], [0.2770295739173889, 0.17769865691661835, 0.2998558282852173, 0.20451095700263977, -0.10725180059671402, -0.23457291722297668, -0.02630545012652874, 0.29261407256126404], [-0.11865951865911484, -0.3278747797012329, 0.1449315845966339, 0.3441741168498993, -0.10065072029829025, -0.2927505373954773, -0.3206940293312073, 0.0886002629995346], [-0.02677096053957939, -0.1785399466753006, 0.071464404463768, 0.1342650204896927, 0.2811877131462097, 0.2744925618171692, -0.05292118340730667, -0.31175175309181213], [-0.3194790184497833, 0.3301091194152832, 0.15629011392593384, 0.15411652624607086, -0.30590182542800903, 0.3273960053920746, 0.33493635058403015, 0.3192093074321747], [-0.2982523441314697, -0.1334039568901062, -0.24316121637821198, 0.33480289578437805, -0.1519148200750351, -0.16141639649868011, 0.18523117899894714, -0.16355109214782715]], "lstm2.weight_hh_l0": [[-0.17413286864757538, -0.030925840139389038, -0.03398338332772255, -0.2754104733467102, 0.29474619030952454, -0.1559600681066513, 0.12541064620018005, 0.3075149357318878], [0.1783027946949005, 0.05005604028701782, 0.3008233904838562, 0.047526851296424866, -0.16357381641864777, 0.3344613313674927, 0.0836791917681694, -0.3449552655220032], [-0.10065367072820663, -0.24082906544208527, 0.30997899174690247, -0.0583878830075264, -0.32227271795272827, -0.022225549444556236, 0.22203607857227325, 0.0918533205986023], [0.11179514229297638, 0.032835640013217926, 0.13181132078170776, -0.08614398539066315, -0.14064361155033112, -0.3304693400859833, -0.26634481549263, 0.1532309353351593], [-0.20934368669986725, 0.050723057240247726, 0.11285121738910675, 0.025032952427864075, -0.2292262464761734, 0.33811312913894653, -0.2055910974740982, 0.2907978594303131], [-0.2812546491622925, -0.08504673093557358, 0.1923220157623291, -0.14445507526397705, 0.2970000207424164, -0.24330005049705505, -0.296904057264328, -0.15942399203777313], [0.057152051478624344, 0.3255363404750824, -0.16878670454025269, 0.12644067406654358, -0.0886383205652237, -0.07667240500450134, 0.25996899604797363, -0.273998886346817], [0.03755208104848862, 0.3324848413467407, -0.048582546412944794, 0.27451232075691223, -0.10887917131185532, 0.28459709882736206, -0.3420029282569885, -0.05095541104674339], [-0.06210038810968399, 0.11458134651184082, 0.13870869576931, 0.2714642584323883, -0.05267449840903282, -0.014020191505551338, 0.24211733043193817, -0.09566204994916916], [0.3099367916584015, -0.23540014028549194, -0.03825795650482178, -0.01898968406021595, 0.15775902569293976, 0.24171601235866547, -0.05603954568505287, -0.2929121255874634], [0.17518295347690582, 0.10575903952121735, 0.14202214777469635, -0.21809564530849457, 0.22754539549350739, 0.3348698616027832, 0.030678311362862587, -0.3302359879016876], [0.24819089472293854, -0.2621425986289978, 0.08127205818891525, 0.05137759819626808, -0.16547590494155884, 0.1231057196855545, -0.3162297010421753, 0.08052513748407364], [-0.22413550317287445, -0.038231026381254196, 0.04547716677188873, 0.30120784044265747, -0.16868749260902405, 0.2264990508556366, -0.044913239777088165, -0.1679123193025589], [-0.3078741729259491, -0.3243917226791382, 0.34528401494026184, -0.08817604929208755, 0.017659571021795273, 0.09585268050432205, 0.24032162129878998, 0.301748663187027], [0.286737859249115, -0.26194173097610474, -0.05664519593119621, -0.2092108428478241, -0.2020033448934555, 0.08386535942554474, 0.3318621814250946, -0.28323301672935486], [0.2139720916748047, -0.18330566585063934, -0.06886310130357742, 0.2806403934955597, -0.07996327430009842, 0.03219306841492653, -0.24714532494544983, 0.3009590804576874], [-0.045703787356615067, -0.2585855722427368, 0.10352408140897751, -0.25138258934020996, -0.28054720163345337, 0.021538177505135536, 0.28031253814697266, -0.1000499576330185], [0.16640587151050568, 0.30381593108177185, 0.23449814319610596, -0.18546032905578613, -0.03875647112727165, -0.11125790327787399, -0.28430038690567017, 0.0001460809726268053], [0.26602596044540405, 0.29787424206733704, 0.032986778765916824, 0.08030011504888535, -0.1530609130859375, 0.26687708497047424, -0.14711657166481018, -0.24559684097766876], [0.054444920271635056, 0.21191473305225372, -0.3187607526779175, 0.31960076093673706, 0.12718413770198822, -0.24770401418209076, -0.07615804672241211, 0.3067358136177063], [-0.2712584137916565, -0.10333559662103653, 0.11595854163169861, -0.30974283814430237, 0.19381733238697052, 0.18404138088226318, 0.21927575767040253, -0.2254069447517395], [0.35213953256607056, -0.20957283675670624, 0.35296666622161865, -0.33930179476737976, -0.31500545144081116, 0.21715117990970612, 0.03695090115070343, 0.02039625123143196], [-0.19578315317630768, -0.1483069658279419, -0.10337458550930023, -0.34441596269607544, 0.018373707309365273, 0.0625290647149086, -0.00029932690085843205, 0.11417311429977417], [0.33546948432922363, 0.09400420635938644, -0.12942613661289215, -0.14550372958183289, -0.22620542347431183, -0.24508985877037048, -0.05693971738219261, -0.06253142654895782], [0.15728263556957245, -0.15112173557281494, 0.2818540632724762, -0.24808140099048615, 0.0010048651602119207, 0.31781619787216187, 0.35156822204589844, -0.20480012893676758], [0.062978096306324, 0.04176267981529236, -0.16576409339904785, -0.12215087562799454, 0.09576134383678436, -0.24584871530532837, 0.05833477899432182, 0.15299127995967865], [-0.1393248289823532, 0.2936759889125824, -0.023267503827810287, 0.16041165590286255, 0.350126177072525, -0.10807008296251297, 0.19212378561496735, -0.10112659633159637], [-0.051644597202539444, -0.05991709604859352, -0.0021964830812066793, -0.13356129825115204, 0.08286828547716141, 0.013322028331458569, 0.22411388158798218, -0.07156109064817429], [0.035454392433166504, -0.1315184384584427, -0.29608461260795593, 0.1430714726448059, 0.04523996263742447, -0.1415923833847046, -0.11953815072774887, 0.09246175736188889], [-0.06392842531204224, 0.23103861510753632, 0.020026369020342827, 0.13355007767677307, 0.15404188632965088, -0.0867500975728035, 0.15297013521194458, 0.26089879870414734], [0.016269948333501816, 0.06918788701295853, 0.012846569530665874, 0.24478885531425476, -0.14926858246326447, -0.18793831765651703, 0.1540621519088745, -0.30770251154899597], [0.005668329540640116, -0.16259604692459106, 0.23335710167884827, -0.3291720151901245, 0.21437092125415802, 0.34979042410850525, 0.0715380385518074, -0.02355608344078064]], "lstm2.bias_ih_l0": [0.3480202257633209, -0.15109185874462128, -0.028331490233540535, -0.15482278168201447, -0.04880495369434357, 0.07684090733528137, 0.04722107574343681, -0.06677737832069397, -0.3534970283508301, 0.018103377893567085, -0.010472944006323814, 0.053187426179647446, 0.270910382270813, 0.3436572253704071, -0.2097570151090622, -0.022045625373721123, -0.14165951311588287, -0.3258509337902069, -0.2572663426399231, 0.3318314552307129, 0.20614323019981384, 0.1899115890264511, 0.19648489356040955, -0.28089073300361633, 0.03712989762425423, 0.3290573060512543, -0.19731315970420837, 0.31451907753944397, 0.09292743355035782, 0.24874019622802734, -0.15145790576934814, 0.162994384765625], "lstm2.bias_hh_l0": [-0.31342074275016785, -0.022449055686593056, 0.117928147315979, 0.10602869838476181, 0.2958563268184662, 0.3474217355251312, 0.32164767384529114, 0.2373729795217514, 0.24856996536254883, -0.04561890661716461, -0.27437400817871094, -0.1312486082315445, -0.0396915003657341, -0.19105549156665802, 0.18072618544101715, 0.12410686910152435, 0.057046517729759216, 0.08540460467338562, 0.310579776763916, 0.1287752240896225, -0.31004488468170166, -0.2566376030445099, 0.1558285355567932, 0.04818198084831238, 0.1724250316619873, -0.35310080647468567, -0.3262835741043091, 0.2168082743883133, 0.22614890336990356, -0.3198636472225189, 0.13420365750789642, -0.27607011795043945], "lstm2.weight_ih_l1": [[0.26774871349334717, 0.11094167083501816, 0.34958896040916443, -0.3486008048057556, -0.3403574228286743, 0.23903816938400269, 0.3138928711414337, 0.21661506593227386], [0.23505283892154694, -0.2977878749370575, 0.25590676069259644, -0.3338063955307007, 0.07898441702127457, -0.23158976435661316, -0.1404297947883606, 0.06260328739881516], [-0.13901013135910034, -0.05594024807214737, -0.3351065218448639, -0.33335602283477783, 0.13695353269577026, -0.14965152740478516, -0.21509820222854614, -0.13950589299201965], [-0.28905412554740906, -0.28263065218925476, 0.2115565687417984, 0.17969071865081787, 0.04709454998373985, -0.1931319385766983, 0.11762755364179611, 0.015883460640907288], [-0.25267499685287476, 0.07608108967542648, 0.3219258785247803, -0.34775733947753906, -0.351570725440979, 0.04529901221394539, 0.2662335932254791, -0.21513360738754272], [0.0778302252292633, 0.24854283034801483, 0.10900628566741943, 0.07651275396347046, 0.35274937748908997, 0.23033037781715393, -0.19884797930717468, 0.030559919774532318], [0.18062065541744232, 0.31180208921432495, -0.3517618775367737, 0.1914510428905487, -0.1026478037238121, -0.34620699286460876, 0.07847966253757477, -0.19247929751873016], [0.05010282248258591, -0.22954344749450684, -0.26605919003486633, -0.029999367892742157, -0.11876767128705978, 0.20678091049194336, 0.030482707545161247, 0.27596911787986755], [0.06625695526599884, -0.11368910223245621, 0.23947358131408691, 0.019319945946335793, 0.0663590282201767, -0.11371076107025146, 0.0012688308488577604, -0.06797882169485092], [-0.030058162286877632, -0.2757289707660675, -0.002174313645809889, -0.2934649586677551, -0.0760602280497551, 0.20490051805973053, -0.24584345519542694, -0.23831328749656677], [-0.08632943034172058, -0.09692101925611496, 0.059852149337530136, 0.058695387095212936, 0.1792856901884079, -0.24355605244636536, -0.024950681254267693, 0.19773931801319122], [0.30581361055374146, -0.025790119543671608, -0.2045731246471405, 0.10163336992263794, 0.20134063065052032, -0.22088244557380676, -0.20516470074653625, 0.15626996755599976], [-0.02477206289768219, -0.33393070101737976, -0.20385359227657318, 0.14337751269340515, -0.11991671472787857, 0.2440328150987625, 0.27949804067611694, 0.05143137648701668], [-0.027957141399383545, -0.11222744733095169, -0.017877724021673203, 0.06435410678386688, -0.270062118768692, -0.08449772745370865, -0.2940860390663147, 0.21699510514736176], [-0.22515562176704407, 0.32298651337623596, -0.09113927185535431, -0.2025419920682907, 0.16986583173274994, 0.05270741507411003, 0.24482016265392303, 0.14759783446788788], [-0.3405919075012207, 0.22361911833286285, -0.06657899916172028, -0.15626037120819092, 0.22452545166015625, 0.25785720348358154, -0.3107489049434662, -0.03196948021650314], [0.2903403639793396, 0.1369265466928482, 0.2978578805923462, -0.1211622804403305, -0.19503504037857056, 0.30402398109436035, 0.1473691463470459, 0.3394050598144531], [-0.14767804741859436, -0.22700490057468414, -0.041441015899181366, -0.3328987658023834, 0.13858415186405182, 0.2607768774032593, 0.08487291634082794, -0.03493349999189377], [0.17529401183128357, -0.22441847622394562, 0.34586116671562195, -0.3515535593032837, -0.3386847674846649, -0.0835452526807785, 0.28879812359809875, 0.03539981320500374], [0.13578066229820251, -0.25915706157684326, 0.12893588840961456, -0.03950727358460426, 0.14171253144741058, 0.24969445168972015, 0.1536826640367508, -0.030074726790189743], [-0.021778583526611328, -0.2217416912317276, -0.1278809905052185, 0.22975245118141174, -0.14177368581295013, 0.21957071125507355, -0.14019520580768585, -0.08234217017889023], [0.007524392567574978, -0.3244437277317047, -0.0035302198957651854, -0.03563667833805084, -0.03176194801926613, -0.07067681103944778, 0.2787334620952606, 0.26091787219047546], [-0.23962336778640747, 0.16423501074314117, -0.27732113003730774, -0.3009875416755676, 0.10807488858699799, 0.005195989739149809, -0.164934903383255, -0.34100356698036194], [-0.1368732750415802, 0.11808665841817856, -0.32724952697753906, -0.3434649109840393, 0.04485621675848961, -0.25470131635665894, -0.30974113941192627, -0.13621924817562103], [-0.056922394782304764, -0.3212758004665375, -0.23607739806175232, 0.0231817364692688, -0.33339083194732666, -0.04969349503517151, -0.2282903790473938, -0.24509640038013458], [0.1389574408531189, -0.27212637662887573, -0.2679348587989807, 0.20162495970726013, 0.06610257178544998, 0.3219856023788452, -0.09450322389602661, -0.17077161371707916], [-0.032720115035772324, 0.0017887543654069304, 0.26963546872138977, -0.35216742753982544, -0.025173258036375046, 0.1563951075077057, -0.194695845246315, -0.17965489625930786], [0.17086096107959747, -0.3387696146965027, 0.08377651125192642, -0.2737162411212921, 0.1757379025220871, -0.30230244994163513, 0.2173662930727005, -0.33468517661094666], [-0.2971852123737335, 0.005210277624428272, 0.2785959839820862, -0.3027815520763397, -0.15770591795444489, 0.3105197548866272, -0.059289995580911636, 0.14647172391414642], [-0.3401177227497101, -0.11118578910827637, -0.17954577505588531, 0.2980671525001526, 0.14673876762390137, -0.25797930359840393, 0.05700234696269035, -0.0040635461919009686], [-0.1452644169330597, -0.20190607011318207, -0.1173226609826088, 0.27868014574050903, -0.253445565700531, -0.2518514096736908, -0.10907798260450363, 0.006150531582534313], [0.09624144434928894, 0.010609457269310951, -0.08510936051607132, -0.21437716484069824, -0.0634390115737915, -0.14232409000396729, 0.2856459617614746, -0.3441522419452667]], "lstm2.weight_hh_l1": [[-0.22551719844341278, -0.287647545337677, -0.06461428105831146, 0.27551475167274475, 0.30990341305732727, -0.30778777599334717, -0.015318356454372406, 0.2075238674879074], [0.15584543347358704, 0.28959694504737854, -0.009806939400732517, -0.23754996061325073, 0.23388634622097015, -0.12123861163854599, 0.1830650418996811, -0.08712845295667648], [0.1502934694290161, 0.3179951012134552, 0.3287535607814789, -0.3217565715312958, -0.23386859893798828, -0.1461825966835022, -0.22546136379241943, 0.33923450112342834], [-0.0312254186719656, -0.23452630639076233, -0.15732751786708832, -0.19529037177562714, 0.14424602687358856, -0.3083873391151428, -0.3296542763710022, -0.3485192060470581], [0.15221326053142548, 0.1748161017894745, -0.2195846140384674, 0.08767366409301758, 0.26098769903182983, 0.05137178301811218, -0.07480538636445999, 0.0261213518679142], [-0.03791071102023125, 0.17801383137702942, -0.2400667518377304, 0.17928780615329742, 0.19927100837230682, -0.21420903503894806, 0.28869882225990295, 0.34725475311279297], [-0.13938088715076447, -0.0990283191204071, 0.17619527876377106, -0.2769809365272522, 0.13981550931930542, 0.08248568326234818, 0.22285521030426025, -0.3070988655090332], [-0.29372677206993103, 0.15879110991954803, 0.1273537427186966, -0.32907554507255554, -0.19716240465641022, -0.32349374890327454, -0.2532937526702881, -0.1595231592655182], [0.2925790250301361, -0.07037512212991714, 0.20306380093097687, 0.3357629179954529, 0.16112567484378815, -0.31650465726852417, 0.17791609466075897, 0.13485747575759888], [0.2740270495414734, -0.34875714778900146, 0.21744097769260406, 0.28939807415008545, -0.32893359661102295, 0.03699098154902458, 0.3018190264701843, -0.25714224576950073], [0.11600767821073532, 0.1562272310256958, 0.09266283363103867, 0.3515295684337616, 0.2894822955131531, 0.3033328056335449, -0.04406929016113281, 0.2965296804904938], [-0.3294808864593506, -0.19078777730464935, -0.07561840116977692, -0.10502543300390244, 0.3265753984451294, 0.16675885021686554, 0.22762227058410645, 0.24049033224582672], [-0.2641056478023529, -0.040948908776044846, 0.05162748694419861, 0.09195658564567566, 0.1818086951971054, -0.14068128168582916, -0.10660851001739502, 0.29583272337913513], [-0.09488818794488907, -0.24559280276298523, 0.23972326517105103, 0.2394106239080429, -0.11086264997720718, -0.07068241387605667, -0.2608799636363983, -0.29525020718574524], [0.13295358419418335, -0.1510353833436966, 0.28146225214004517, -0.2830948531627655, -0.04886994510889053, 0.007633847650140524, 0.1817077398300171, 0.28614160418510437], [0.23942793905735016, 0.15563279390335083, -0.16227881610393524, -0.2524893283843994, -0.3162933886051178, 0.01753789372742176, 0.3429044485092163, -0.06715480983257294], [-0.01488407514989376, -0.256925106048584, 0.10854431986808777, 0.22414696216583252, -0.3485738933086395, -0.24894478917121887, 0.26187974214553833, 0.08370890468358994], [-0.02204267494380474, 0.06320058554410934, -0.053754933178424835, -0.2471214234828949, -0.33037084341049194, 0.23253487050533295, -0.04205045849084854, -0.13130521774291992], [-0.0912574902176857, -0.19283616542816162, -0.10471662133932114, -0.303495317697525, 0.2645794153213501, 0.14437086880207062, -0.1783045530319214, -0.12067244946956635], [0.158617302775383, -0.13092273473739624, 0.09322979301214218, 0.0973479226231575, -0.22255946695804596, 0.0885656550526619, 0.021631870418787003, 0.30878782272338867], [-0.1279226839542389, -0.09088744223117828, 0.3046218156814575, -0.2887125313282013, 0.025543687865138054, 0.34064948558807373, -0.15852200984954834, 0.33894532918930054], [0.31372228264808655, 0.3289247453212738, -0.03373716026544571, 0.31983616948127747, -0.1540500521659851, -0.12102315574884415, 0.13372541964054108, 0.0746871680021286], [0.1949053555727005, 0.3359886109828949, -0.22132055461406708, 0.1876402050256729, 0.11828643828630447, 0.18652348220348358, 0.16764524579048157, -0.13225369155406952], [-0.2794330418109894, 0.28297874331474304, -0.20160873234272003, 0.22603628039360046, -0.3368103504180908, -0.061165571212768555, 0.0037472762633115053, 0.06117307394742966], [0.02857842855155468, 0.11140689253807068, -0.03936625272035599, 0.08658678084611893, 0.349870890378952, -0.22876743972301483, -0.01930287666618824, -0.13495947420597076], [0.3102182149887085, 0.30265578627586365, -0.009641133248806, -0.12255313247442245, -0.218448668718338, 0.25298142433166504, -0.0243469700217247, 0.3329799473285675], [0.2016180455684662, 0.3094668984413147, 0.27963370084762573, -0.22975392639636993, 0.10348585247993469, -0.14660406112670898, 0.17739655077457428, -0.03178790956735611], [0.030607083812355995, -0.2445206344127655, -0.3159797191619873, 0.13313864171504974, 0.08216064423322678, 0.03071063756942749, 0.24013154208660126, -0.1476348489522934], [0.12550467252731323, -0.19472362101078033, 0.0732562392950058, -0.08071572333574295, 0.24760286509990692, 0.3091762661933899, 0.3070695102214813, 0.015904324129223824], [0.20848798751831055, -0.3532487452030182, -0.2073923796415329, 0.06318819522857666, 0.001971755875274539, -0.2775651812553406, -0.15648682415485382, -0.16512857377529144], [-0.3502872884273529, 0.03371865674853325, 0.24101522564888, 0.1434943825006485, -0.16798485815525055, -0.32465577125549316, -0.28523874282836914, 0.006558133754879236], [0.24321407079696655, -0.14317941665649414, -0.19238430261611938, -0.18860533833503723, -0.03060666099190712, -0.3357536196708679, -0.31199124455451965, 0.3480346202850342]], "lstm2.bias_ih_l1": [-0.16861529648303986, -0.0637681782245636, -0.09459417313337326, -0.31059882044792175, -0.06232903525233269, 0.10822859406471252, -0.14356303215026855, -0.01506838295608759, -0.001691226614639163, -0.3519641160964966, 0.2569330334663391, 0.285590797662735, 0.24105463922023773, -0.11610634624958038, 0.18475399911403656, -0.3312520980834961, -0.08746439963579178, -0.07190719991922379, -0.12485725432634354, 0.1484924554824829, -0.161099374294281, -0.04097820073366165, -0.10208974033594131, -0.3320159614086151, -0.058386027812957764, -0.2996281087398529, 0.20615844428539276, 0.1889611780643463, 0.33120599389076233, -0.11872421205043793, 0.017978960648179054, 0.06925781071186066], "lstm2.bias_hh_l1": [0.35292354226112366, 0.3240717947483063, -0.1829778403043747, -0.30083951354026794, -0.31865352392196655, -0.1702570766210556, 0.29726293683052063, 0.11874077469110489, 0.34112709760665894, 0.26206111907958984, 0.0051256888546049595, -0.2191236913204193, 0.3452450931072235, 0.28361034393310547, 0.1530684530735016, -0.19313329458236694, 0.2785220444202423, 0.03217899054288864, 0.23378148674964905, 0.1475614309310913, 0.1877398043870926, -0.31023460626602173, -0.19603869318962097, 0.21205124258995056, -0.07365785539150238, -0.307584285736084, 0.32152119278907776, -0.007645775564014912, 0.28520581126213074, -0.2763432562351227, 0.12172625213861465, -0.13317249715328217], "lstm2.weight_ih_l2": [[-0.1487806886434555, -0.07374054938554764, -0.13086634874343872, 0.19373317062854767, -0.06717482954263687, 0.26807042956352234, 0.0806749239563942, -0.05462939664721489], [-0.2042122185230255, -0.32373929023742676, -0.10313940793275833, -0.32740160822868347, -0.0655030682682991, 0.005778585560619831, -0.022784333676099777, -0.1736713945865631], [0.24538855254650116, 0.1991141438484192, -0.08710746467113495, -0.13969101011753082, 0.2222755253314972, 0.3076000511646271, -0.3237271010875702, -0.07638846337795258], [-0.0328105203807354, -0.12800785899162292, 0.30183175206184387, -0.05222386494278908, 0.29975971579551697, 0.0017478297231718898, -0.038350384682416916, -0.20622827112674713], [-0.11755876988172531, 0.11392537504434586, 0.15638992190361023, -0.012579485774040222, 0.33688080310821533, -0.2447059005498886, 0.1355571150779724, 0.3184369206428528], [-0.0614767000079155, 0.2806892395019531, 0.005828108172863722, -0.2647566497325897, -0.19396518170833588, 0.13159805536270142, -0.1529998481273651, 0.08503349870443344], [0.34798678755760193, 0.1200951635837555, -0.033088985830545425, 0.08837241679430008, -0.2036975771188736, -0.2970743179321289, -0.2657659351825714, -0.29666754603385925], [0.07255604863166809, 0.06886626034975052, -0.15024887025356293, -0.34582844376564026, 0.191521555185318, -0.2006094753742218, -0.059024933725595474, -0.29644811153411865], [-0.19946004450321198, 0.1474882960319519, -0.3294152021408081, -0.20161016285419464, 0.2650696635246277, -0.18131940066814423, -0.14713333547115326, -0.09926851093769073], [0.1511296182870865, -0.2319202721118927, 0.03544916585087776, 0.14439214766025543, -0.02566557563841343, 0.06392905861139297, -0.2697073221206665, 0.15984128415584564], [0.13213331997394562, -0.04434695467352867, -0.29234281182289124, 0.14141270518302917, 0.2307082563638687, -0.06183928623795509, 0.16664302349090576, 0.131047785282135], [-0.14140988886356354, -0.024543795734643936, 0.3519406318664551, 0.001669141580350697, -0.28146862983703613, -0.025784051045775414, 0.1758902221918106, -0.11540818214416504], [-0.18515008687973022, 0.2912496030330658, 0.18703389167785645, -0.060066211968660355, 0.018062664195895195, -0.03739276900887489, 0.08208292722702026, 0.012565113604068756], [-0.21394751965999603, 0.06550433486700058, 0.00924710277467966, 0.02285846881568432, -0.13473491370677948, 0.09058836847543716, -0.2858995497226715, 0.1056852862238884], [0.19158823788166046, -0.0389096736907959, -0.2746403217315674, -0.0012852259678766131, 0.0005018846713937819, -0.305542528629303, -0.2500666081905365, 0.3270151913166046], [0.2643938362598419, 0.19594036042690277, 0.24492718279361725, 0.13610494136810303, 0.19897586107254028, 0.23416607081890106, -0.08259277790784836, -0.04494442790746689], [0.25209999084472656, -0.00012732562026940286, -0.2300524115562439, -0.27414488792419434, 0.19773370027542114, 0.2928551435470581, 0.2745738923549652, 0.05883800983428955], [0.2440510243177414, -0.3246091306209564, -0.25472208857536316, -0.3401998281478882, 0.28485310077667236, -0.0031991563737392426, -0.16279885172843933, 0.1196330264210701], [-0.13234665989875793, -0.22674940526485443, 0.13636495172977448, 0.06473519653081894, -0.25318610668182373, -0.23287217319011688, 0.16577047109603882, 0.26883378624916077], [0.028781745582818985, -0.17758455872535706, 0.1707218736410141, 0.06166163831949234, -0.3095286786556244, -0.2291184812784195, 0.07738465070724487, 0.21876978874206543], [-0.11358390003442764, 0.17095491290092468, -0.21896012127399445, 0.3383271098136902, 0.2519223690032959, 0.06622310727834702, 0.15729326009750366, 0.12309201806783676], [-0.20863085985183716, -0.003082957584410906, 0.09427870810031891, -0.0798020213842392, 0.3390384018421173, -0.1363430768251419, -0.31574779748916626, -0.16831833124160767], [-0.32812753319740295, 0.2913450300693512, -0.15871340036392212, -0.248750701546669, -0.038218677043914795, -0.2382272630929947, -0.18468689918518066, 0.18024508655071259], [-0.26544633507728577, 0.166733056306839, 0.25782474875450134, -0.0007930350839160383, 0.156990647315979, -0.19804596900939941, 0.27570685744285583, 0.3434564471244812], [0.08401725441217422, 0.32218465209007263, -0.3511371612548828, -0.03882044926285744, 0.07024859637022018, -0.3073039650917053, 0.17205029726028442, -0.1347443163394928], [-0.12787409126758575, -0.28051432967185974, 0.14453890919685364, -0.2572549879550934, -0.0750260278582573, 0.15705950558185577, 0.26634809374809265, 0.0799473449587822], [-0.13189050555229187, -0.15378348529338837, 0.19844341278076172, 0.06559748202562332, 0.2976226508617401, 0.13314324617385864, 0.28481629490852356, -0.2848963737487793], [0.2842314839363098, -0.16244158148765564, -0.09464079141616821, 0.0021161511540412903, -0.06630251556634903, 0.0699348971247673, 0.31505030393600464, -0.2112429141998291], [0.10924345254898071, -0.2841523587703705, 0.05551334097981453, 0.29126131534576416, 0.23839512467384338, 0.30276989936828613, 0.19138702750205994, -0.0292512197047472], [0.09231158345937729, -0.1477339267730713, 0.30010417103767395, 0.17702586948871613, -0.2587727904319763, 0.30570220947265625, -0.005246439483016729, -0.015716223046183586], [-0.09676233679056168, -0.09328163415193558, 0.017695480957627296, -0.17260107398033142, -0.3288778066635132, -0.18211746215820312, -0.07035615295171738, 0.26698389649391174], [0.26009342074394226, -0.21183232963085175, -0.013575499877333641, -0.10204131156206131, -0.18913991749286652, -0.06217144802212715, -0.12267442792654037, 0.19761885702610016]], "lstm2.weight_hh_l2": [[-0.17534057796001434, 0.05439518392086029, -0.19951525330543518, -0.11034580320119858, 0.2783256471157074, -0.1735721379518509, -0.021259374916553497, 0.3376607298851013], [0.12100975215435028, -0.1799582690000534, -0.21227453649044037, -0.1239820346236229, -0.11071496456861496, 0.15393251180648804, -0.07860369980335236, 0.2981839179992676], [-0.19398824870586395, -0.11055745929479599, 0.12872183322906494, 0.2823670506477356, 0.3382067084312439, 0.05658901482820511, 0.014902661554515362, -0.15840445458889008], [0.19976429641246796, -0.2049368917942047, -0.09293000400066376, -0.2954987585544586, -0.3398861289024353, 0.19761931896209717, 0.024019403383135796, 0.28184381127357483], [0.281333327293396, 0.18552827835083008, 0.14149004220962524, -0.09175322204828262, 0.1877763420343399, 0.17001241445541382, 0.12239242345094681, -0.010205985978245735], [0.052810169756412506, 0.0015686635160818696, -0.25658270716667175, 0.0820733979344368, -0.2599131166934967, 0.17154458165168762, -0.2106504887342453, -0.11548838764429092], [-0.16767381131649017, 0.2790636420249939, -0.2489788830280304, 0.18052919209003448, 0.17731773853302002, 0.24998855590820312, 0.08858424425125122, 0.19273917376995087], [0.27948397397994995, 0.0696415975689888, 0.12021440267562866, -0.27645543217658997, -0.09483356773853302, 0.03205735608935356, 0.04283594712615013, -0.12491082400083542], [-0.35049083828926086, -0.09194520115852356, 0.13535472750663757, 0.3044343888759613, -0.3192690312862396, 0.16879859566688538, -0.3354775607585907, -0.3381037414073944], [-0.22141088545322418, -0.046698495745658875, 0.09874530136585236, -0.26888129115104675, 0.272391676902771, 0.31971976161003113, 0.02175283059477806, 0.2877867817878723], [-0.16005906462669373, -0.13986384868621826, -0.045624300837516785, 0.038631126284599304, -0.24663399159908295, -0.28310346603393555, 0.1396653801202774, 0.101938895881176], [0.3458702564239502, -0.14414829015731812, 0.12485396862030029, -0.14267238974571228, 0.17453144490718842, -0.019585134461522102, 0.2620919346809387, 0.19642318785190582], [0.2942793369293213, 0.18168950080871582, 0.013282958418130875, 0.30468255281448364, -0.20767083764076233, 0.33346664905548096, 0.3454877734184265, 0.33773815631866455], [-0.1651521772146225, -0.18733316659927368, 0.022368723526597023, 0.11009573936462402, 0.1773519515991211, 0.14379118382930756, 0.3010469675064087, -0.08857931196689606], [-0.1159914955496788, 0.11851116269826889, 0.09852373600006104, -0.20623746514320374, 0.03419731929898262, -0.2684353291988373, -0.10372166335582733, -0.13876019418239594], [0.30991899967193604, -0.31825944781303406, -0.2087467610836029, -0.3459979295730591, 0.08916806429624557, -0.27212613821029663, 0.11438890546560287, -0.24558208882808685], [-0.22647954523563385, -0.18062178790569305, 0.05305740237236023, 0.3248734176158905, 0.33117780089378357, -0.026710860431194305, -0.34630441665649414, -0.11680522561073303], [-0.1347430944442749, -0.07519929111003876, 0.1350886970758438, 0.17792043089866638, 0.15675663948059082, 0.10099897533655167, -0.14312829077243805, -0.0037505635991692543], [0.04499584808945656, -0.1805916577577591, -0.031627584248781204, -0.04413369297981262, -0.3340417444705963, 0.23968182504177094, -0.03574512153863907, -0.30563268065452576], [0.27972209453582764, -0.190237894654274, 0.1251734346151352, 0.35062333941459656, 0.016366885975003242, 0.10171858966350555, 0.14047691226005554, 0.26721248030662537], [-0.10847823321819305, -0.19895119965076447, -0.027667973190546036, 0.2764967978000641, 0.030399173498153687, 0.24565289914608002, -0.0026286146603524685, 0.10847730189561844], [0.012293856590986252, 0.009597553871572018, -0.3364483118057251, -0.30908846855163574, 0.029390934854745865, 0.17498549818992615, 0.23750039935112, 0.015340398997068405], [0.1490304172039032, 0.14786913990974426, -0.305205762386322, -0.310749888420105, -0.27412623167037964, 0.00607854500412941, -0.22355762124061584, -0.11314169317483902], [-0.05289657041430473, 0.13794301450252533, 0.08197452127933502, 0.32798293232917786, 0.3189018964767456, -0.2255517691373825, -0.0011138147674500942, 0.05838387832045555], [0.30865156650543213, -0.10957362502813339, -0.1389472484588623, -0.22396059334278107, 0.26051974296569824, -0.10016438364982605, -0.13241465389728546, 0.23913274705410004], [0.32532697916030884, -0.014899205416440964, -0.24922193586826324, 0.28807002305984497, -0.120916947722435, -0.16292618215084076, -0.2485564798116684, -0.1700362265110016], [-0.27689066529273987, -0.20407605171203613, -0.322072297334671, -0.07125965505838394, 0.14215503633022308, -0.26839137077331543, -0.0004937503254041076, -0.13037697970867157], [0.17101314663887024, 0.306220144033432, -0.04686809703707695, -0.17794331908226013, -0.2716577649116516, -0.2077203243970871, 0.10207903385162354, 0.08112046122550964], [0.1903989315032959, -0.052534319460392, 0.18166758120059967, -0.3149888217449188, 0.0950419008731842, 0.343227356672287, -0.3499112129211426, -0.1835392862558365], [0.22633400559425354, -0.055277615785598755, -0.18845929205417633, 0.21569041907787323, 0.023699931800365448, 0.01384764164686203, -0.10738624632358551, 0.2663811147212982], [0.19611506164073944, 0.06333613395690918, 0.05395631119608879, 0.18282005190849304, 0.22026726603507996, -0.14502809941768646, -0.03873581811785698, 0.15521790087223053], [-0.17132440209388733, 0.33059003949165344, -0.24218378961086273, 0.16314615309238434, -0.25396180152893066, 0.11351414769887924, 0.24694183468818665, 0.0426207035779953]], "lstm2.bias_ih_l2": [-0.03543592989444733, 0.22482940554618835, -0.2538658380508423, -0.23853033781051636, -0.3013322949409485, -0.21762946248054504, 0.009176211431622505, -0.1603173017501831, 0.07876639068126678, 0.011930634267628193, 0.2942473888397217, -0.15330363810062408, -0.09672039747238159, 0.23383808135986328, -0.08939754962921143, 0.3384901285171509, -0.14042435586452484, -0.0038721151649951935, -0.08376673609018326, 0.1649491935968399, 0.1354701668024063, -0.18827717006206512, 0.23297104239463806, -0.022465577349066734, -0.08940573036670685, -0.00713175255805254, 0.24605397880077362, 0.3468150794506073, 0.17203576862812042, 0.0618656724691391, 0.23074105381965637, -0.14784465730190277], "lstm2.bias_hh_l2": [-0.18476806581020355, -0.10210119932889938, -0.22882822155952454, 0.15201693773269653, 0.03358395770192146, -0.12096276134252548, -0.03589356318116188, -0.007010200992226601, 0.30314749479293823, 0.31560519337654114, -0.2721823751926422, 0.1295761913061142, 0.1365237981081009, 0.13518735766410828, -0.04820048436522484, 0.08841948956251144, 0.08896693587303162, 0.3441130816936493, -0.3388553857803345, -0.1341649293899536, -0.23787140846252441, -0.17149822413921356, 0.06941602379083633, 0.21562643349170685, -0.2673620283603668, 0.22995531558990479, 0.2953238785266876, -0.1742689609527588, 0.0617087185382843, -0.18150636553764343, 0.07572641968727112, -0.16391541063785553], "dense.weight": [[-0.13772843778133392, -0.2366744875907898, -0.2948282063007355, 0.2821406424045563, -0.04464801028370857, -0.009808329865336418, -0.1759527623653412, 0.2464277744293213]], "dense.bias": [-0.20236454904079437]} \ No newline at end of file diff --git a/python/gru_torch.py b/python/gru_torch.py index e8e40b6..46a4114 100644 --- a/python/gru_torch.py +++ b/python/gru_torch.py @@ -18,10 +18,12 @@ class Model(torch.nn.Module): def __init__(self): super().__init__() self.gru = torch.nn.GRU(1, 8) + self.gru2 = torch.nn.GRU(8, 8, num_layers=3) self.dense = torch.nn.Linear(8, 1) def forward(self, torch_in): x, _ = self.gru(torch_in) + x, _ = self.gru2(x) return self.dense(x) x = np.random.uniform(-1, 1, 1000) diff --git a/python/lstm_torch.py b/python/lstm_torch.py index 3fa6c8a..b24b969 100644 --- a/python/lstm_torch.py +++ b/python/lstm_torch.py @@ -18,10 +18,12 @@ class Model(torch.nn.Module): def __init__(self): super().__init__() self.lstm = torch.nn.LSTM(1, 8) + self.lstm2 = torch.nn.LSTM(8, 8, num_layers=3) self.dense = torch.nn.Linear(8, 1) def forward(self, torch_in): x, _ = self.lstm(torch_in) + x, _ = self.lstm2(x) return self.dense(x) x = np.random.uniform(-1, 1, 1000) diff --git a/test_data/gru_torch_y_python.csv b/test_data/gru_torch_y_python.csv index dbcc9de..1f56d2a 100644 --- a/test_data/gru_torch_y_python.csv +++ b/test_data/gru_torch_y_python.csv @@ -1,1000 +1,1000 @@ --4.111279249191284180e-01 --4.492674767971038818e-01 --4.687854647636413574e-01 --4.649049341678619385e-01 --4.833818078041076660e-01 --4.800198674201965332e-01 --4.725807011127471924e-01 --4.791604280471801758e-01 --4.585752785205841064e-01 --4.603020548820495605e-01 --4.426507055759429932e-01 --4.798632860183715820e-01 --4.681706130504608154e-01 --4.352586567401885986e-01 --4.752331972122192383e-01 --4.716912806034088135e-01 --4.686048030853271484e-01 --4.832352101802825928e-01 --4.283752441406250000e-01 --4.736590087413787842e-01 --4.502681493759155273e-01 --4.289278388023376465e-01 --4.670590162277221680e-01 --4.629192054271697998e-01 --4.807260036468505859e-01 --4.312257766723632812e-01 --4.508745670318603516e-01 --4.560291767120361328e-01 --4.812023043632507324e-01 --4.468095898628234863e-01 --4.749104976654052734e-01 --4.621959924697875977e-01 --4.458462297916412354e-01 --4.695534110069274902e-01 --4.862034916877746582e-01 --4.365393817424774170e-01 --4.459440410137176514e-01 --4.709979891777038574e-01 --4.755163192749023438e-01 --4.427702426910400391e-01 --4.777663648128509521e-01 --4.712718725204467773e-01 --4.629604816436767578e-01 --4.846205115318298340e-01 --4.736868143081665039e-01 --4.671806097030639648e-01 --4.787365496158599854e-01 --4.646520018577575684e-01 --4.705353379249572754e-01 --4.363665878772735596e-01 --4.714833498001098633e-01 --4.735113978385925293e-01 --4.809625148773193359e-01 --4.719271063804626465e-01 --4.624737501144409180e-01 --4.501158595085144043e-01 --4.520905315876007080e-01 --4.548713266849517822e-01 --4.551122784614562988e-01 --4.691528677940368652e-01 --4.820183515548706055e-01 --4.524360299110412598e-01 --4.657664895057678223e-01 --4.760816395282745361e-01 --4.837571084499359131e-01 --4.838818311691284180e-01 --4.840179085731506348e-01 --4.473275244235992432e-01 --4.577912092208862305e-01 --4.384549558162689209e-01 --4.754254519939422607e-01 --4.404366016387939453e-01 --4.777048230171203613e-01 --4.692758023738861084e-01 --4.368874132633209229e-01 --4.519614279270172119e-01 --4.467262029647827148e-01 --4.582243263721466064e-01 --4.822382926940917969e-01 --4.574046134948730469e-01 --4.593569636344909668e-01 --4.589340388774871826e-01 --4.382751584053039551e-01 --4.475831985473632812e-01 --4.362462460994720459e-01 --4.357817769050598145e-01 --4.757350385189056396e-01 --4.556969404220581055e-01 --4.517056047916412354e-01 --4.464192092418670654e-01 --4.381189048290252686e-01 --4.520768225193023682e-01 --4.805769026279449463e-01 --4.408801794052124023e-01 --4.500746428966522217e-01 --4.785238206386566162e-01 --4.515203237533569336e-01 --4.656861424446105957e-01 --4.524512588977813721e-01 --4.385240077972412109e-01 --4.765638709068298340e-01 --4.414389133453369141e-01 --4.571946561336517334e-01 --4.454095959663391113e-01 --4.793810248374938965e-01 --4.851912856101989746e-01 --4.733195900917053223e-01 --4.736918807029724121e-01 --4.717704355716705322e-01 --4.463276565074920654e-01 --4.407225847244262695e-01 --4.706492722034454346e-01 --4.799156785011291504e-01 --4.316388964653015137e-01 --4.361311495304107666e-01 --4.449959993362426758e-01 --4.363738298416137695e-01 --4.628431200981140137e-01 --4.788325428962707520e-01 --4.806146919727325439e-01 --4.853792190551757812e-01 --4.555047750473022461e-01 --4.743887484073638916e-01 --4.751721620559692383e-01 --4.430863261222839355e-01 --4.544159770011901855e-01 --4.699367284774780273e-01 --4.508935213088989258e-01 --4.761525988578796387e-01 --4.702938795089721680e-01 --4.841164648532867432e-01 --4.833864271640777588e-01 --4.771766662597656250e-01 --4.548968076705932617e-01 --4.344909787178039551e-01 --4.734685420989990234e-01 --4.673632979393005371e-01 --4.663176536560058594e-01 --4.702949523925781250e-01 --4.726183414459228516e-01 --4.555303752422332764e-01 --4.686883091926574707e-01 --4.597262144088745117e-01 --4.847583174705505371e-01 --4.662205576896667480e-01 --4.314739406108856201e-01 --4.577127099037170410e-01 --4.798120856285095215e-01 --4.768816232681274414e-01 --4.465073943138122559e-01 --4.621973037719726562e-01 --4.830691814422607422e-01 --4.552989602088928223e-01 --4.809866547584533691e-01 --4.723824262619018555e-01 --4.777576923370361328e-01 --4.622051715850830078e-01 --4.720547497272491455e-01 --4.875864684581756592e-01 --4.709332585334777832e-01 --4.342522025108337402e-01 --4.759191572666168213e-01 --4.822986721992492676e-01 --4.703099727630615234e-01 --4.818552434444427490e-01 --4.588727355003356934e-01 --4.460168480873107910e-01 --4.509316980838775635e-01 --4.333849549293518066e-01 --4.704126119613647461e-01 --4.853420853614807129e-01 --4.791999757289886475e-01 --4.432382583618164062e-01 --4.438768625259399414e-01 --4.435093402862548828e-01 --4.570975899696350098e-01 --4.518979787826538086e-01 --4.557551741600036621e-01 --4.639155268669128418e-01 --4.799777269363403320e-01 --4.819360077381134033e-01 --4.860506057739257812e-01 --4.647703170776367188e-01 --4.798977971076965332e-01 --4.797840118408203125e-01 --4.468869566917419434e-01 --4.801294505596160889e-01 --4.802074730396270752e-01 --4.842071533203125000e-01 --4.796284437179565430e-01 --4.839590787887573242e-01 --4.728741943836212158e-01 --4.254651069641113281e-01 --4.700359106063842773e-01 --4.518279135227203369e-01 --4.448134899139404297e-01 --4.504805803298950195e-01 --4.433377087116241455e-01 --4.471050500869750977e-01 --4.790534377098083496e-01 --4.824542701244354248e-01 --4.862925410270690918e-01 --4.600195288658142090e-01 --4.633240103721618652e-01 --4.490453004837036133e-01 --4.783069491386413574e-01 --4.524703025817871094e-01 --4.734614789485931396e-01 --4.616809785366058350e-01 --4.832543730735778809e-01 --4.863176941871643066e-01 --4.721002578735351562e-01 --4.751207828521728516e-01 --4.622416496276855469e-01 --4.299913346767425537e-01 --4.728360176086425781e-01 --4.622397720813751221e-01 --4.827790260314941406e-01 --4.570189714431762695e-01 --4.400668740272521973e-01 --4.761806428432464600e-01 --4.831134676933288574e-01 --4.860321283340454102e-01 --4.715789854526519775e-01 --4.809497594833374023e-01 --4.693557918071746826e-01 --4.837561249732971191e-01 --4.843893051147460938e-01 --4.767516851425170898e-01 --4.402267336845397949e-01 --4.266072213649749756e-01 --4.408828318119049072e-01 --4.658692479133605957e-01 --4.815227985382080078e-01 --4.818267226219177246e-01 --4.334283173084259033e-01 --4.709419310092926025e-01 --4.714561104774475098e-01 --4.458272755146026611e-01 --4.446262121200561523e-01 --4.770481884479522705e-01 --4.443560242652893066e-01 --4.532042443752288818e-01 --4.680531919002532959e-01 --4.839304089546203613e-01 --4.403605461120605469e-01 --4.507296383380889893e-01 --4.818142354488372803e-01 --4.649456739425659180e-01 --4.780853390693664551e-01 --4.813736081123352051e-01 --4.629437923431396484e-01 --4.815511107444763184e-01 --4.750734567642211914e-01 --4.623552262783050537e-01 --4.476677179336547852e-01 --4.785352349281311035e-01 --4.877634048461914062e-01 --4.475565254688262939e-01 --4.599765539169311523e-01 --4.760824441909790039e-01 --4.656992852687835693e-01 --4.467322826385498047e-01 --4.571138322353363037e-01 --4.517662525177001953e-01 --4.420994520187377930e-01 --4.342730641365051270e-01 --4.717814624309539795e-01 --4.631417393684387207e-01 --4.439632594585418701e-01 --4.607651233673095703e-01 --4.716702997684478760e-01 --4.733411073684692383e-01 --4.796407520771026611e-01 --4.589521288871765137e-01 --4.322462677955627441e-01 --4.752372801303863525e-01 --4.525536894798278809e-01 --4.596372246742248535e-01 --4.349742829799652100e-01 --4.577225446701049805e-01 --4.754786491394042969e-01 --4.789132177829742432e-01 --4.547856152057647705e-01 --4.447727501392364502e-01 --4.791506230831146240e-01 --4.592458307743072510e-01 --4.805520176887512207e-01 --4.399655461311340332e-01 --4.718652367591857910e-01 --4.677293896675109863e-01 --4.437706172466278076e-01 --4.756370484828948975e-01 --4.805648922920227051e-01 --4.821874499320983887e-01 --4.601480960845947266e-01 --4.792577922344207764e-01 --4.781723916530609131e-01 --4.511303305625915527e-01 --4.715600609779357910e-01 --4.458845257759094238e-01 --4.760873317718505859e-01 --4.820885658264160156e-01 --4.855980873107910156e-01 --4.775997996330261230e-01 --4.814939200878143311e-01 --4.840247929096221924e-01 --4.476147592067718506e-01 --4.402628540992736816e-01 --4.666937887668609619e-01 --4.560154080390930176e-01 --4.796401858329772949e-01 --4.624878764152526855e-01 --4.426299333572387695e-01 --4.428551197052001953e-01 --4.725337028503417969e-01 --4.664130210876464844e-01 --4.723286628723144531e-01 --4.734964966773986816e-01 --4.841979444026947021e-01 --4.831484258174896240e-01 --4.721827208995819092e-01 --4.610419273376464844e-01 --4.560742080211639404e-01 --4.701632857322692871e-01 --4.524267911911010742e-01 --4.772808551788330078e-01 --4.802765846252441406e-01 --4.706621170043945312e-01 --4.434180855751037598e-01 --4.684525728225708008e-01 --4.689932465553283691e-01 --4.379036426544189453e-01 --4.710142612457275391e-01 --4.860357642173767090e-01 --4.815460443496704102e-01 --4.842407405376434326e-01 --4.757072329521179199e-01 --4.250097572803497314e-01 --4.424652457237243652e-01 --4.728296101093292236e-01 --4.631594419479370117e-01 --4.844688475131988525e-01 --4.789863228797912598e-01 --4.451681971549987793e-01 --4.788367748260498047e-01 --4.780867099761962891e-01 --4.491896629333496094e-01 --4.611471295356750488e-01 --4.832344055175781250e-01 --4.639171957969665527e-01 --4.780619740486145020e-01 --4.809266328811645508e-01 --4.847737550735473633e-01 --4.352803230285644531e-01 --4.640154838562011719e-01 --4.509558379650115967e-01 --4.553232789039611816e-01 --4.749834537506103516e-01 --4.598836898803710938e-01 --4.833500981330871582e-01 --4.790708720684051514e-01 --4.849709868431091309e-01 --4.774393141269683838e-01 --4.521220326423645020e-01 --4.349918663501739502e-01 --4.542183279991149902e-01 --4.694294929504394531e-01 --4.863615036010742188e-01 --4.797212183475494385e-01 --4.807779788970947266e-01 --4.707530140876770020e-01 --4.811780452728271484e-01 --4.449697732925415039e-01 --4.264405965805053711e-01 --4.537351727485656738e-01 --4.566397368907928467e-01 --4.451455175876617432e-01 --4.798184931278228760e-01 --4.582785367965698242e-01 --4.799560010433197021e-01 --4.373741447925567627e-01 --4.702754020690917969e-01 --4.845312535762786865e-01 --4.818108081817626953e-01 --4.498014450073242188e-01 --4.260255396366119385e-01 --4.592954516410827637e-01 --4.642854332923889160e-01 --4.514129757881164551e-01 --4.817569553852081299e-01 --4.439371824264526367e-01 --4.454012215137481689e-01 --4.449221193790435791e-01 --4.724324345588684082e-01 --4.706789851188659668e-01 --4.715478420257568359e-01 --4.634656906127929688e-01 --4.422168731689453125e-01 --4.710118770599365234e-01 --4.421642124652862549e-01 --4.572012424468994141e-01 --4.476912617683410645e-01 --4.555210173130035400e-01 --4.782959818840026855e-01 --4.869451820850372314e-01 --4.307904541492462158e-01 --4.561302363872528076e-01 --4.657168388366699219e-01 --4.671308696269989014e-01 --4.435028731822967529e-01 --4.775388836860656738e-01 --4.771564602851867676e-01 --4.615586996078491211e-01 --4.696329832077026367e-01 --4.639026820659637451e-01 --4.712437689304351807e-01 --4.418321251869201660e-01 --4.602773785591125488e-01 --4.480726420879364014e-01 --4.719431102275848389e-01 --4.855544567108154297e-01 --4.589098095893859863e-01 --4.689320325851440430e-01 --4.436540603637695312e-01 --4.782910048961639404e-01 --4.468142390251159668e-01 --4.797681570053100586e-01 --4.257792234420776367e-01 --4.361940026283264160e-01 --4.431432783603668213e-01 --4.370250701904296875e-01 --4.663164615631103516e-01 --4.858238101005554199e-01 --4.616487622261047363e-01 --4.537567496299743652e-01 --4.572573006153106689e-01 --4.733924865722656250e-01 --4.828771948814392090e-01 --4.386904835700988770e-01 --4.756401181221008301e-01 --4.824145436286926270e-01 --4.609612822532653809e-01 --4.817617237567901611e-01 --4.761276841163635254e-01 --4.680940806865692139e-01 --4.595649242401123047e-01 --4.430840909481048584e-01 --4.609525203704833984e-01 --4.712951481342315674e-01 --4.873418807983398438e-01 --4.867596030235290527e-01 --4.596804976463317871e-01 --4.810270667076110840e-01 --4.240300953388214111e-01 --4.705614447593688965e-01 --4.606524109840393066e-01 --4.814492464065551758e-01 --4.380508661270141602e-01 --4.670666456222534180e-01 --4.833864867687225342e-01 --4.871565997600555420e-01 --4.790228605270385742e-01 --4.478871226310729980e-01 --4.643353223800659180e-01 --4.810630083084106445e-01 --4.795835614204406738e-01 --4.789366126060485840e-01 --4.496075510978698730e-01 --4.395312666893005371e-01 --4.469957351684570312e-01 --4.566574394702911377e-01 --4.842561185359954834e-01 --4.576831459999084473e-01 --4.623317420482635498e-01 --4.711598455905914307e-01 --4.321978688240051270e-01 --4.414208531379699707e-01 --4.746696949005126953e-01 --4.794275760650634766e-01 --4.618993103504180908e-01 --4.577005505561828613e-01 --4.819239974021911621e-01 --4.746932387351989746e-01 --4.679342508316040039e-01 --4.835481047630310059e-01 --4.530330002307891846e-01 --4.326226413249969482e-01 --4.711233973503112793e-01 --4.836721420288085938e-01 --4.537855386734008789e-01 --4.726253449916839600e-01 --4.834101796150207520e-01 --4.690983593463897705e-01 --4.827545285224914551e-01 --4.770285487174987793e-01 --4.859213829040527344e-01 --4.713378548622131348e-01 --4.528590440750122070e-01 --4.336057603359222412e-01 --4.611265659332275391e-01 --4.779978990554809570e-01 --4.786538481712341309e-01 --4.788319766521453857e-01 --4.777591228485107422e-01 --4.815031886100769043e-01 --4.503999054431915283e-01 --4.501196146011352539e-01 --4.809063076972961426e-01 --4.461073279380798340e-01 --4.366694688796997070e-01 --4.350215196609497070e-01 --4.523097276687622070e-01 --4.657461047172546387e-01 --4.851573705673217773e-01 --4.742651879787445068e-01 --4.807920455932617188e-01 --4.416782259941101074e-01 --4.651710689067840576e-01 --4.725482463836669922e-01 --4.510233104228973389e-01 --4.606680274009704590e-01 --4.459743499755859375e-01 --4.649200737476348877e-01 --4.505537152290344238e-01 --4.699300825595855713e-01 --4.491538405418395996e-01 --4.809992909431457520e-01 --4.641003608703613281e-01 --4.816959798336029053e-01 --4.826483726501464844e-01 --4.747055768966674805e-01 --4.672595262527465820e-01 --4.452911913394927979e-01 --4.288065433502197266e-01 --4.420909881591796875e-01 --4.766768217086791992e-01 --4.568824768066406250e-01 --4.768902361392974854e-01 --4.814958274364471436e-01 --4.711050093173980713e-01 --4.682238996028900146e-01 --4.768848419189453125e-01 --4.801120162010192871e-01 --4.526639878749847412e-01 --4.799082577228546143e-01 --4.824795722961425781e-01 --4.697324037551879883e-01 --4.321115314960479736e-01 --4.393234848976135254e-01 --4.764936268329620361e-01 --4.481886625289916992e-01 --4.683599770069122314e-01 --4.825016260147094727e-01 --4.617870748043060303e-01 --4.646202921867370605e-01 --4.671819210052490234e-01 --4.869029223918914795e-01 --4.867314696311950684e-01 --4.537466764450073242e-01 --4.694221019744873047e-01 --4.317167401313781738e-01 --4.686147868633270264e-01 --4.791349768638610840e-01 --4.664261043071746826e-01 --4.446514844894409180e-01 --4.727507233619689941e-01 --4.867008924484252930e-01 --4.777374863624572754e-01 --4.652280807495117188e-01 --4.391319155693054199e-01 --4.307177960872650146e-01 --4.711017608642578125e-01 --4.366614222526550293e-01 --4.376575350761413574e-01 --4.598164558410644531e-01 --4.820685386657714844e-01 --4.353604018688201904e-01 --4.359728097915649414e-01 --4.515512585639953613e-01 --4.790977537631988525e-01 --4.681635499000549316e-01 --4.762381613254547119e-01 --4.833705425262451172e-01 --4.544897973537445068e-01 --4.688882827758789062e-01 --4.859490990638732910e-01 --4.669486284255981445e-01 --4.651044607162475586e-01 --4.838909804821014404e-01 --4.594261348247528076e-01 --4.385878741741180420e-01 --4.559290409088134766e-01 --4.523819684982299805e-01 --4.756875038146972656e-01 --4.858267903327941895e-01 --4.343523979187011719e-01 --4.403894841670989990e-01 --4.378540813922882080e-01 --4.583057463169097900e-01 --4.794518947601318359e-01 --4.636052250862121582e-01 --4.767625331878662109e-01 --4.743981361389160156e-01 --4.853993654251098633e-01 --4.700919985771179199e-01 --4.741904735565185547e-01 --4.619663953781127930e-01 --4.586703479290008545e-01 --4.807680845260620117e-01 --4.866064190864562988e-01 --4.501273632049560547e-01 --4.610232412815093994e-01 --4.337953925132751465e-01 --4.383391141891479492e-01 --4.417576193809509277e-01 --4.487434625625610352e-01 --4.795830249786376953e-01 --4.779990315437316895e-01 --4.795184135437011719e-01 --4.358233809471130371e-01 --4.560957849025726318e-01 --4.572055935859680176e-01 --4.816727638244628906e-01 --4.358336925506591797e-01 --4.697273373603820801e-01 --4.825280904769897461e-01 --4.813171327114105225e-01 --4.713850021362304688e-01 --4.803541898727416992e-01 --4.482991695404052734e-01 --4.462144672870635986e-01 --4.765017032623291016e-01 --4.375670552253723145e-01 --4.566711485385894775e-01 --4.533772170543670654e-01 --4.791105985641479492e-01 --4.728135466575622559e-01 --4.771181941032409668e-01 --4.369789958000183105e-01 --4.694086611270904541e-01 --4.537211656570434570e-01 --4.343182742595672607e-01 --4.437358677387237549e-01 --4.517070651054382324e-01 --4.770489335060119629e-01 --4.451586008071899414e-01 --4.624016880989074707e-01 --4.774796962738037109e-01 --4.803069233894348145e-01 --4.855311512947082520e-01 --4.629929661750793457e-01 --4.779068231582641602e-01 --4.767407774925231934e-01 --4.462236166000366211e-01 --4.652916193008422852e-01 --4.675414562225341797e-01 --4.671155512332916260e-01 --4.618879556655883789e-01 --4.326926469802856445e-01 --4.756440818309783936e-01 --4.803327322006225586e-01 --4.597649574279785156e-01 --4.766476452350616455e-01 --4.347230494022369385e-01 --4.727652966976165771e-01 --4.661070406436920166e-01 --4.426231384277343750e-01 --4.681059718132019043e-01 --4.738565683364868164e-01 --4.720345437526702881e-01 --4.863798022270202637e-01 --4.825124442577362061e-01 --4.734264314174652100e-01 --4.685273170471191406e-01 --4.701531529426574707e-01 --4.644016027450561523e-01 --4.857739210128784180e-01 --4.873978793621063232e-01 --4.603882431983947754e-01 --4.823270142078399658e-01 --4.281892478466033936e-01 --4.355370998382568359e-01 --4.633915424346923828e-01 --4.557141661643981934e-01 --4.407759904861450195e-01 --4.636955857276916504e-01 --4.816616773605346680e-01 --4.356525540351867676e-01 --4.283635914325714111e-01 --4.699652791023254395e-01 --4.854843020439147949e-01 --4.561731815338134766e-01 --4.365059733390808105e-01 --4.546898305416107178e-01 --4.710481762886047363e-01 --4.515568017959594727e-01 --4.808127880096435547e-01 --4.630391299724578857e-01 --4.736901521682739258e-01 --4.495551288127899170e-01 --4.689422547817230225e-01 --4.819872975349426270e-01 --4.749375283718109131e-01 --4.339144825935363770e-01 --4.528370797634124756e-01 --4.795670509338378906e-01 --4.847210049629211426e-01 --4.768620729446411133e-01 --4.835393726825714111e-01 --4.647678136825561523e-01 --4.773673713207244873e-01 --4.858812391757965088e-01 --4.757890105247497559e-01 --4.829489588737487793e-01 --4.333772659301757812e-01 --4.734916687011718750e-01 --4.761028289794921875e-01 --4.454529583454132080e-01 --4.673922061920166016e-01 --4.777706861495971680e-01 --4.664314985275268555e-01 --4.849549829959869385e-01 --4.616487026214599609e-01 --4.574987888336181641e-01 --4.751713871955871582e-01 --4.577859044075012207e-01 --4.633525609970092773e-01 --4.612966775894165039e-01 --4.761886000633239746e-01 --4.356916844844818115e-01 --4.469992518424987793e-01 --4.419043660163879395e-01 --4.383565783500671387e-01 --4.770271778106689453e-01 --4.564515054225921631e-01 --4.724687337875366211e-01 --4.829231500625610352e-01 --4.692312479019165039e-01 --4.593414366245269775e-01 --4.831122159957885742e-01 --4.308887124061584473e-01 --4.727866947650909424e-01 --4.343937039375305176e-01 --4.617841839790344238e-01 --4.600222706794738770e-01 --4.807870686054229736e-01 --4.476477503776550293e-01 --4.759905934333801270e-01 --4.537170529365539551e-01 --4.686281085014343262e-01 --4.858788847923278809e-01 --4.391964375972747803e-01 --4.705665111541748047e-01 --4.737464785575866699e-01 --4.867563247680664062e-01 --4.747499823570251465e-01 --4.850921332836151123e-01 --4.564489424228668213e-01 --4.258669614791870117e-01 --4.637141227722167969e-01 --4.849591851234436035e-01 --4.621076881885528564e-01 --4.784713685512542725e-01 --4.524528384208679199e-01 --4.347597658634185791e-01 --4.618630409240722656e-01 --4.772949218750000000e-01 --4.809499979019165039e-01 --4.646503329277038574e-01 --4.730863571166992188e-01 --4.426188468933105469e-01 --4.778234362602233887e-01 --4.753439426422119141e-01 --4.492525458335876465e-01 --4.652319550514221191e-01 --4.469887018203735352e-01 --4.615919589996337891e-01 --4.594009518623352051e-01 --4.603641033172607422e-01 --4.849940240383148193e-01 --4.506496191024780273e-01 --4.788082838058471680e-01 --4.676770567893981934e-01 --4.824726581573486328e-01 --4.633907675743103027e-01 --4.417280554771423340e-01 --4.777742922306060791e-01 --4.282722473144531250e-01 --4.668437838554382324e-01 --4.631448984146118164e-01 --4.712919890880584717e-01 --4.866191148757934570e-01 --4.500127732753753662e-01 --4.715363979339599609e-01 --4.535413980484008789e-01 --4.464875459671020508e-01 --4.409596621990203857e-01 --4.785509705543518066e-01 --4.498817026615142822e-01 --4.761478900909423828e-01 --4.841356277465820312e-01 --4.668501019477844238e-01 --4.758453965187072754e-01 --4.655762016773223877e-01 --4.836370944976806641e-01 --4.795901775360107422e-01 --4.390475749969482422e-01 --4.489935040473937988e-01 --4.554901421070098877e-01 --4.572991430759429932e-01 --4.500558972358703613e-01 --4.795072674751281738e-01 --4.700923264026641846e-01 --4.703981876373291016e-01 --4.817290604114532471e-01 --4.791207909584045410e-01 --4.533403515815734863e-01 --4.640872478485107422e-01 --4.745338559150695801e-01 --4.499129056930541992e-01 --4.444611072540283203e-01 --4.383980035781860352e-01 --4.339710175991058350e-01 --4.535934925079345703e-01 --4.548118412494659424e-01 --4.777876138687133789e-01 --4.760065376758575439e-01 --4.579356908798217773e-01 --4.442090988159179688e-01 --4.798181653022766113e-01 --4.550449252128601074e-01 --4.727925062179565430e-01 --4.449073672294616699e-01 --4.719560742378234863e-01 --4.485307335853576660e-01 --4.779018163681030273e-01 --4.820064902305603027e-01 --4.612234234809875488e-01 --4.565097391605377197e-01 --4.478217363357543945e-01 --4.756200313568115234e-01 --4.557351768016815186e-01 --4.809816181659698486e-01 --4.723391532897949219e-01 --4.641123414039611816e-01 --4.577226340770721436e-01 --4.455340802669525146e-01 --4.769199788570404053e-01 --4.547489881515502930e-01 --4.411677718162536621e-01 --4.571233093738555908e-01 --4.841651618480682373e-01 --4.566735625267028809e-01 --4.781325459480285645e-01 --4.692271649837493896e-01 --4.551247358322143555e-01 --4.535389542579650879e-01 --4.532334804534912109e-01 --4.827536642551422119e-01 --4.865131080150604248e-01 --4.836795926094055176e-01 --4.758585095405578613e-01 --4.364868998527526855e-01 --4.230830371379852295e-01 --4.711241722106933594e-01 --4.620296359062194824e-01 --4.540739357471466064e-01 --4.760470390319824219e-01 --4.844600856304168701e-01 --4.700905680656433105e-01 --4.852979183197021484e-01 --4.564086496829986572e-01 --4.775401353836059570e-01 --4.644423127174377441e-01 --4.720610380172729492e-01 --4.863744080066680908e-01 --4.515917301177978516e-01 --4.709967672824859619e-01 --4.548254013061523438e-01 --4.509605169296264648e-01 --4.444701671600341797e-01 --4.799133539199829102e-01 --4.557042419910430908e-01 --4.793402552604675293e-01 --4.803960919380187988e-01 --4.743022024631500244e-01 --4.593048989772796631e-01 --4.653023481369018555e-01 --4.770488142967224121e-01 --4.639067649841308594e-01 --4.448671936988830566e-01 --4.803152978420257568e-01 --4.783158898353576660e-01 --4.688179492950439453e-01 --4.705163240432739258e-01 --4.858404994010925293e-01 --4.271182119846343994e-01 --4.724998474121093750e-01 --4.528375267982482910e-01 --4.524272680282592773e-01 --4.655631482601165771e-01 --4.769898355007171631e-01 --4.468033313751220703e-01 --4.800174832344055176e-01 --4.656359553337097168e-01 --4.495458602905273438e-01 --4.537156224250793457e-01 --4.590822458267211914e-01 --4.788010120391845703e-01 --4.776391983032226562e-01 --4.445027709007263184e-01 --4.701433777809143066e-01 --4.641293287277221680e-01 --4.816642403602600098e-01 --4.325273931026458740e-01 --4.557698071002960205e-01 --4.474531114101409912e-01 --4.754289984703063965e-01 --4.635637402534484863e-01 --4.812539517879486084e-01 --4.584282934665679932e-01 --4.761067032814025879e-01 --4.838819503784179688e-01 --4.343664050102233887e-01 --4.582346081733703613e-01 --4.784022569656372070e-01 --4.806306958198547363e-01 --4.484602510929107666e-01 --4.706814289093017578e-01 --4.584015607833862305e-01 --4.555878043174743652e-01 --4.799555540084838867e-01 --4.607277512550354004e-01 --4.731041789054870605e-01 --4.851567745208740234e-01 --4.705524146556854248e-01 --4.853161275386810303e-01 --4.762159585952758789e-01 --4.578859806060791016e-01 --4.482439756393432617e-01 --4.578831493854522705e-01 --4.424292743206024170e-01 --4.462067484855651855e-01 --4.801707863807678223e-01 --4.803298711776733398e-01 --4.295334815979003906e-01 --4.315773248672485352e-01 --4.717562794685363770e-01 --4.663254618644714355e-01 --4.801974892616271973e-01 --4.845446944236755371e-01 --4.858133792877197266e-01 --4.646514356136322021e-01 --4.275847673416137695e-01 --4.663197994232177734e-01 --4.520428478717803955e-01 --4.562305212020874023e-01 --4.741210937500000000e-01 --4.606041908264160156e-01 --4.620168209075927734e-01 --4.724099934101104736e-01 --4.880274534225463867e-01 --4.584859013557434082e-01 --4.624283313751220703e-01 --4.831472635269165039e-01 --4.765079021453857422e-01 --4.433828890323638916e-01 --4.695204496383666992e-01 --4.778192937374114990e-01 --4.801797270774841309e-01 --4.486619234085083008e-01 --4.565219879150390625e-01 --4.690356850624084473e-01 --4.512141644954681396e-01 --4.795941710472106934e-01 --4.858360588550567627e-01 --4.780429303646087646e-01 --4.505223333835601807e-01 --4.791968464851379395e-01 --4.732001423835754395e-01 --4.552053809165954590e-01 --4.706756472587585449e-01 --4.672790169715881348e-01 --4.854047298431396484e-01 --4.457378387451171875e-01 --4.694169461727142334e-01 --4.365379214286804199e-01 --4.597302079200744629e-01 --4.839236140251159668e-01 --4.843818545341491699e-01 --4.265007972717285156e-01 --4.683783650398254395e-01 --4.840322732925415039e-01 --4.837768077850341797e-01 --4.712068140506744385e-01 --4.765616655349731445e-01 --4.722698330879211426e-01 --4.827050566673278809e-01 --4.831321239471435547e-01 +-1.651490628719329834e-01 +-1.618381440639495850e-01 +-1.713975071907043457e-01 +-1.830473095178604126e-01 +-1.934022009372711182e-01 +-2.012128084897994995e-01 +-2.062524557113647461e-01 +-2.093524187803268433e-01 +-2.103286236524581909e-01 +-2.097244858741760254e-01 +-2.075567394495010376e-01 +-2.063811421394348145e-01 +-2.058992385864257812e-01 +-2.046753317117691040e-01 +-2.044024020433425903e-01 +-2.048110216856002808e-01 +-2.053683698177337646e-01 +-2.065698057413101196e-01 +-2.063420712947845459e-01 +-2.065923064947128296e-01 +-2.063888013362884521e-01 +-2.048133015632629395e-01 +-2.035358399152755737e-01 +-2.026214152574539185e-01 +-2.029078900814056396e-01 +-2.024380266666412354e-01 +-2.014915645122528076e-01 +-2.003934085369110107e-01 +-2.006561160087585449e-01 +-2.007962614297866821e-01 +-2.016507536172866821e-01 +-2.024576216936111450e-01 +-2.023304700851440430e-01 +-2.022272050380706787e-01 +-2.033744454383850098e-01 +-2.037328630685806274e-01 +-2.031400054693222046e-01 +-2.027784883975982666e-01 +-2.030285745859146118e-01 +-2.025955617427825928e-01 +-2.030484676361083984e-01 +-2.039844542741775513e-01 +-2.046707421541213989e-01 +-2.061014771461486816e-01 +-2.075944840908050537e-01 +-2.085355967283248901e-01 +-2.093215435743331909e-01 +-2.094154059886932373e-01 +-2.090697884559631348e-01 +-2.073377966880798340e-01 +-2.059199810028076172e-01 +-2.052181959152221680e-01 +-2.055294215679168701e-01 +-2.061666548252105713e-01 +-2.063919007778167725e-01 +-2.056154906749725342e-01 +-2.040416598320007324e-01 +-2.021512836217880249e-01 +-2.003097832202911377e-01 +-1.993229836225509644e-01 +-1.998943239450454712e-01 +-2.004814147949218750e-01 +-2.010838091373443604e-01 +-2.020562291145324707e-01 +-2.037469297647476196e-01 +-2.059841454029083252e-01 +-2.084893584251403809e-01 +-2.095680534839630127e-01 +-2.093384563922882080e-01 +-2.074594497680664062e-01 +-2.061053961515426636e-01 +-2.043614089488983154e-01 +-2.040623873472213745e-01 +-2.045785188674926758e-01 +-2.042414247989654541e-01 +-2.032350897789001465e-01 +-2.015782892704010010e-01 +-1.999879628419876099e-01 +-2.000566571950912476e-01 +-2.005316764116287231e-01 +-2.009142637252807617e-01 +-2.009607851505279541e-01 +-1.999937295913696289e-01 +-1.985072791576385498e-01 +-1.965228468179702759e-01 +-1.943404376506805420e-01 +-1.943651735782623291e-01 +-1.953377723693847656e-01 +-1.962788701057434082e-01 +-1.965789496898651123e-01 +-1.959496587514877319e-01 +-1.951386630535125732e-01 +-1.960132420063018799e-01 +-1.968061476945877075e-01 +-1.972130835056304932e-01 +-1.985684484243392944e-01 +-1.996116042137145996e-01 +-2.005150616168975830e-01 +-2.007229328155517578e-01 +-1.998008787631988525e-01 +-1.999378055334091187e-01 +-1.998373270034790039e-01 +-1.996803283691406250e-01 +-1.989986896514892578e-01 +-1.996562629938125610e-01 +-2.019248306751251221e-01 +-2.045821845531463623e-01 +-2.069622576236724854e-01 +-2.086314857006072998e-01 +-2.086150348186492920e-01 +-2.068818956613540649e-01 +-2.052439004182815552e-01 +-2.046688497066497803e-01 +-2.034471631050109863e-01 +-2.014295160770416260e-01 +-1.991353183984756470e-01 +-1.966339349746704102e-01 +-1.952235847711563110e-01 +-1.957372128963470459e-01 +-1.978080719709396362e-01 +-2.010570615530014038e-01 +-2.035551220178604126e-01 +-2.055755406618118286e-01 +-2.071207165718078613e-01 +-2.070768177509307861e-01 +-2.059280574321746826e-01 +-2.047833800315856934e-01 +-2.032845467329025269e-01 +-2.026991844177246094e-01 +-2.027697265148162842e-01 +-2.039881646633148193e-01 +-2.060193270444869995e-01 +-2.081021517515182495e-01 +-2.089977860450744629e-01 +-2.079173624515533447e-01 +-2.069053947925567627e-01 +-2.061076462268829346e-01 +-2.054544985294342041e-01 +-2.050430327653884888e-01 +-2.049265801906585693e-01 +-2.043768614530563354e-01 +-2.038699835538864136e-01 +-2.031665593385696411e-01 +-2.037768363952636719e-01 +-2.046930938959121704e-01 +-2.043059468269348145e-01 +-2.033850848674774170e-01 +-2.033461481332778931e-01 +-2.040776014328002930e-01 +-2.041319608688354492e-01 +-2.038101106882095337e-01 +-2.043696939945220947e-01 +-2.046310305595397949e-01 +-2.056182473897933960e-01 +-2.067660689353942871e-01 +-2.080038040876388550e-01 +-2.085122019052505493e-01 +-2.085942178964614868e-01 +-2.093447744846343994e-01 +-2.100072354078292847e-01 +-2.091304808855056763e-01 +-2.086442559957504272e-01 +-2.090876698493957520e-01 +-2.096656411886215210e-01 +-2.106084823608398438e-01 +-2.107978314161300659e-01 +-2.096069455146789551e-01 +-2.073916345834732056e-01 +-2.041083276271820068e-01 +-2.019034773111343384e-01 +-2.019715458154678345e-01 +-2.035139054059982300e-01 +-2.043926566839218140e-01 +-2.040286660194396973e-01 +-2.025084197521209717e-01 +-2.007683068513870239e-01 +-1.990416198968887329e-01 +-1.976489424705505371e-01 +-1.969806551933288574e-01 +-1.977795958518981934e-01 +-1.998374313116073608e-01 +-2.029043585062026978e-01 +-2.054564952850341797e-01 +-2.077441662549972534e-01 +-2.096831351518630981e-01 +-2.100102156400680542e-01 +-2.103652656078338623e-01 +-2.109898477792739868e-01 +-2.120441198348999023e-01 +-2.131358385086059570e-01 +-2.142962515354156494e-01 +-2.149033695459365845e-01 +-2.133794724941253662e-01 +-2.116439193487167358e-01 +-2.094423472881317139e-01 +-2.066490501165390015e-01 +-2.037052959203720093e-01 +-2.006987184286117554e-01 +-1.980013698339462280e-01 +-1.974942088127136230e-01 +-1.990653723478317261e-01 +-2.022400200366973877e-01 +-2.049989551305770874e-01 +-2.067465186119079590e-01 +-2.068578600883483887e-01 +-2.069370746612548828e-01 +-2.063140273094177246e-01 +-2.059145867824554443e-01 +-2.053689807653427124e-01 +-2.057830840349197388e-01 +-2.073141336441040039e-01 +-2.088892012834548950e-01 +-2.101863473653793335e-01 +-2.105134576559066772e-01 +-2.088690996170043945e-01 +-2.074687182903289795e-01 +-2.062554508447647095e-01 +-2.062832266092300415e-01 +-2.062744945287704468e-01 +-2.052405476570129395e-01 +-2.048671990633010864e-01 +-2.056590765714645386e-01 +-2.075608670711517334e-01 +-2.094003111124038696e-01 +-2.111700177192687988e-01 +-2.121788710355758667e-01 +-2.130590081214904785e-01 +-2.139670550823211670e-01 +-2.145314663648605347e-01 +-2.134480774402618408e-01 +-2.103714346885681152e-01 +-2.063163667917251587e-01 +-2.030839920043945312e-01 +-2.019066959619522095e-01 +-2.025503218173980713e-01 +-2.026234418153762817e-01 +-2.031189650297164917e-01 +-2.039137482643127441e-01 +-2.038311213254928589e-01 +-2.026982605457305908e-01 +-2.023678123950958252e-01 +-2.017402350902557373e-01 +-2.008755505084991455e-01 +-2.004349529743194580e-01 +-2.013592869043350220e-01 +-2.017420083284378052e-01 +-2.014545500278472900e-01 +-2.023248225450515747e-01 +-2.034429460763931274e-01 +-2.049814015626907349e-01 +-2.068593204021453857e-01 +-2.080257236957550049e-01 +-2.091903090476989746e-01 +-2.100873589515686035e-01 +-2.101317644119262695e-01 +-2.088404595851898193e-01 +-2.079444676637649536e-01 +-2.083867341279983521e-01 +-2.083631455898284912e-01 +-2.078427970409393311e-01 +-2.075473815202713013e-01 +-2.071060836315155029e-01 +-2.058022618293762207e-01 +-2.041027545928955078e-01 +-2.021340280771255493e-01 +-1.998248398303985596e-01 +-1.971835494041442871e-01 +-1.962253004312515259e-01 +-1.964250504970550537e-01 +-1.965182423591613770e-01 +-1.967536956071853638e-01 +-1.975553184747695923e-01 +-1.988683938980102539e-01 +-2.007733732461929321e-01 +-2.021427750587463379e-01 +-2.018704861402511597e-01 +-2.022395133972167969e-01 +-2.024308294057846069e-01 +-2.024043053388595581e-01 +-2.013038992881774902e-01 +-2.000659555196762085e-01 +-1.998279690742492676e-01 +-2.007392346858978271e-01 +-2.014556974172592163e-01 +-2.012264877557754517e-01 +-2.018688619136810303e-01 +-2.025130093097686768e-01 +-2.039109170436859131e-01 +-2.043302953243255615e-01 +-2.048086225986480713e-01 +-2.051936686038970947e-01 +-2.045485079288482666e-01 +-2.043620347976684570e-01 +-2.050397247076034546e-01 +-2.064743191003799438e-01 +-2.073880434036254883e-01 +-2.083533704280853271e-01 +-2.093046158552169800e-01 +-2.091365158557891846e-01 +-2.086404860019683838e-01 +-2.071550637483596802e-01 +-2.062184065580368042e-01 +-2.063613682985305786e-01 +-2.076305001974105835e-01 +-2.092224359512329102e-01 +-2.109067589044570923e-01 +-2.126015573740005493e-01 +-2.128034532070159912e-01 +-2.111591994762420654e-01 +-2.090779989957809448e-01 +-2.067093551158905029e-01 +-2.054883688688278198e-01 +-2.047244906425476074e-01 +-2.034179866313934326e-01 +-2.014734745025634766e-01 +-2.004631310701370239e-01 +-2.002075612545013428e-01 +-2.006785720586776733e-01 +-2.016369551420211792e-01 +-2.034160643815994263e-01 +-2.057189345359802246e-01 +-2.076719999313354492e-01 +-2.085402309894561768e-01 +-2.081182599067687988e-01 +-2.072703242301940918e-01 +-2.057375758886337280e-01 +-2.049094140529632568e-01 +-2.051009535789489746e-01 +-2.056299746036529541e-01 +-2.051930725574493408e-01 +-2.046640217304229736e-01 +-2.042610943317413330e-01 +-2.029664367437362671e-01 +-2.022334784269332886e-01 +-2.031637430191040039e-01 +-2.051870375871658325e-01 +-2.078870683908462524e-01 +-2.103300541639328003e-01 +-2.105128169059753418e-01 +-2.088699936866760254e-01 +-2.072921991348266602e-01 +-2.058471143245697021e-01 +-2.058065384626388550e-01 +-2.067267149686813354e-01 +-2.068657577037811279e-01 +-2.075015306472778320e-01 +-2.085342556238174438e-01 +-2.086048126220703125e-01 +-2.079344242811203003e-01 +-2.078974992036819458e-01 +-2.077582329511642456e-01 +-2.079779356718063354e-01 +-2.086499631404876709e-01 +-2.098559290170669556e-01 +-2.096414566040039062e-01 +-2.088327258825302124e-01 +-2.072142064571380615e-01 +-2.051581740379333496e-01 +-2.038857936859130859e-01 +-2.029129117727279663e-01 +-2.033743560314178467e-01 +-2.047911584377288818e-01 +-2.070226669311523438e-01 +-2.092464864253997803e-01 +-2.101142853498458862e-01 +-2.089384645223617554e-01 +-2.067358195781707764e-01 +-2.048037201166152954e-01 +-2.045688331127166748e-01 +-2.055320441722869873e-01 +-2.072031795978546143e-01 +-2.086375802755355835e-01 +-2.100097239017486572e-01 +-2.099282443523406982e-01 +-2.078068554401397705e-01 +-2.050571739673614502e-01 +-2.024528086185455322e-01 +-1.999198794364929199e-01 +-1.995073556900024414e-01 +-1.999332904815673828e-01 +-2.015917897224426270e-01 +-2.023966014385223389e-01 +-2.032331824302673340e-01 +-2.049338966608047485e-01 +-2.071562558412551880e-01 +-2.082614749670028687e-01 +-2.072318792343139648e-01 +-2.055288702249526978e-01 +-2.039208859205245972e-01 +-2.021908164024353027e-01 +-2.021069228649139404e-01 +-2.019933462142944336e-01 +-2.013290971517562866e-01 +-2.000293284654617310e-01 +-1.995266973972320557e-01 +-1.998152136802673340e-01 +-2.006501555442810059e-01 +-2.013860642910003662e-01 +-2.010860145092010498e-01 +-2.010224461555480957e-01 +-2.003488838672637939e-01 +-1.995655149221420288e-01 +-1.984875202178955078e-01 +-1.974937915802001953e-01 +-1.978448629379272461e-01 +-1.999889314174652100e-01 +-2.012705057859420776e-01 +-2.018813490867614746e-01 +-2.022062689065933228e-01 +-2.023989409208297729e-01 +-2.016957849264144897e-01 +-2.018671035766601562e-01 +-2.029244005680084229e-01 +-2.038323581218719482e-01 +-2.045533657073974609e-01 +-2.047831863164901733e-01 +-2.048579007387161255e-01 +-2.038830220699310303e-01 +-2.026439309120178223e-01 +-2.010259330272674561e-01 +-2.002513408660888672e-01 +-2.012225091457366943e-01 +-2.023710608482360840e-01 +-2.034754157066345215e-01 +-2.034306824207305908e-01 +-2.039403617382049561e-01 +-2.038660794496536255e-01 +-2.047515511512756348e-01 +-2.045453935861587524e-01 +-2.031649947166442871e-01 +-2.010642588138580322e-01 +-1.984709352254867554e-01 +-1.969780176877975464e-01 +-1.979634314775466919e-01 +-1.996914148330688477e-01 +-2.009532749652862549e-01 +-2.014716863632202148e-01 +-2.020102292299270630e-01 +-2.032423019409179688e-01 +-2.034621089696884155e-01 +-2.041629850864410400e-01 +-2.057272344827651978e-01 +-2.069012373685836792e-01 +-2.083663046360015869e-01 +-2.097284793853759766e-01 +-2.104359567165374756e-01 +-2.100857496261596680e-01 +-2.082794010639190674e-01 +-2.060610353946685791e-01 +-2.043932974338531494e-01 +-2.045108675956726074e-01 +-2.062162905931472778e-01 +-2.076977491378784180e-01 +-2.094002813100814819e-01 +-2.092219740152359009e-01 +-2.089805155992507935e-01 +-2.084350585937500000e-01 +-2.085907012224197388e-01 +-2.078095823526382446e-01 +-2.069859951734542847e-01 +-2.071483284235000610e-01 +-2.085078358650207520e-01 +-2.102654874324798584e-01 +-2.107995897531509399e-01 +-2.104335576295852661e-01 +-2.102001905441284180e-01 +-2.102440297603607178e-01 +-2.105099707841873169e-01 +-2.098105251789093018e-01 +-2.077402025461196899e-01 +-2.048843801021575928e-01 +-2.021505385637283325e-01 +-2.016275972127914429e-01 +-2.018691450357437134e-01 +-2.022999227046966553e-01 +-2.029245942831039429e-01 +-2.023003101348876953e-01 +-2.006904482841491699e-01 +-2.000794112682342529e-01 +-2.008379697799682617e-01 +-2.018007040023803711e-01 +-2.022965848445892334e-01 +-2.034569084644317627e-01 +-2.048670649528503418e-01 +-2.059384584426879883e-01 +-2.073315978050231934e-01 +-2.077852934598922729e-01 +-2.064992040395736694e-01 +-2.053870558738708496e-01 +-2.055395245552062988e-01 +-2.055666446685791016e-01 +-2.058384418487548828e-01 +-2.068382650613784790e-01 +-2.077225595712661743e-01 +-2.089186757802963257e-01 +-2.100462764501571655e-01 +-2.114579528570175171e-01 +-2.123894989490509033e-01 +-2.119964957237243652e-01 +-2.097454369068145752e-01 +-2.070928215980529785e-01 +-2.054636180400848389e-01 +-2.050470560789108276e-01 +-2.055735141038894653e-01 +-2.065951526165008545e-01 +-2.079660445451736450e-01 +-2.082651555538177490e-01 +-2.072999477386474609e-01 +-2.069293707609176636e-01 +-2.060357332229614258e-01 +-2.041442990303039551e-01 +-2.013961970806121826e-01 +-1.988427639007568359e-01 +-1.973881125450134277e-01 +-1.982027292251586914e-01 +-2.001851797103881836e-01 +-2.028782963752746582e-01 +-2.042835652828216553e-01 +-2.049251496791839600e-01 +-2.053125053644180298e-01 +-2.048050165176391602e-01 +-2.038556039333343506e-01 +-2.022355794906616211e-01 +-2.009301930665969849e-01 +-1.996246576309204102e-01 +-1.991287171840667725e-01 +-1.986123919486999512e-01 +-1.996540576219558716e-01 +-2.011318206787109375e-01 +-2.033851593732833862e-01 +-2.061036229133605957e-01 +-2.084853351116180420e-01 +-2.098987549543380737e-01 +-2.095303833484649658e-01 +-2.071235179901123047e-01 +-2.037457525730133057e-01 +-2.019046843051910400e-01 +-2.009038627147674561e-01 +-2.012417018413543701e-01 +-2.027707397937774658e-01 +-2.044710814952850342e-01 +-2.057377398014068604e-01 +-2.067964375019073486e-01 +-2.078497558832168579e-01 +-2.078519165515899658e-01 +-2.080908715724945068e-01 +-2.088748812675476074e-01 +-2.094861865043640137e-01 +-2.084804177284240723e-01 +-2.060929834842681885e-01 +-2.046672999858856201e-01 +-2.033376842737197876e-01 +-2.026635855436325073e-01 +-2.032945603132247925e-01 +-2.040070444345474243e-01 +-2.044436335563659668e-01 +-2.045852243900299072e-01 +-2.056991457939147949e-01 +-2.077900767326354980e-01 +-2.090942114591598511e-01 +-2.097789645195007324e-01 +-2.086413502693176270e-01 +-2.073328793048858643e-01 +-2.067925184965133667e-01 +-2.064707726240158081e-01 +-2.053755521774291992e-01 +-2.046657502651214600e-01 +-2.053723335266113281e-01 +-2.067928016185760498e-01 +-2.078771889209747314e-01 +-2.074139267206192017e-01 +-2.051910459995269775e-01 +-2.035373300313949585e-01 +-2.016195952892303467e-01 +-1.993679106235504150e-01 +-1.977643370628356934e-01 +-1.981432139873504639e-01 +-1.983808130025863647e-01 +-1.978339552879333496e-01 +-1.970225274562835693e-01 +-1.975953727960586548e-01 +-1.988756805658340454e-01 +-2.007276862859725952e-01 +-2.031938731670379639e-01 +-2.047619223594665527e-01 +-2.056908607482910156e-01 +-2.070940434932708740e-01 +-2.081294804811477661e-01 +-2.084895074367523193e-01 +-2.091751545667648315e-01 +-2.092374712228775024e-01 +-2.078607678413391113e-01 +-2.058307379484176636e-01 +-2.034879624843597412e-01 +-2.022478729486465454e-01 +-2.028255909681320190e-01 +-2.029036432504653931e-01 +-2.020491808652877808e-01 +-2.002469003200531006e-01 +-1.986182928085327148e-01 +-1.985658407211303711e-01 +-1.991957128047943115e-01 +-2.006026953458786011e-01 +-2.023106366395950317e-01 +-2.046403586864471436e-01 +-2.066155076026916504e-01 +-2.080992758274078369e-01 +-2.085563838481903076e-01 +-2.079340517520904541e-01 +-2.076169252395629883e-01 +-2.082623094320297241e-01 +-2.082896977663040161e-01 +-2.077429592609405518e-01 +-2.058341801166534424e-01 +-2.029588818550109863e-01 +-1.997912228107452393e-01 +-1.970560550689697266e-01 +-1.966597437858581543e-01 +-1.981266736984252930e-01 +-2.006999999284744263e-01 +-2.020790129899978638e-01 +-2.024836242198944092e-01 +-2.021396756172180176e-01 +-2.026302218437194824e-01 +-2.023534774780273438e-01 +-2.024583518505096436e-01 +-2.036520242691040039e-01 +-2.055975496768951416e-01 +-2.073727101087570190e-01 +-2.090547382831573486e-01 +-2.093391716480255127e-01 +-2.080909609794616699e-01 +-2.070895582437515259e-01 +-2.053286135196685791e-01 +-2.034839093685150146e-01 +-2.016495764255523682e-01 +-2.012305110692977905e-01 +-2.017890512943267822e-01 +-2.030576467514038086e-01 +-2.032340168952941895e-01 +-2.033831626176834106e-01 +-2.030266970396041870e-01 +-2.015441954135894775e-01 +-1.994705945253372192e-01 +-1.975207328796386719e-01 +-1.972129642963409424e-01 +-1.971424520015716553e-01 +-1.974500268697738647e-01 +-1.986735612154006958e-01 +-2.007127255201339722e-01 +-2.035275101661682129e-01 +-2.057089060544967651e-01 +-2.075543850660324097e-01 +-2.089863419532775879e-01 +-2.088973075151443481e-01 +-2.080730199813842773e-01 +-2.069968432188034058e-01 +-2.059104293584823608e-01 +-2.047421187162399292e-01 +-2.026396989822387695e-01 +-2.019638866186141968e-01 +-2.029245495796203613e-01 +-2.040289342403411865e-01 +-2.054233700037002563e-01 +-2.054083347320556641e-01 +-2.054994851350784302e-01 +-2.055498510599136353e-01 +-2.046461403369903564e-01 +-2.038300335407257080e-01 +-2.035709023475646973e-01 +-2.037397474050521851e-01 +-2.050347924232482910e-01 +-2.070151716470718384e-01 +-2.088123112916946411e-01 +-2.098676562309265137e-01 +-2.101585268974304199e-01 +-2.096005529165267944e-01 +-2.096208035945892334e-01 +-2.105639874935150146e-01 +-2.110604047775268555e-01 +-2.118620425462722778e-01 +-2.110499143600463867e-01 +-2.086666077375411987e-01 +-2.062141150236129761e-01 +-2.038714885711669922e-01 +-2.012908607721328735e-01 +-1.994972527027130127e-01 +-1.995519846677780151e-01 +-1.994184851646423340e-01 +-1.982982456684112549e-01 +-1.980977952480316162e-01 +-1.998764723539352417e-01 +-2.017574161291122437e-01 +-2.023182660341262817e-01 +-2.019978463649749756e-01 +-2.018030285835266113e-01 +-2.012084424495697021e-01 +-2.017806023359298706e-01 +-2.026006132364273071e-01 +-2.036938369274139404e-01 +-2.039325982332229614e-01 +-2.039656341075897217e-01 +-2.046467512845993042e-01 +-2.056123316287994385e-01 +-2.052360475063323975e-01 +-2.040359973907470703e-01 +-2.037171721458435059e-01 +-2.047289609909057617e-01 +-2.063192427158355713e-01 +-2.083767652511596680e-01 +-2.097466289997100830e-01 +-2.107151448726654053e-01 +-2.118254601955413818e-01 +-2.126271724700927734e-01 +-2.133977264165878296e-01 +-2.124544382095336914e-01 +-2.114731967449188232e-01 +-2.108507454395294189e-01 +-2.094426751136779785e-01 +-2.080086469650268555e-01 +-2.072304785251617432e-01 +-2.066257596015930176e-01 +-2.070755362510681152e-01 +-2.074036598205566406e-01 +-2.070764303207397461e-01 +-2.068390846252441406e-01 +-2.061353027820587158e-01 +-2.051810026168823242e-01 +-2.040534913539886475e-01 +-2.035790830850601196e-01 +-2.024006843566894531e-01 +-2.007579654455184937e-01 +-1.987243145704269409e-01 +-1.964550614356994629e-01 +-1.963036060333251953e-01 +-1.970399618148803711e-01 +-1.986037790775299072e-01 +-2.011038959026336670e-01 +-2.034389823675155640e-01 +-2.047830969095230103e-01 +-2.063163220882415771e-01 +-2.062856256961822510e-01 +-2.064546346664428711e-01 +-2.055926471948623657e-01 +-2.045961618423461914e-01 +-2.035534381866455078e-01 +-2.035813033580780029e-01 +-2.033018767833709717e-01 +-2.036919891834259033e-01 +-2.037473618984222412e-01 +-2.038158178329467773e-01 +-2.049436122179031372e-01 +-2.052046954631805420e-01 +-2.055129855871200562e-01 +-2.060142159461975098e-01 +-2.074183374643325806e-01 +-2.089247107505798340e-01 +-2.107740789651870728e-01 +-2.115946859121322632e-01 +-2.102369666099548340e-01 +-2.083522826433181763e-01 +-2.077451348304748535e-01 +-2.074261754751205444e-01 +-2.077730447053909302e-01 +-2.075434327125549316e-01 +-2.059284895658493042e-01 +-2.041362076997756958e-01 +-2.033155411481857300e-01 +-2.037074267864227295e-01 +-2.042723596096038818e-01 +-2.049610316753387451e-01 +-2.045547217130661011e-01 +-2.047352790832519531e-01 +-2.054581344127655029e-01 +-2.054737508296966553e-01 +-2.051661312580108643e-01 +-2.040141671895980835e-01 +-2.027183622121810913e-01 +-2.014708071947097778e-01 +-2.004216313362121582e-01 +-2.011263966560363770e-01 +-2.018646597862243652e-01 +-2.034378945827484131e-01 +-2.049869000911712646e-01 +-2.068979442119598389e-01 +-2.081398665904998779e-01 +-2.077553272247314453e-01 +-2.075919657945632935e-01 +-2.062231302261352539e-01 +-2.051433175802230835e-01 +-2.043290436267852783e-01 +-2.040072232484817505e-01 +-2.050194591283798218e-01 +-2.055937498807907104e-01 +-2.061445415019989014e-01 +-2.059192210435867310e-01 +-2.046420425176620483e-01 +-2.024077028036117554e-01 +-2.016834765672683716e-01 +-2.013022154569625854e-01 +-2.020028829574584961e-01 +-2.039337754249572754e-01 +-2.057797908782958984e-01 +-2.074296325445175171e-01 +-2.082878053188323975e-01 +-2.092618644237518311e-01 +-2.102611213922500610e-01 +-2.097804546356201172e-01 +-2.080744802951812744e-01 +-2.057888805866241455e-01 +-2.034551799297332764e-01 +-2.011296451091766357e-01 +-2.005065977573394775e-01 +-2.009670734405517578e-01 +-2.019411027431488037e-01 +-2.036006152629852295e-01 +-2.055284529924392700e-01 +-2.064149081707000732e-01 +-2.064814865589141846e-01 +-2.064115703105926514e-01 +-2.055123150348663330e-01 +-2.036944329738616943e-01 +-2.011069953441619873e-01 +-1.980696618556976318e-01 +-1.957229375839233398e-01 +-1.943028718233108521e-01 +-1.948048919439315796e-01 +-1.966701000928878784e-01 +-1.984406262636184692e-01 +-1.991123855113983154e-01 +-2.006042152643203735e-01 +-2.018052637577056885e-01 +-2.031043171882629395e-01 +-2.033559083938598633e-01 +-2.036161720752716064e-01 +-2.031615227460861206e-01 +-2.034146785736083984e-01 +-2.046375572681427002e-01 +-2.056104391813278198e-01 +-2.057560086250305176e-01 +-2.047575116157531738e-01 +-2.041573077440261841e-01 +-2.034165114164352417e-01 +-2.037612199783325195e-01 +-2.046335637569427490e-01 +-2.052763849496841431e-01 +-2.051939368247985840e-01 +-2.040030956268310547e-01 +-2.034726738929748535e-01 +-2.029062658548355103e-01 +-2.016555368900299072e-01 +-2.003387212753295898e-01 +-2.008435428142547607e-01 +-2.016979455947875977e-01 +-2.032991051673889160e-01 +-2.048588395118713379e-01 +-2.054691612720489502e-01 +-2.049814313650131226e-01 +-2.036508470773696899e-01 +-2.035427838563919067e-01 +-2.050396502017974854e-01 +-2.075387239456176758e-01 +-2.100175321102142334e-01 +-2.106398940086364746e-01 +-2.088316082954406738e-01 +-2.072378545999526978e-01 +-2.059257626533508301e-01 +-2.045218646526336670e-01 +-2.039717286825180054e-01 +-2.047308981418609619e-01 +-2.057870626449584961e-01 +-2.075685113668441772e-01 +-2.085940539836883545e-01 +-2.094823122024536133e-01 +-2.096976637840270996e-01 +-2.095278799533843994e-01 +-2.099460512399673462e-01 +-2.096188366413116455e-01 +-2.091327309608459473e-01 +-2.079849392175674438e-01 +-2.061058431863784790e-01 +-2.035576999187469482e-01 +-2.026466429233551025e-01 +-2.022984325885772705e-01 +-2.031768709421157837e-01 +-2.049421966075897217e-01 +-2.067833393812179565e-01 +-2.076957523822784424e-01 +-2.077586650848388672e-01 +-2.077134996652603149e-01 +-2.072433531284332275e-01 +-2.057619094848632812e-01 +-2.053504288196563721e-01 +-2.059705108404159546e-01 +-2.067770659923553467e-01 +-2.074187397956848145e-01 +-2.086128890514373779e-01 +-2.082496136426925659e-01 +-2.081615626811981201e-01 +-2.076351344585418701e-01 +-2.064613252878189087e-01 +-2.052381336688995361e-01 +-2.047015279531478882e-01 +-2.037448734045028687e-01 +-2.039648443460464478e-01 +-2.045543044805526733e-01 +-2.044719308614730835e-01 +-2.036682069301605225e-01 +-2.025271356105804443e-01 +-2.022851854562759399e-01 +-2.029328942298889160e-01 +-2.029451727867126465e-01 +-2.030806839466094971e-01 +-2.031230628490447998e-01 +-2.039210796356201172e-01 +-2.036556303501129150e-01 +-2.028812915086746216e-01 +-2.015145570039749146e-01 +-2.010667026042938232e-01 +-2.010672986507415771e-01 +-2.021471858024597168e-01 +-2.030490487813949585e-01 +-2.041710466146469116e-01 +-2.058538794517517090e-01 +-2.061441838741302490e-01 +-2.056307494640350342e-01 +-2.055532634258270264e-01 +-2.061733603477478027e-01 +-2.060879617929458618e-01 +-2.059594988822937012e-01 +-2.053873240947723389e-01 +-2.042804211378097534e-01 +-2.040287554264068604e-01 +-2.038764208555221558e-01 +-2.040970474481582642e-01 +-2.052879035472869873e-01 +-2.065327316522598267e-01 +-2.083193361759185791e-01 +-2.099990546703338623e-01 +-2.105743736028671265e-01 +-2.096181958913803101e-01 +-2.077585905790328979e-01 +-2.050039470195770264e-01 +-2.019408196210861206e-01 +-2.009035944938659668e-01 +-2.017652094364166260e-01 +-2.020159810781478882e-01 +-2.010347545146942139e-01 +-2.007489502429962158e-01 +-2.009912729263305664e-01 +-2.021998167037963867e-01 +-2.043563723564147949e-01 +-2.071759849786758423e-01 +-2.092716693878173828e-01 +-2.091179788112640381e-01 +-2.082774192094802856e-01 +-2.066961526870727539e-01 +-2.047720998525619507e-01 +-2.035991400480270386e-01 +-2.027254402637481689e-01 +-2.020233422517776489e-01 +-2.018741369247436523e-01 +-2.032666951417922974e-01 +-2.045636624097824097e-01 +-2.053273320198059082e-01 +-2.065307796001434326e-01 +-2.078194469213485718e-01 +-2.077969908714294434e-01 +-2.074082195758819580e-01 +-2.073096483945846558e-01 +-2.077042758464813232e-01 +-2.072962671518325806e-01 +-2.061911821365356445e-01 +-2.051215320825576782e-01 +-2.036585509777069092e-01 +-2.033175528049468994e-01 +-2.045106589794158936e-01 +-2.063882648944854736e-01 +-2.073210030794143677e-01 +-2.083234041929244995e-01 +-2.091342806816101074e-01 +-2.089553177356719971e-01 +-2.084154635667800903e-01 +-2.076117694377899170e-01 +-2.077116221189498901e-01 +-2.071947008371353149e-01 +-2.067280858755111694e-01 +-2.052500694990158081e-01 +-2.036314606666564941e-01 +-2.035647630691528320e-01 +-2.049960196018218994e-01 +-2.053318172693252563e-01 +-2.057210206985473633e-01 +-2.070656120777130127e-01 +-2.091451138257980347e-01 +-2.109304964542388916e-01 +-2.122776061296463013e-01 +-2.128945589065551758e-01 +-2.133262157440185547e-01 +-2.137590497732162476e-01 diff --git a/test_data/lstm_torch_y_python.csv b/test_data/lstm_torch_y_python.csv index 2500743..6e3c1d5 100644 --- a/test_data/lstm_torch_y_python.csv +++ b/test_data/lstm_torch_y_python.csv @@ -1,1000 +1,1000 @@ --2.291795313358306885e-01 --2.334862202405929565e-01 --2.412677705287933350e-01 --2.433802038431167603e-01 --2.502269148826599121e-01 --2.545493543148040771e-01 --2.545894980430603027e-01 --2.557518184185028076e-01 --2.489543110132217407e-01 --2.426279783248901367e-01 --2.273772954940795898e-01 --2.389133870601654053e-01 --2.412172704935073853e-01 --2.247706055641174316e-01 --2.358985990285873413e-01 --2.408153116703033447e-01 --2.413542121648788452e-01 --2.479299008846282959e-01 --2.297182977199554443e-01 --2.402611374855041504e-01 --2.357582151889801025e-01 --2.171798050403594971e-01 --2.252278625965118408e-01 --2.260763496160507202e-01 --2.359303086996078491e-01 --2.195889949798583984e-01 --2.165624499320983887e-01 --2.147987186908721924e-01 --2.285920828580856323e-01 --2.218035459518432617e-01 --2.315515875816345215e-01 --2.317338287830352783e-01 --2.215223461389541626e-01 --2.270224392414093018e-01 --2.396397888660430908e-01 --2.277190834283828735e-01 --2.204149812459945679e-01 --2.276214808225631714e-01 --2.340812534093856812e-01 --2.220212519168853760e-01 --2.340384274721145630e-01 --2.391028553247451782e-01 --2.372615635395050049e-01 --2.461326271295547485e-01 --2.494284510612487793e-01 --2.477204501628875732e-01 --2.504155635833740234e-01 --2.466287165880203247e-01 --2.453468739986419678e-01 --2.270300984382629395e-01 --2.336904406547546387e-01 --2.378285378217697144e-01 --2.439848333597183228e-01 --2.450275868177413940e-01 --2.407625466585159302e-01 --2.302382737398147583e-01 --2.224387079477310181e-01 --2.173258215188980103e-01 --2.131534963846206665e-01 --2.184589058160781860e-01 --2.302131056785583496e-01 --2.249021232128143311e-01 --2.271618843078613281e-01 --2.338601052761077881e-01 --2.425952851772308350e-01 --2.494282722473144531e-01 --2.543716728687286377e-01 --2.455822825431823730e-01 --2.403951436281204224e-01 --2.242470383644104004e-01 --2.341026365756988525e-01 --2.220935374498367310e-01 --2.351065725088119507e-01 --2.400264739990234375e-01 --2.257330268621444702e-01 --2.213643789291381836e-01 --2.129294127225875854e-01 --2.125991582870483398e-01 --2.272952497005462646e-01 --2.261387258768081665e-01 --2.246038317680358887e-01 --2.223180383443832397e-01 --2.085506916046142578e-01 --2.037051022052764893e-01 --1.929342001676559448e-01 --1.852708160877227783e-01 --2.065375894308090210e-01 --2.105774879455566406e-01 --2.089936137199401855e-01 --2.038451880216598511e-01 --1.948109567165374756e-01 --1.959085315465927124e-01 --2.148570418357849121e-01 --2.088843882083892822e-01 --2.072274386882781982e-01 --2.226576358079910278e-01 --2.200020253658294678e-01 --2.239308059215545654e-01 --2.187417745590209961e-01 --2.062723040580749512e-01 --2.222584933042526245e-01 --2.147906273603439331e-01 --2.157482802867889404e-01 --2.082686126232147217e-01 --2.247711718082427979e-01 --2.394321560859680176e-01 --2.455821633338928223e-01 --2.485957145690917969e-01 --2.492344230413436890e-01 --2.372461855411529541e-01 --2.229966074228286743e-01 --2.291882783174514771e-01 --2.373269051313400269e-01 --2.196832448244094849e-01 --2.076516747474670410e-01 --2.021202892065048218e-01 --1.920050233602523804e-01 --2.005267143249511719e-01 --2.156857997179031372e-01 --2.285827696323394775e-01 --2.406960576772689819e-01 --2.382719963788986206e-01 --2.429529577493667603e-01 --2.461835741996765137e-01 --2.330424189567565918e-01 --2.274474650621414185e-01 --2.305677235126495361e-01 --2.218877226114273071e-01 --2.306115627288818359e-01 --2.336807847023010254e-01 --2.427600026130676270e-01 --2.497485578060150146e-01 --2.526823580265045166e-01 --2.455553114414215088e-01 --2.274492084980010986e-01 --2.359221130609512329e-01 --2.370551973581314087e-01 --2.360633462667465210e-01 --2.369643449783325195e-01 --2.386216819286346436e-01 --2.311131060123443604e-01 --2.323842346668243408e-01 --2.280272841453552246e-01 --2.398037463426589966e-01 --2.413191944360733032e-01 --2.232292145490646362e-01 --2.232346534729003906e-01 --2.340129911899566650e-01 --2.401973903179168701e-01 --2.298820763826370239e-01 --2.293519079685211182e-01 --2.397101074457168579e-01 --2.349766492843627930e-01 --2.435642033815383911e-01 --2.466678917407989502e-01 --2.497350275516510010e-01 --2.455154359340667725e-01 --2.455826252698898315e-01 --2.519926130771636963e-01 --2.522743344306945801e-01 --2.346048504114151001e-01 --2.432950288057327271e-01 --2.506475150585174561e-01 --2.512498199939727783e-01 --2.545251250267028809e-01 --2.492955774068832397e-01 --2.366511076688766479e-01 --2.277796566486358643e-01 --2.098211944103240967e-01 --2.204158604145050049e-01 --2.352065294981002808e-01 --2.437697499990463257e-01 --2.337968945503234863e-01 --2.235535085201263428e-01 --2.134924679994583130e-01 --2.127228677272796631e-01 --2.080381214618682861e-01 --2.067231535911560059e-01 --2.104123979806900024e-01 --2.232273817062377930e-01 --2.345378696918487549e-01 --2.449025362730026245e-01 --2.454593330621719360e-01 --2.500952184200286865e-01 --2.535683512687683105e-01 --2.428310513496398926e-01 --2.491632401943206787e-01 --2.536820769309997559e-01 --2.570512294769287109e-01 --2.587026953697204590e-01 --2.601879239082336426e-01 --2.591680884361267090e-01 --2.379087209701538086e-01 --2.432763874530792236e-01 --2.357941269874572754e-01 --2.238622158765792847e-01 --2.169519066810607910e-01 --2.066364884376525879e-01 --2.010799795389175415e-01 --2.182656824588775635e-01 --2.326712161302566528e-01 --2.445310652256011963e-01 --2.448635250329971313e-01 --2.432661652565002441e-01 --2.333404868841171265e-01 --2.408654391765594482e-01 --2.336661815643310547e-01 --2.381218820810317993e-01 --2.349489629268646240e-01 --2.435589432716369629e-01 --2.512742280960083008e-01 --2.527889013290405273e-01 --2.535438239574432373e-01 --2.485896348953247070e-01 --2.273121923208236694e-01 --2.363727986812591553e-01 --2.353272736072540283e-01 --2.439534664154052734e-01 --2.398778498172760010e-01 --2.256471663713455200e-01 --2.357925474643707275e-01 --2.451369017362594604e-01 --2.522985041141510010e-01 --2.539444565773010254e-01 --2.564031779766082764e-01 --2.549946606159210205e-01 --2.572228610515594482e-01 --2.594445943832397461e-01 --2.592587172985076904e-01 --2.446739077568054199e-01 --2.229183018207550049e-01 --2.127172946929931641e-01 --2.180885225534439087e-01 --2.301750481128692627e-01 --2.396368682384490967e-01 --2.244126647710800171e-01 --2.331381142139434814e-01 --2.379115223884582520e-01 --2.273027747869491577e-01 --2.171345800161361694e-01 --2.290908396244049072e-01 --2.202075570821762085e-01 --2.167683839797973633e-01 --2.216926515102386475e-01 --2.342423945665359497e-01 --2.234778702259063721e-01 --2.188172191381454468e-01 --2.336566150188446045e-01 --2.367763519287109375e-01 --2.432367950677871704e-01 --2.492266893386840820e-01 --2.464152574539184570e-01 --2.509168684482574463e-01 --2.522867918014526367e-01 --2.471705377101898193e-01 --2.347094714641571045e-01 --2.419528365135192871e-01 --2.504050731658935547e-01 --2.425839900970458984e-01 --2.393591701984405518e-01 --2.434294521808624268e-01 --2.410196363925933838e-01 --2.286115288734436035e-01 --2.243819832801818848e-01 --2.170308232307434082e-01 --2.057808935642242432e-01 --1.934040188789367676e-01 --2.089058905839920044e-01 --2.138963639736175537e-01 --2.061924785375595093e-01 --2.099292725324630737e-01 --2.182118147611618042e-01 --2.252725511789321899e-01 --2.341856658458709717e-01 --2.312188893556594849e-01 --2.136233597993850708e-01 --2.284941077232360840e-01 --2.262782603502273560e-01 --2.255369722843170166e-01 --2.103698551654815674e-01 --2.120595574378967285e-01 --2.224426865577697754e-01 --2.319260090589523315e-01 --2.272011041641235352e-01 --2.169992178678512573e-01 --2.308988571166992188e-01 --2.308192551136016846e-01 --2.402894794940948486e-01 --2.291572540998458862e-01 --2.361342012882232666e-01 --2.378190308809280396e-01 --2.254326939582824707e-01 --2.344064861536026001e-01 --2.424504756927490234e-01 --2.486328035593032837e-01 --2.447193861007690430e-01 --2.489519119262695312e-01 --2.516897022724151611e-01 --2.419341951608657837e-01 --2.432735413312911987e-01 --2.306956648826599121e-01 --2.379333078861236572e-01 --2.452924400568008423e-01 --2.517374753952026367e-01 --2.544849216938018799e-01 --2.568331062793731689e-01 --2.591104209423065186e-01 --2.496415674686431885e-01 --2.348737716674804688e-01 --2.361020147800445557e-01 --2.293301522731781006e-01 --2.376109361648559570e-01 --2.354007065296173096e-01 --2.221248894929885864e-01 --2.115528285503387451e-01 --2.215635925531387329e-01 --2.243916988372802734e-01 --2.293577194213867188e-01 --2.338059991598129272e-01 --2.426602095365524292e-01 --2.493291795253753662e-01 --2.503360509872436523e-01 --2.453131824731826782e-01 --2.375346869230270386e-01 --2.380968630313873291e-01 --2.286267578601837158e-01 --2.359351515769958496e-01 --2.425443083047866821e-01 --2.431598901748657227e-01 --2.297266721725463867e-01 --2.328660786151885986e-01 --2.341000735759735107e-01 --2.181120216846466064e-01 --2.265014946460723877e-01 --2.397131323814392090e-01 --2.479353696107864380e-01 --2.538092434406280518e-01 --2.562961578369140625e-01 --2.371164411306381226e-01 --2.272356301546096802e-01 --2.342775017023086548e-01 --2.326921373605728149e-01 --2.426610589027404785e-01 --2.484670132398605347e-01 --2.377617210149765015e-01 --2.456270307302474976e-01 --2.507263720035552979e-01 --2.416274398565292358e-01 --2.382760494947433472e-01 --2.459775805473327637e-01 --2.438000738620758057e-01 --2.473720312118530273e-01 --2.511863708496093750e-01 --2.551040351390838623e-01 --2.399223595857620239e-01 --2.400826215744018555e-01 --2.311140894889831543e-01 --2.251904606819152832e-01 --2.316110879182815552e-01 --2.280677109956741333e-01 --2.390415668487548828e-01 --2.458424568176269531e-01 --2.520912885665893555e-01 --2.550665736198425293e-01 --2.470762133598327637e-01 --2.294748425483703613e-01 --2.250036150217056274e-01 --2.282994687557220459e-01 --2.400005906820297241e-01 --2.466258853673934937e-01 --2.512748539447784424e-01 --2.512399256229400635e-01 --2.539950311183929443e-01 --2.421460151672363281e-01 --2.203235924243927002e-01 --2.185637056827545166e-01 --2.159004360437393188e-01 --2.066503912210464478e-01 --2.239298522472381592e-01 --2.254628092050552368e-01 --2.366042733192443848e-01 --2.253568470478057861e-01 --2.328869849443435669e-01 --2.439053505659103394e-01 --2.508331239223480225e-01 --2.436215579509735107e-01 --2.226607799530029297e-01 --2.244856357574462891e-01 --2.253991812467575073e-01 --2.179841250181198120e-01 --2.322020232677459717e-01 --2.246369570493698120e-01 --2.167562544345855713e-01 --2.088985145092010498e-01 --2.192852199077606201e-01 --2.250895947217941284e-01 --2.295978963375091553e-01 --2.287114262580871582e-01 --2.161652147769927979e-01 --2.241767048835754395e-01 --2.134595662355422974e-01 --2.134250253438949585e-01 --2.068111747503280640e-01 --2.061752080917358398e-01 --2.198104262351989746e-01 --2.351561337709426880e-01 --2.223189324140548706e-01 --2.231543362140655518e-01 --2.263496071100234985e-01 --2.281714826822280884e-01 --2.164077460765838623e-01 --2.292296588420867920e-01 --2.377473562955856323e-01 --2.358969449996948242e-01 --2.374607920646667480e-01 --2.351191192865371704e-01 --2.366113662719726562e-01 --2.223042845726013184e-01 --2.218664884567260742e-01 --2.132954299449920654e-01 --2.214932590723037720e-01 --2.351831346750259399e-01 --2.339987456798553467e-01 --2.363167107105255127e-01 --2.244068235158920288e-01 --2.357302755117416382e-01 --2.282764315605163574e-01 --2.398109734058380127e-01 --2.239630967378616333e-01 --2.132702022790908813e-01 --2.062389701604843140e-01 --1.958997249603271484e-01 --2.060077786445617676e-01 --2.253215610980987549e-01 --2.293581813573837280e-01 --2.256145626306533813e-01 --2.231392860412597656e-01 --2.294757962226867676e-01 --2.389632463455200195e-01 --2.257765233516693115e-01 --2.362950146198272705e-01 --2.459026426076889038e-01 --2.440805137157440186e-01 --2.499659806489944458e-01 --2.528245151042938232e-01 --2.507990598678588867e-01 --2.442662864923477173e-01 --2.294589430093765259e-01 --2.275112867355346680e-01 --2.306062281131744385e-01 --2.419255673885345459e-01 --2.506124079227447510e-01 --2.484928220510482788e-01 --2.529307901859283447e-01 --2.342879474163055420e-01 --2.421306669712066650e-01 --2.409810423851013184e-01 --2.476401031017303467e-01 --2.343484759330749512e-01 --2.372453361749649048e-01 --2.457595467567443848e-01 --2.528944909572601318e-01 --2.563631236553192139e-01 --2.473769038915634155e-01 --2.450041174888610840e-01 --2.494468837976455688e-01 --2.520032823085784912e-01 --2.534397542476654053e-01 --2.424724996089935303e-01 --2.267151772975921631e-01 --2.175994217395782471e-01 --2.150023579597473145e-01 --2.311673909425735474e-01 --2.310805916786193848e-01 --2.308827787637710571e-01 --2.344287186861038208e-01 --2.164453119039535522e-01 --2.075121551752090454e-01 --2.207909822463989258e-01 --2.320239543914794922e-01 --2.315772771835327148e-01 --2.278064042329788208e-01 --2.383475899696350098e-01 --2.431050986051559448e-01 --2.426019310951232910e-01 --2.487845271825790405e-01 --2.416951805353164673e-01 --2.231319248676300049e-01 --2.315479367971420288e-01 --2.420927733182907104e-01 --2.368371933698654175e-01 --2.406061589717864990e-01 --2.477075457572937012e-01 --2.476064860820770264e-01 --2.519970536231994629e-01 --2.538360059261322021e-01 --2.570700049400329590e-01 --2.564054727554321289e-01 --2.469949871301651001e-01 --2.277147024869918823e-01 --2.277413010597229004e-01 --2.352527230978012085e-01 --2.409038543701171875e-01 --2.453209757804870605e-01 --2.483070492744445801e-01 --2.518819570541381836e-01 --2.422873973846435547e-01 --2.324650138616561890e-01 --2.417528927326202393e-01 --2.321705371141433716e-01 --2.172342091798782349e-01 --2.038866579532623291e-01 --2.032277584075927734e-01 --2.092958688735961914e-01 --2.263734489679336548e-01 --2.349175065755844116e-01 --2.431527972221374512e-01 --2.325177341699600220e-01 --2.343399524688720703e-01 --2.377915978431701660e-01 --2.287369966506958008e-01 --2.264579534530639648e-01 --2.157097756862640381e-01 --2.188713550567626953e-01 --2.122714519500732422e-01 --2.191020548343658447e-01 --2.123636752367019653e-01 --2.283602505922317505e-01 --2.322444170713424683e-01 --2.419537007808685303e-01 --2.496819347143173218e-01 --2.523747086524963379e-01 --2.504904866218566895e-01 --2.376160174608230591e-01 --2.168238013982772827e-01 --2.080049663782119751e-01 --2.225908041000366211e-01 --2.215680778026580811e-01 --2.312276661396026611e-01 --2.406437098979949951e-01 --2.430988103151321411e-01 --2.426205724477767944e-01 --2.456402927637100220e-01 --2.491529732942581177e-01 --2.400370240211486816e-01 --2.461769729852676392e-01 --2.515318691730499268e-01 --2.506468892097473145e-01 --2.314614504575729370e-01 --2.186963856220245361e-01 --2.310615032911300659e-01 --2.241098880767822266e-01 --2.286516427993774414e-01 --2.389224320650100708e-01 --2.373759001493453979e-01 --2.360672801733016968e-01 --2.356179058551788330e-01 --2.454317808151245117e-01 --2.530055642127990723e-01 --2.484170198440551758e-01 --2.484762668609619141e-01 --2.296558320522308350e-01 --2.349516302347183228e-01 --2.419240623712539673e-01 --2.408013790845870972e-01 --2.280036211013793945e-01 --2.340513169765472412e-01 --2.446855455636978149e-01 --2.497074604034423828e-01 --2.476774454116821289e-01 --2.322160303592681885e-01 --2.137963920831680298e-01 --2.248757034540176392e-01 --2.121301144361495972e-01 --2.019112557172775269e-01 --2.064798176288604736e-01 --2.229405194520950317e-01 --2.121035307645797729e-01 --2.021517753601074219e-01 --2.022104561328887939e-01 --2.186196297407150269e-01 --2.249364852905273438e-01 --2.329700887203216553e-01 --2.424520105123519897e-01 --2.375771403312683105e-01 --2.390140444040298462e-01 --2.475358247756958008e-01 --2.474622279405593872e-01 --2.446489036083221436e-01 --2.503450512886047363e-01 --2.456748634576797485e-01 --2.295023202896118164e-01 --2.255935072898864746e-01 --2.186577320098876953e-01 --2.274438142776489258e-01 --2.393308132886886597e-01 --2.255478948354721069e-01 --2.155048251152038574e-01 --2.043309509754180908e-01 --2.071290612220764160e-01 --2.213183194398880005e-01 --2.236964106559753418e-01 --2.320883274078369141e-01 --2.373372465372085571e-01 --2.459913939237594604e-01 --2.474918663501739502e-01 --2.487879693508148193e-01 --2.440288662910461426e-01 --2.374212890863418579e-01 --2.437062561511993408e-01 --2.506965100765228271e-01 --2.425059825181961060e-01 --2.390628904104232788e-01 --2.206166088581085205e-01 --2.084280401468276978e-01 --2.000669836997985840e-01 --1.971784532070159912e-01 --2.154752314090728760e-01 --2.282813042402267456e-01 --2.379930615425109863e-01 --2.250337749719619751e-01 --2.238649874925613403e-01 --2.212324440479278564e-01 --2.333321869373321533e-01 --2.201557755470275879e-01 --2.285532504320144653e-01 --2.398489117622375488e-01 --2.473402023315429688e-01 --2.488399296998977661e-01 --2.522854506969451904e-01 --2.422902286052703857e-01 --2.307342141866683960e-01 --2.381763905286788940e-01 --2.232739776372909546e-01 --2.215923070907592773e-01 --2.165421396493911743e-01 --2.284930944442749023e-01 --2.340359687805175781e-01 --2.397432774305343628e-01 --2.247707694768905640e-01 --2.311252951622009277e-01 --2.257849127054214478e-01 --2.096984386444091797e-01 --2.029161155223846436e-01 --2.011983692646026611e-01 --2.156143039464950562e-01 --2.092865407466888428e-01 --2.136273384094238281e-01 --2.249877452850341797e-01 --2.350108325481414795e-01 --2.448364645242691040e-01 --2.441814690828323364e-01 --2.482404261827468872e-01 --2.506978213787078857e-01 --2.387508302927017212e-01 --2.378555536270141602e-01 --2.369181364774703979e-01 --2.353696674108505249e-01 --2.312302738428115845e-01 --2.121293544769287109e-01 --2.276119589805603027e-01 --2.394661307334899902e-01 --2.382783442735671997e-01 --2.437441796064376831e-01 --2.281475961208343506e-01 --2.365502566099166870e-01 --2.377316951751708984e-01 --2.248363047838211060e-01 --2.290901690721511841e-01 --2.340077310800552368e-01 --2.364232540130615234e-01 --2.455105483531951904e-01 --2.516168653964996338e-01 --2.527692019939422607e-01 --2.507563233375549316e-01 --2.488482743501663208e-01 --2.440328299999237061e-01 --2.503027021884918213e-01 --2.557420432567596436e-01 --2.521417140960693359e-01 --2.554384469985961914e-01 --2.383696436882019043e-01 --2.242209762334823608e-01 --2.268676161766052246e-01 --2.220149040222167969e-01 --2.093384861946105957e-01 --2.139117568731307983e-01 --2.274496257305145264e-01 --2.147652357816696167e-01 --1.996578127145767212e-01 --2.143377065658569336e-01 --2.322386354207992554e-01 --2.331543862819671631e-01 --2.202213406562805176e-01 --2.187701910734176636e-01 --2.251565307378768921e-01 --2.186348289251327515e-01 --2.319492101669311523e-01 --2.333714962005615234e-01 --2.380761653184890747e-01 --2.293877750635147095e-01 --2.323881685733795166e-01 --2.407747805118560791e-01 --2.440491467714309692e-01 --2.264911830425262451e-01 --2.223871648311614990e-01 --2.336087673902511597e-01 --2.437969744205474854e-01 --2.483788728713989258e-01 --2.532854378223419189e-01 --2.513066530227661133e-01 --2.528399229049682617e-01 --2.564956545829772949e-01 --2.569109797477722168e-01 --2.583505809307098389e-01 --2.417965233325958252e-01 --2.469254136085510254e-01 --2.501583397388458252e-01 --2.380049973726272583e-01 --2.386834770441055298e-01 --2.431344091892242432e-01 --2.409182637929916382e-01 --2.480551153421401978e-01 --2.450892478227615356e-01 --2.387210726737976074e-01 --2.421028017997741699e-01 --2.357069700956344604e-01 --2.329435944557189941e-01 --2.291449159383773804e-01 --2.346122711896896362e-01 --2.179881632328033447e-01 --2.114764750003814697e-01 --2.022044658660888672e-01 --1.931236088275909424e-01 --2.131164073944091797e-01 --2.160938382148742676e-01 --2.252187579870223999e-01 --2.372311651706695557e-01 --2.404323071241378784e-01 --2.366032153367996216e-01 --2.450714409351348877e-01 --2.290734648704528809e-01 --2.384827733039855957e-01 --2.252418696880340576e-01 --2.276351153850555420e-01 --2.260021269321441650e-01 --2.359614521265029907e-01 --2.275256663560867310e-01 --2.360640168190002441e-01 --2.308972030878067017e-01 --2.333485484123229980e-01 --2.437168061733245850e-01 --2.322109490633010864e-01 --2.378744333982467651e-01 --2.420361191034317017e-01 --2.497907727956771851e-01 --2.525875568389892578e-01 --2.563367784023284912e-01 --2.515468001365661621e-01 --2.299355119466781616e-01 --2.330618202686309814e-01 --2.439204901456832886e-01 --2.427143752574920654e-01 --2.474565505981445312e-01 --2.398477941751480103e-01 --2.223983556032180786e-01 --2.241170406341552734e-01 --2.323017120361328125e-01 --2.400551289319992065e-01 --2.386235594749450684e-01 --2.409446239471435547e-01 --2.273608148097991943e-01 --2.376009076833724976e-01 --2.431452572345733643e-01 --2.339965552091598511e-01 --2.341220676898956299e-01 --2.232575714588165283e-01 --2.228055000305175781e-01 --2.202028930187225342e-01 --2.185323089361190796e-01 --2.334064841270446777e-01 --2.293891757726669312e-01 --2.395692914724349976e-01 --2.422643005847930908e-01 --2.488061785697937012e-01 --2.470140457153320312e-01 --2.330401390790939331e-01 --2.417461127042770386e-01 --2.239105403423309326e-01 --2.308037132024765015e-01 --2.312142550945281982e-01 --2.344126552343368530e-01 --2.445360869169235229e-01 --2.380578517913818359e-01 --2.414671778678894043e-01 --2.343411296606063843e-01 --2.233318686485290527e-01 --2.109240144491195679e-01 --2.268991470336914062e-01 --2.231549024581909180e-01 --2.333132773637771606e-01 --2.440548986196517944e-01 --2.453924417495727539e-01 --2.483496814966201782e-01 --2.459403127431869507e-01 --2.510249614715576172e-01 --2.539049386978149414e-01 --2.390748709440231323e-01 --2.301938831806182861e-01 --2.248264700174331665e-01 --2.205342650413513184e-01 --2.127455770969390869e-01 --2.264245897531509399e-01 --2.315081804990768433e-01 --2.345128208398818970e-01 --2.423068135976791382e-01 --2.473055720329284668e-01 --2.396766245365142822e-01 --2.376137077808380127e-01 --2.404528856277465820e-01 --2.299650758504867554e-01 --2.181619554758071899e-01 --2.052527815103530884e-01 --1.931209415197372437e-01 --1.955840438604354858e-01 --1.967276334762573242e-01 --2.123024165630340576e-01 --2.234978079795837402e-01 --2.223927825689315796e-01 --2.131065428256988525e-01 --2.291222512722015381e-01 --2.287247776985168457e-01 --2.350654006004333496e-01 --2.252443283796310425e-01 --2.319338023662567139e-01 --2.236643284559249878e-01 --2.340591251850128174e-01 --2.432081699371337891e-01 --2.409164905548095703e-01 --2.350035607814788818e-01 --2.244865298271179199e-01 --2.325817048549652100e-01 --2.275135517120361328e-01 --2.377928197383880615e-01 --2.416641712188720703e-01 --2.395195066928863525e-01 --2.336729615926742554e-01 --2.216491550207138062e-01 --2.317878156900405884e-01 --2.270958870649337769e-01 --2.146618068218231201e-01 --2.141625285148620605e-01 --2.307357192039489746e-01 --2.306512296199798584e-01 --2.394965589046478271e-01 --2.420729845762252808e-01 --2.356416285037994385e-01 --2.283908575773239136e-01 --2.215719521045684814e-01 --2.349224090576171875e-01 --2.462121397256851196e-01 --2.531872987747192383e-01 --2.561197876930236816e-01 --2.426154464483261108e-01 --2.207067608833312988e-01 --2.324047237634658813e-01 --2.329506576061248779e-01 --2.269372791051864624e-01 --2.343621701002120972e-01 --2.436646521091461182e-01 --2.450418472290039062e-01 --2.513327300548553467e-01 --2.469974756240844727e-01 --2.503606081008911133e-01 --2.474670857191085815e-01 --2.470958381891250610e-01 --2.525119185447692871e-01 --2.443585991859436035e-01 --2.452563196420669556e-01 --2.372559756040573120e-01 --2.276315689086914062e-01 --2.158009707927703857e-01 --2.305758148431777954e-01 --2.288155406713485718e-01 --2.386487424373626709e-01 --2.463157624006271362e-01 --2.490412294864654541e-01 --2.438998371362686157e-01 --2.412791699171066284e-01 --2.443049401044845581e-01 --2.402877211570739746e-01 --2.266498208045959473e-01 --2.384241819381713867e-01 --2.455744743347167969e-01 --2.458761334419250488e-01 --2.457806468009948730e-01 --2.517169415950775146e-01 --2.334938496351242065e-01 --2.422879487276077271e-01 --2.380398362874984741e-01 --2.310439944267272949e-01 --2.314237803220748901e-01 --2.370327115058898926e-01 --2.260249257087707520e-01 --2.376743853092193604e-01 --2.395326793193817139e-01 --2.307139188051223755e-01 --2.248010188341140747e-01 --2.221138328313827515e-01 --2.314235717058181763e-01 --2.378595173358917236e-01 --2.264205664396286011e-01 --2.315935641527175903e-01 --2.310767173767089844e-01 --2.397003322839736938e-01 --2.233071327209472656e-01 --2.222128361463546753e-01 --2.142634838819503784e-01 --2.251093983650207520e-01 --2.261518537998199463e-01 --2.363156825304031372e-01 --2.336479723453521729e-01 --2.394710332155227661e-01 --2.470896095037460327e-01 --2.319301366806030273e-01 --2.306198626756668091e-01 --2.385734766721725464e-01 --2.449175268411636353e-01 --2.352154850959777832e-01 --2.382731437683105469e-01 --2.333024740219116211e-01 --2.268529236316680908e-01 --2.361401170492172241e-01 --2.335686981678009033e-01 --2.371754795312881470e-01 --2.456649690866470337e-01 --2.468302249908447266e-01 --2.524455189704895020e-01 --2.548566162586212158e-01 --2.486415952444076538e-01 --2.370324432849884033e-01 --2.316484302282333374e-01 --2.176589071750640869e-01 --2.091687321662902832e-01 --2.256621122360229492e-01 --2.373630106449127197e-01 --2.216726690530776978e-01 --2.080932855606079102e-01 --2.216564118862152100e-01 --2.263166308403015137e-01 --2.361232042312622070e-01 --2.455059736967086792e-01 --2.525654733180999756e-01 --2.519470453262329102e-01 --2.322245240211486816e-01 --2.364293038845062256e-01 --2.291980385780334473e-01 --2.243602573871612549e-01 --2.304979115724563599e-01 --2.275539785623550415e-01 --2.256885766983032227e-01 --2.300218045711517334e-01 --2.420704215764999390e-01 --2.403793334960937500e-01 --2.382851392030715942e-01 --2.461451292037963867e-01 --2.496556192636489868e-01 --2.369908243417739868e-01 --2.394863963127136230e-01 --2.440227568149566650e-01 --2.480665743350982666e-01 --2.373835295438766479e-01 --2.317268550395965576e-01 --2.331361919641494751e-01 --2.239530682563781738e-01 --2.345002144575119019e-01 --2.449876666069030762e-01 --2.500502169132232666e-01 --2.420157641172409058e-01 --2.479725480079650879e-01 --2.498999238014221191e-01 --2.421283870935440063e-01 --2.425850033760070801e-01 --2.404749393463134766e-01 --2.476698309183120728e-01 --2.372185140848159790e-01 --2.396012842655181885e-01 --2.234617024660110474e-01 --2.235136926174163818e-01 --2.367009073495864868e-01 --2.465675771236419678e-01 --2.297860682010650635e-01 --2.372490465641021729e-01 --2.473805546760559082e-01 --2.540218532085418701e-01 --2.553411424160003662e-01 --2.562705874443054199e-01 --2.551397681236267090e-01 --2.568443715572357178e-01 --2.584791481494903564e-01 +-1.950293034315109253e-01 +-1.870723366737365723e-01 +-1.816910505294799805e-01 +-1.788594126701354980e-01 +-1.776820868253707886e-01 +-1.774475574493408203e-01 +-1.776727885007858276e-01 +-1.780428290367126465e-01 +-1.784589290618896484e-01 +-1.788426637649536133e-01 +-1.792079359292984009e-01 +-1.794709712266921997e-01 +-1.797117739915847778e-01 +-1.799783110618591309e-01 +-1.801678985357284546e-01 +-1.803256422281265259e-01 +-1.804580688476562500e-01 +-1.805211454629898071e-01 +-1.806270778179168701e-01 +-1.806585490703582764e-01 +-1.807124316692352295e-01 +-1.808148920536041260e-01 +-1.808910071849822998e-01 +-1.809712052345275879e-01 +-1.810146421194076538e-01 +-1.811181306838989258e-01 +-1.812347620725631714e-01 +-1.813510805368423462e-01 +-1.814058721065521240e-01 +-1.814921647310256958e-01 +-1.815320253372192383e-01 +-1.815643310546875000e-01 +-1.816110163927078247e-01 +-1.816216111183166504e-01 +-1.815622597932815552e-01 +-1.815584748983383179e-01 +-1.815773695707321167e-01 +-1.815636605024337769e-01 +-1.815280765295028687e-01 +-1.815379261970520020e-01 +-1.814989596605300903e-01 +-1.814575791358947754e-01 +-1.814248263835906982e-01 +-1.813291609287261963e-01 +-1.812323927879333496e-01 +-1.811381578445434570e-01 +-1.810138374567031860e-01 +-1.809058636426925659e-01 +-1.808014661073684692e-01 +-1.807636916637420654e-01 +-1.807257831096649170e-01 +-1.807060539722442627e-01 +-1.806865185499191284e-01 +-1.806856989860534668e-01 +-1.807029843330383301e-01 +-1.807461082935333252e-01 +-1.808115988969802856e-01 +-1.809024959802627563e-01 +-1.810248792171478271e-01 +-1.811478435993194580e-01 +-1.812350600957870483e-01 +-1.813489496707916260e-01 +-1.814415603876113892e-01 +-1.814848780632019043e-01 +-1.814672797918319702e-01 +-1.814015954732894897e-01 +-1.812907755374908447e-01 +-1.812101453542709351e-01 +-1.811199784278869629e-01 +-1.810652464628219604e-01 +-1.809849143028259277e-01 +-1.809801161289215088e-01 +-1.809519976377487183e-01 +-1.809508949518203735e-01 +-1.810107231140136719e-01 +-1.810859292745590210e-01 +-1.811855733394622803e-01 +-1.812952160835266113e-01 +-1.813526898622512817e-01 +-1.814340353012084961e-01 +-1.815173178911209106e-01 +-1.815913766622543335e-01 +-1.816912889480590820e-01 +-1.818058639764785767e-01 +-1.819597929716110229e-01 +-1.821580529212951660e-01 +-1.822736859321594238e-01 +-1.823898851871490479e-01 +-1.825054585933685303e-01 +-1.826134473085403442e-01 +-1.827257275581359863e-01 +-1.828183084726333618e-01 +-1.828155517578125000e-01 +-1.828384846448898315e-01 +-1.828634887933731079e-01 +-1.828064173460006714e-01 +-1.827540099620819092e-01 +-1.826747804880142212e-01 +-1.825991421937942505e-01 +-1.825572252273559570e-01 +-1.824566125869750977e-01 +-1.824044883251190186e-01 +-1.823680847883224487e-01 +-1.823636293411254883e-01 +-1.822963058948516846e-01 +-1.821803152561187744e-01 +-1.820616275072097778e-01 +-1.819167733192443848e-01 +-1.817452162504196167e-01 +-1.815945804119110107e-01 +-1.814804971218109131e-01 +-1.813629865646362305e-01 +-1.812494546175003052e-01 +-1.812341064214706421e-01 +-1.812968999147415161e-01 +-1.814107000827789307e-01 +-1.815879344940185547e-01 +-1.817634105682373047e-01 +-1.818901449441909790e-01 +-1.819706112146377563e-01 +-1.819800883531570435e-01 +-1.819822192192077637e-01 +-1.819110661745071411e-01 +-1.817866563796997070e-01 +-1.816811114549636841e-01 +-1.815831363201141357e-01 +-1.814807355403900146e-01 +-1.814299821853637695e-01 +-1.813762187957763672e-01 +-1.813439875841140747e-01 +-1.812848895788192749e-01 +-1.812071651220321655e-01 +-1.811208426952362061e-01 +-1.810537278652191162e-01 +-1.810208261013031006e-01 +-1.809506863355636597e-01 +-1.808997392654418945e-01 +-1.808758378028869629e-01 +-1.808658242225646973e-01 +-1.808614581823348999e-01 +-1.808908283710479736e-01 +-1.809199452400207520e-01 +-1.809689700603485107e-01 +-1.809640526771545410e-01 +-1.809797286987304688e-01 +-1.810495853424072266e-01 +-1.811150014400482178e-01 +-1.811301112174987793e-01 +-1.811305284500122070e-01 +-1.811687350273132324e-01 +-1.812005639076232910e-01 +-1.811752617359161377e-01 +-1.811781525611877441e-01 +-1.811307966709136963e-01 +-1.810814142227172852e-01 +-1.810084283351898193e-01 +-1.809466779232025146e-01 +-1.808690875768661499e-01 +-1.807426661252975464e-01 +-1.806455552577972412e-01 +-1.806170493364334106e-01 +-1.805496066808700562e-01 +-1.804716885089874268e-01 +-1.804250627756118774e-01 +-1.803581565618515015e-01 +-1.803275495767593384e-01 +-1.803324818611145020e-01 +-1.803660392761230469e-01 +-1.804698556661605835e-01 +-1.805755496025085449e-01 +-1.806508302688598633e-01 +-1.807269752025604248e-01 +-1.808438599109649658e-01 +-1.809665560722351074e-01 +-1.810945868492126465e-01 +-1.812170296907424927e-01 +-1.813580691814422607e-01 +-1.815149635076522827e-01 +-1.816657483577728271e-01 +-1.817638576030731201e-01 +-1.818107217550277710e-01 +-1.817881464958190918e-01 +-1.817505955696105957e-01 +-1.816392838954925537e-01 +-1.814797520637512207e-01 +-1.813458353281021118e-01 +-1.811532378196716309e-01 +-1.809588968753814697e-01 +-1.807609498500823975e-01 +-1.805822104215621948e-01 +-1.803998053073883057e-01 +-1.802499890327453613e-01 +-1.801850944757461548e-01 +-1.801073700189590454e-01 +-1.800908297300338745e-01 +-1.801479309797286987e-01 +-1.802674829959869385e-01 +-1.804584860801696777e-01 +-1.807070374488830566e-01 +-1.809093207120895386e-01 +-1.810696423053741455e-01 +-1.811629086732864380e-01 +-1.812473684549331665e-01 +-1.812804043292999268e-01 +-1.812882572412490845e-01 +-1.812215149402618408e-01 +-1.811766177415847778e-01 +-1.811161935329437256e-01 +-1.810802966356277466e-01 +-1.810100972652435303e-01 +-1.809170842170715332e-01 +-1.808441579341888428e-01 +-1.807590425014495850e-01 +-1.806846857070922852e-01 +-1.806629598140716553e-01 +-1.806141138076782227e-01 +-1.806024014949798584e-01 +-1.805731952190399170e-01 +-1.805960237979888916e-01 +-1.806707978248596191e-01 +-1.807040125131607056e-01 +-1.807058602571487427e-01 +-1.806745380163192749e-01 +-1.806519180536270142e-01 +-1.805858314037322998e-01 +-1.805160194635391235e-01 +-1.803976297378540039e-01 +-1.802615821361541748e-01 +-1.801413893699645996e-01 +-1.800881922245025635e-01 +-1.801042109727859497e-01 +-1.801838576793670654e-01 +-1.802923083305358887e-01 +-1.803988367319107056e-01 +-1.805059313774108887e-01 +-1.806789189577102661e-01 +-1.808044165372848511e-01 +-1.808959692716598511e-01 +-1.810008883476257324e-01 +-1.811171472072601318e-01 +-1.811726689338684082e-01 +-1.812612712383270264e-01 +-1.813650429248809814e-01 +-1.814481616020202637e-01 +-1.814722418785095215e-01 +-1.815371066331863403e-01 +-1.816088259220123291e-01 +-1.815953254699707031e-01 +-1.815820336341857910e-01 +-1.815273165702819824e-01 +-1.814309358596801758e-01 +-1.813393831253051758e-01 +-1.811961829662322998e-01 +-1.810483336448669434e-01 +-1.809227466583251953e-01 +-1.808393597602844238e-01 +-1.807349920272827148e-01 +-1.806134730577468872e-01 +-1.805773228406906128e-01 +-1.805667728185653687e-01 +-1.805418133735656738e-01 +-1.805375814437866211e-01 +-1.805808097124099731e-01 +-1.806501001119613647e-01 +-1.807581931352615356e-01 +-1.809238046407699585e-01 +-1.811574697494506836e-01 +-1.813544183969497681e-01 +-1.815460324287414551e-01 +-1.817589849233627319e-01 +-1.819400489330291748e-01 +-1.820601671934127808e-01 +-1.821255981922149658e-01 +-1.821256577968597412e-01 +-1.821108460426330566e-01 +-1.821186840534210205e-01 +-1.820473074913024902e-01 +-1.819944083690643311e-01 +-1.819483935832977295e-01 +-1.819499433040618896e-01 +-1.819593608379364014e-01 +-1.819408833980560303e-01 +-1.819016337394714355e-01 +-1.818899065256118774e-01 +-1.819055974483489990e-01 +-1.818538457155227661e-01 +-1.818158626556396484e-01 +-1.817308217287063599e-01 +-1.816908121109008789e-01 +-1.816148459911346436e-01 +-1.815340667963027954e-01 +-1.814932525157928467e-01 +-1.814208477735519409e-01 +-1.813312172889709473e-01 +-1.812283545732498169e-01 +-1.811562180519104004e-01 +-1.810487955808639526e-01 +-1.809297204017639160e-01 +-1.808520555496215820e-01 +-1.807663589715957642e-01 +-1.807333827018737793e-01 +-1.806904673576354980e-01 +-1.806450486183166504e-01 +-1.805892586708068848e-01 +-1.805435717105865479e-01 +-1.804757416248321533e-01 +-1.803785264492034912e-01 +-1.803294718265533447e-01 +-1.803136765956878662e-01 +-1.802935004234313965e-01 +-1.803165525197982788e-01 +-1.803357452154159546e-01 +-1.804017871618270874e-01 +-1.805284023284912109e-01 +-1.807008087635040283e-01 +-1.808463931083679199e-01 +-1.809913516044616699e-01 +-1.811167895793914795e-01 +-1.812127828598022461e-01 +-1.812440007925033569e-01 +-1.812246441841125488e-01 +-1.811830401420593262e-01 +-1.811299771070480347e-01 +-1.810729652643203735e-01 +-1.809991598129272461e-01 +-1.809638142585754395e-01 +-1.809197366237640381e-01 +-1.808778345584869385e-01 +-1.808591485023498535e-01 +-1.808904260396957397e-01 +-1.809098720550537109e-01 +-1.809281557798385620e-01 +-1.810016483068466187e-01 +-1.810577958822250366e-01 +-1.810622513294219971e-01 +-1.810507029294967651e-01 +-1.809981465339660645e-01 +-1.809279620647430420e-01 +-1.809028387069702148e-01 +-1.808834373950958252e-01 +-1.808306276798248291e-01 +-1.808055937290191650e-01 +-1.807550787925720215e-01 +-1.807175576686859131e-01 +-1.807370930910110474e-01 +-1.807036697864532471e-01 +-1.806567013263702393e-01 +-1.806497722864151001e-01 +-1.806442588567733765e-01 +-1.805926859378814697e-01 +-1.805718690156936646e-01 +-1.805379390716552734e-01 +-1.804925352334976196e-01 +-1.804259419441223145e-01 +-1.804293990135192871e-01 +-1.804258525371551514e-01 +-1.804533600807189941e-01 +-1.805125921964645386e-01 +-1.805672645568847656e-01 +-1.806581616401672363e-01 +-1.807100474834442139e-01 +-1.807512342929840088e-01 +-1.807475090026855469e-01 +-1.807233393192291260e-01 +-1.807116568088531494e-01 +-1.807208806276321411e-01 +-1.807337105274200439e-01 +-1.807455122470855713e-01 +-1.807272285223007202e-01 +-1.807206720113754272e-01 +-1.807037144899368286e-01 +-1.806872040033340454e-01 +-1.806272864341735840e-01 +-1.806031465530395508e-01 +-1.806309074163436890e-01 +-1.806800067424774170e-01 +-1.807637214660644531e-01 +-1.809120327234268188e-01 +-1.810187995433807373e-01 +-1.811551749706268311e-01 +-1.812390685081481934e-01 +-1.813526451587677002e-01 +-1.814066916704177856e-01 +-1.813782453536987305e-01 +-1.813074946403503418e-01 +-1.812589913606643677e-01 +-1.812455952167510986e-01 +-1.812191903591156006e-01 +-1.811985820531845093e-01 +-1.812253743410110474e-01 +-1.812151223421096802e-01 +-1.812675148248672485e-01 +-1.813583523035049438e-01 +-1.814751923084259033e-01 +-1.815543621778488159e-01 +-1.816164553165435791e-01 +-1.816601753234863281e-01 +-1.816956400871276855e-01 +-1.817520707845687866e-01 +-1.817672699689865112e-01 +-1.818122267723083496e-01 +-1.818636208772659302e-01 +-1.819399446249008179e-01 +-1.820272654294967651e-01 +-1.820648014545440674e-01 +-1.820379197597503662e-01 +-1.820650100708007812e-01 +-1.820729672908782959e-01 +-1.820440590381622314e-01 +-1.819925606250762939e-01 +-1.819717288017272949e-01 +-1.819020211696624756e-01 +-1.818169057369232178e-01 +-1.817507743835449219e-01 +-1.816721260547637939e-01 +-1.815944463014602661e-01 +-1.815063804388046265e-01 +-1.814674437046051025e-01 +-1.814472377300262451e-01 +-1.814737915992736816e-01 +-1.814967691898345947e-01 +-1.814805567264556885e-01 +-1.814964711666107178e-01 +-1.814960986375808716e-01 +-1.815167367458343506e-01 +-1.814724802970886230e-01 +-1.814618557691574097e-01 +-1.813921779394149780e-01 +-1.813952475786209106e-01 +-1.814418733119964600e-01 +-1.815186887979507446e-01 +-1.816458106040954590e-01 +-1.817611902952194214e-01 +-1.818051934242248535e-01 +-1.818641722202301025e-01 +-1.819233000278472900e-01 +-1.819580495357513428e-01 +-1.819375604391098022e-01 +-1.818585395812988281e-01 +-1.818216294050216675e-01 +-1.817319393157958984e-01 +-1.816043406724929810e-01 +-1.815012693405151367e-01 +-1.813494116067886353e-01 +-1.811927258968353271e-01 +-1.810466498136520386e-01 +-1.809218376874923706e-01 +-1.808463931083679199e-01 +-1.808004677295684814e-01 +-1.807779818773269653e-01 +-1.807368993759155273e-01 +-1.806918084621429443e-01 +-1.806946098804473877e-01 +-1.806451827287673950e-01 +-1.806589365005493164e-01 +-1.806214153766632080e-01 +-1.806008070707321167e-01 +-1.805468648672103882e-01 +-1.805615425109863281e-01 +-1.805721521377563477e-01 +-1.805472970008850098e-01 +-1.804944872856140137e-01 +-1.804469972848892212e-01 +-1.804420650005340576e-01 +-1.804207265377044678e-01 +-1.803596913814544678e-01 +-1.802956163883209229e-01 +-1.802363544702529907e-01 +-1.802316009998321533e-01 +-1.802796274423599243e-01 +-1.803731620311737061e-01 +-1.805041581392288208e-01 +-1.805920600891113281e-01 +-1.807255446910858154e-01 +-1.808643639087677002e-01 +-1.809709072113037109e-01 +-1.811082959175109863e-01 +-1.812640726566314697e-01 +-1.813620328903198242e-01 +-1.814195066690444946e-01 +-1.814816594123840332e-01 +-1.815384328365325928e-01 +-1.815204322338104248e-01 +-1.814770549535751343e-01 +-1.814222633838653564e-01 +-1.813111603260040283e-01 +-1.812293529510498047e-01 +-1.811960935592651367e-01 +-1.811387240886688232e-01 +-1.810553520917892456e-01 +-1.810287237167358398e-01 +-1.809958070516586304e-01 +-1.809305101633071899e-01 +-1.808794736862182617e-01 +-1.807921975851058960e-01 +-1.807012408971786499e-01 +-1.805745363235473633e-01 +-1.804691851139068604e-01 +-1.804001331329345703e-01 +-1.803855597972869873e-01 +-1.803904324769973755e-01 +-1.803973615169525146e-01 +-1.804217994213104248e-01 +-1.804548501968383789e-01 +-1.804838627576828003e-01 +-1.804856956005096436e-01 +-1.805170178413391113e-01 +-1.805611848831176758e-01 +-1.805503964424133301e-01 +-1.805914938449859619e-01 +-1.806913912296295166e-01 +-1.808509528636932373e-01 +-1.810389459133148193e-01 +-1.812250614166259766e-01 +-1.813473701477050781e-01 +-1.814516037702560425e-01 +-1.814969778060913086e-01 +-1.815498769283294678e-01 +-1.815496683120727539e-01 +-1.815015375614166260e-01 +-1.814675331115722656e-01 +-1.814384907484054565e-01 +-1.814502477645874023e-01 +-1.814718544483184814e-01 +-1.815354228019714355e-01 +-1.815954297780990601e-01 +-1.816901266574859619e-01 +-1.817183345556259155e-01 +-1.817482858896255493e-01 +-1.817148923873901367e-01 +-1.816289126873016357e-01 +-1.815157532691955566e-01 +-1.813841611146926880e-01 +-1.812695264816284180e-01 +-1.812059879302978516e-01 +-1.811988949775695801e-01 +-1.811791211366653442e-01 +-1.812182664871215820e-01 +-1.812528669834136963e-01 +-1.812642216682434082e-01 +-1.812697649002075195e-01 +-1.812564581632614136e-01 +-1.812002211809158325e-01 +-1.811082512140274048e-01 +-1.810446381568908691e-01 +-1.809405386447906494e-01 +-1.808233261108398438e-01 +-1.807318478822708130e-01 +-1.807074546813964844e-01 +-1.807328909635543823e-01 +-1.807298511266708374e-01 +-1.807889044284820557e-01 +-1.808597445487976074e-01 +-1.808989495038986206e-01 +-1.809578090906143188e-01 +-1.810089796781539917e-01 +-1.810419857501983643e-01 +-1.810023337602615356e-01 +-1.809249818325042725e-01 +-1.808888763189315796e-01 +-1.808272600173950195e-01 +-1.808081269264221191e-01 +-1.807681918144226074e-01 +-1.807153522968292236e-01 +-1.806952357292175293e-01 +-1.807312071323394775e-01 +-1.807543188333511353e-01 +-1.807347089052200317e-01 +-1.807202547788619995e-01 +-1.807188987731933594e-01 +-1.807498484849929810e-01 +-1.808229386806488037e-01 +-1.808657348155975342e-01 +-1.809724271297454834e-01 +-1.811450123786926270e-01 +-1.813252568244934082e-01 +-1.814448833465576172e-01 +-1.816105097532272339e-01 +-1.818034648895263672e-01 +-1.819789707660675049e-01 +-1.820653080940246582e-01 +-1.821220368146896362e-01 +-1.821270138025283813e-01 +-1.820612996816635132e-01 +-1.819952726364135742e-01 +-1.818892061710357666e-01 +-1.817109286785125732e-01 +-1.815475374460220337e-01 +-1.813941895961761475e-01 +-1.812035739421844482e-01 +-1.810588389635086060e-01 +-1.809788942337036133e-01 +-1.809345632791519165e-01 +-1.809428036212921143e-01 +-1.809565871953964233e-01 +-1.809531301259994507e-01 +-1.810301840305328369e-01 +-1.811473667621612549e-01 +-1.812977641820907593e-01 +-1.814448833465576172e-01 +-1.815396845340728760e-01 +-1.816366463899612427e-01 +-1.816907227039337158e-01 +-1.817068308591842651e-01 +-1.816483139991760254e-01 +-1.815720796585083008e-01 +-1.814593076705932617e-01 +-1.813429296016693115e-01 +-1.812338531017303467e-01 +-1.810950636863708496e-01 +-1.809413582086563110e-01 +-1.808604598045349121e-01 +-1.808043420314788818e-01 +-1.808130592107772827e-01 +-1.808871179819107056e-01 +-1.810266524553298950e-01 +-1.812188625335693359e-01 +-1.813656389713287354e-01 +-1.814891099929809570e-01 +-1.815709769725799561e-01 +-1.816721558570861816e-01 +-1.817357838153839111e-01 +-1.817699074745178223e-01 +-1.817305535078048706e-01 +-1.817377358675003052e-01 +-1.817161142826080322e-01 +-1.816458404064178467e-01 +-1.815495789051055908e-01 +-1.814490258693695068e-01 +-1.813081055879592896e-01 +-1.811988502740859985e-01 +-1.811164766550064087e-01 +-1.810088008642196655e-01 +-1.809780150651931763e-01 +-1.809917688369750977e-01 +-1.810537874698638916e-01 +-1.810959279537200928e-01 +-1.811451315879821777e-01 +-1.811766475439071655e-01 +-1.812486499547958374e-01 +-1.812814772129058838e-01 +-1.813219338655471802e-01 +-1.814070343971252441e-01 +-1.815257668495178223e-01 +-1.816649436950683594e-01 +-1.817608922719955444e-01 +-1.818916052579879761e-01 +-1.820084750652313232e-01 +-1.820648163557052612e-01 +-1.820635795593261719e-01 +-1.819914579391479492e-01 +-1.819103062152862549e-01 +-1.817690432071685791e-01 +-1.815937757492065430e-01 +-1.814500391483306885e-01 +-1.813046932220458984e-01 +-1.811755448579788208e-01 +-1.810778677463531494e-01 +-1.810249984264373779e-01 +-1.810594946146011353e-01 +-1.810674667358398438e-01 +-1.810678243637084961e-01 +-1.811023652553558350e-01 +-1.811004728078842163e-01 +-1.811363101005554199e-01 +-1.811209619045257568e-01 +-1.811027824878692627e-01 +-1.811250448226928711e-01 +-1.811359375715255737e-01 +-1.811360120773315430e-01 +-1.811367869377136230e-01 +-1.810908913612365723e-01 +-1.810268610715866089e-01 +-1.809597015380859375e-01 +-1.808837950229644775e-01 +-1.807928085327148438e-01 +-1.807087659835815430e-01 +-1.805848032236099243e-01 +-1.804531812667846680e-01 +-1.803844571113586426e-01 +-1.802843213081359863e-01 +-1.802702993154525757e-01 +-1.803088039159774780e-01 +-1.803563535213470459e-01 +-1.804467141628265381e-01 +-1.806084364652633667e-01 +-1.807871907949447632e-01 +-1.809275299310684204e-01 +-1.811213791370391846e-01 +-1.813614517450332642e-01 +-1.815333962440490723e-01 +-1.816076487302780151e-01 +-1.816855967044830322e-01 +-1.817727386951446533e-01 +-1.818279623985290527e-01 +-1.818312257528305054e-01 +-1.818454861640930176e-01 +-1.817998588085174561e-01 +-1.817657649517059326e-01 +-1.817088276147842407e-01 +-1.816737800836563110e-01 +-1.816171705722808838e-01 +-1.815203428268432617e-01 +-1.814223080873489380e-01 +-1.813848018646240234e-01 +-1.813679337501525879e-01 +-1.813131272792816162e-01 +-1.812354922294616699e-01 +-1.811648458242416382e-01 +-1.810624897480010986e-01 +-1.809755563735961914e-01 +-1.808561980724334717e-01 +-1.806977093219757080e-01 +-1.805537790060043335e-01 +-1.803978085517883301e-01 +-1.803254783153533936e-01 +-1.802332252264022827e-01 +-1.801566630601882935e-01 +-1.801538020372390747e-01 +-1.801682412624359131e-01 +-1.801835745573043823e-01 +-1.802302747964859009e-01 +-1.802444458007812500e-01 +-1.802943646907806396e-01 +-1.803617328405380249e-01 +-1.804015487432479858e-01 +-1.804613918066024780e-01 +-1.805291026830673218e-01 +-1.806114166975021362e-01 +-1.806770265102386475e-01 +-1.808018088340759277e-01 +-1.809612214565277100e-01 +-1.811582744121551514e-01 +-1.813995093107223511e-01 +-1.815650761127471924e-01 +-1.817341893911361694e-01 +-1.818558573722839355e-01 +-1.818947046995162964e-01 +-1.818949282169342041e-01 +-1.818656027317047119e-01 +-1.817456483840942383e-01 +-1.816700994968414307e-01 +-1.815453171730041504e-01 +-1.814796477556228638e-01 +-1.814233362674713135e-01 +-1.813900470733642578e-01 +-1.813320368528366089e-01 +-1.813285052776336670e-01 +-1.812993586063385010e-01 +-1.813008487224578857e-01 +-1.812930703163146973e-01 +-1.812291443347930908e-01 +-1.812234222888946533e-01 +-1.811910271644592285e-01 +-1.811419874429702759e-01 +-1.810420453548431396e-01 +-1.809500306844711304e-01 +-1.808168739080429077e-01 +-1.807235181331634521e-01 +-1.806858330965042114e-01 +-1.806405633687973022e-01 +-1.805590689182281494e-01 +-1.805341094732284546e-01 +-1.805037260055541992e-01 +-1.805198639631271362e-01 +-1.805893480777740479e-01 +-1.806627959012985229e-01 +-1.807176172733306885e-01 +-1.807589232921600342e-01 +-1.808193624019622803e-01 +-1.808598041534423828e-01 +-1.809294223785400391e-01 +-1.809407472610473633e-01 +-1.809372752904891968e-01 +-1.809668391942977905e-01 +-1.809860765933990479e-01 +-1.810328960418701172e-01 +-1.810858398675918579e-01 +-1.811566352844238281e-01 +-1.812458038330078125e-01 +-1.812746822834014893e-01 +-1.813423484563827515e-01 +-1.813516765832901001e-01 +-1.813487261533737183e-01 +-1.812823116779327393e-01 +-1.812160313129425049e-01 +-1.811729967594146729e-01 +-1.810736656188964844e-01 +-1.810474842786788940e-01 +-1.810202151536941528e-01 +-1.810171753168106079e-01 +-1.810201406478881836e-01 +-1.809800267219543457e-01 +-1.809898912906646729e-01 +-1.809772849082946777e-01 +-1.809825301170349121e-01 +-1.810155808925628662e-01 +-1.810925155878067017e-01 +-1.811209321022033691e-01 +-1.811977624893188477e-01 +-1.812451034784317017e-01 +-1.812436878681182861e-01 +-1.812413483858108521e-01 +-1.811949610710144043e-01 +-1.811332702636718750e-01 +-1.810119301080703735e-01 +-1.808784753084182739e-01 +-1.808056533336639404e-01 +-1.807651221752166748e-01 +-1.807564198970794678e-01 +-1.807905733585357666e-01 +-1.808857619762420654e-01 +-1.809601485729217529e-01 +-1.810493320226669312e-01 +-1.811337769031524658e-01 +-1.811671853065490723e-01 +-1.811621785163879395e-01 +-1.811644434928894043e-01 +-1.811434328556060791e-01 +-1.810911148786544800e-01 +-1.810715794563293457e-01 +-1.810979992151260376e-01 +-1.811859905719757080e-01 +-1.813485622406005859e-01 +-1.815420389175415039e-01 +-1.817553937435150146e-01 +-1.819166392087936401e-01 +-1.820359230041503906e-01 +-1.821411252021789551e-01 +-1.822380721569061279e-01 +-1.822230666875839233e-01 +-1.822012364864349365e-01 +-1.821320652961730957e-01 +-1.820781081914901733e-01 +-1.819839477539062500e-01 +-1.819156408309936523e-01 +-1.818089336156845093e-01 +-1.816803365945816040e-01 +-1.815816462039947510e-01 +-1.815015524625778198e-01 +-1.814505308866500854e-01 +-1.813754886388778687e-01 +-1.813409030437469482e-01 +-1.812800168991088867e-01 +-1.812330186367034912e-01 +-1.812024116516113281e-01 +-1.811856925487518311e-01 +-1.812005490064620972e-01 +-1.811810433864593506e-01 +-1.811987012624740601e-01 +-1.812708377838134766e-01 +-1.813600361347198486e-01 +-1.813815534114837646e-01 +-1.814329326152801514e-01 +-1.814379394054412842e-01 +-1.814259588718414307e-01 +-1.814128756523132324e-01 +-1.813980638980865479e-01 +-1.813935488462448120e-01 +-1.813335120677947998e-01 +-1.812447756528854370e-01 +-1.811438500881195068e-01 +-1.810413599014282227e-01 +-1.809809505939483643e-01 +-1.809594333171844482e-01 +-1.808929443359375000e-01 +-1.808573901653289795e-01 +-1.808732151985168457e-01 +-1.808826774358749390e-01 +-1.808685511350631714e-01 +-1.808705329895019531e-01 +-1.808201521635055542e-01 +-1.807987391948699951e-01 +-1.807336509227752686e-01 +-1.806760132312774658e-01 +-1.806087791919708252e-01 +-1.805042475461959839e-01 +-1.804604232311248779e-01 +-1.804177761077880859e-01 +-1.804146915674209595e-01 +-1.804548501968383789e-01 +-1.805517673492431641e-01 +-1.806132495403289795e-01 +-1.807224303483963013e-01 +-1.807978749275207520e-01 +-1.808430552482604980e-01 +-1.808659434318542480e-01 +-1.808819472789764404e-01 +-1.808716356754302979e-01 +-1.808240413665771484e-01 +-1.807892918586730957e-01 +-1.808010339736938477e-01 +-1.807700991630554199e-01 +-1.807438731193542480e-01 +-1.807380318641662598e-01 +-1.807281970977783203e-01 +-1.806649416685104370e-01 +-1.806743592023849487e-01 +-1.806373298168182373e-01 +-1.806369423866271973e-01 +-1.806665211915969849e-01 +-1.807004809379577637e-01 +-1.807212829589843750e-01 +-1.807920336723327637e-01 +-1.808164417743682861e-01 +-1.808573305606842041e-01 +-1.809259504079818726e-01 +-1.810021847486495972e-01 +-1.810789853334426880e-01 +-1.811183691024780273e-01 +-1.811418235301971436e-01 +-1.812056154012680054e-01 +-1.812418997287750244e-01 +-1.812725067138671875e-01 +-1.812554895877838135e-01 +-1.812933683395385742e-01 +-1.813368797302246094e-01 +-1.814041435718536377e-01 +-1.814368963241577148e-01 +-1.814796924591064453e-01 +-1.814804673194885254e-01 +-1.814958304166793823e-01 +-1.814697682857513428e-01 +-1.813912838697433472e-01 +-1.813623011112213135e-01 +-1.813282072544097900e-01 +-1.812550425529479980e-01 +-1.811661720275878906e-01 +-1.811278462409973145e-01 +-1.810795664787292480e-01 +-1.810548305511474609e-01 +-1.810587942600250244e-01 +-1.810346841812133789e-01 +-1.810432672500610352e-01 +-1.810465455055236816e-01 +-1.810091733932495117e-01 +-1.809803545475006104e-01 +-1.808984130620956421e-01 +-1.808117479085922241e-01 +-1.807444393634796143e-01 +-1.806985288858413696e-01 +-1.806663572788238525e-01 +-1.806926578283309937e-01 +-1.807851642370223999e-01 +-1.808494478464126587e-01 +-1.809123307466506958e-01 +-1.810488402843475342e-01 +-1.812243014574050903e-01 +-1.813339740037918091e-01 +-1.814220547676086426e-01 +-1.814573854207992554e-01 +-1.814357936382293701e-01 +-1.813567727804183960e-01 +-1.812780052423477173e-01 +-1.812304258346557617e-01 +-1.811428666114807129e-01 +-1.810808926820755005e-01 +-1.810548752546310425e-01 +-1.810340583324432373e-01 +-1.810546219348907471e-01 +-1.811035275459289551e-01 +-1.811480522155761719e-01 +-1.811344921588897705e-01 +-1.811520457267761230e-01 +-1.811634898185729980e-01 +-1.811087429523468018e-01 +-1.810374855995178223e-01 +-1.810050308704376221e-01 +-1.809508949518203735e-01 +-1.808782666921615601e-01 +-1.807985752820968628e-01 +-1.807728558778762817e-01 +-1.807725131511688232e-01 +-1.807752102613449097e-01 +-1.808227598667144775e-01 +-1.808446049690246582e-01 +-1.808388829231262207e-01 +-1.808325350284576416e-01 +-1.808546483516693115e-01 +-1.808120459318161011e-01 +-1.807558834552764893e-01 +-1.807210743427276611e-01 +-1.806736886501312256e-01 +-1.806373447179794312e-01 +-1.805695593357086182e-01 +-1.805707514286041260e-01 +-1.805730313062667847e-01 +-1.806353330612182617e-01 +-1.807142496109008789e-01 +-1.807457208633422852e-01 +-1.807569116353988647e-01 +-1.808434128761291504e-01 +-1.808851510286331177e-01 +-1.808578372001647949e-01 +-1.807944476604461670e-01 +-1.807334274053573608e-01 +-1.806415021419525146e-01 +-1.805370151996612549e-01 +-1.803991347551345825e-01 +-1.802542358636856079e-01 diff --git a/tests/functional/torch_gru_test.cpp b/tests/functional/torch_gru_test.cpp index 2966a2d..bef9c4c 100644 --- a/tests/functional/torch_gru_test.cpp +++ b/tests/functional/torch_gru_test.cpp @@ -8,7 +8,12 @@ namespace template void testTorchGRUModel() { - using ModelType = RTNeural::ModelT, RTNeural::DenseT>; + using ModelType = RTNeural::ModelT, + RTNeural::GRULayerT, + RTNeural::GRULayerT, + RTNeural::GRULayerT, + RTNeural::DenseT>; const auto loadModel = [](std::ifstream& jsonStream, ModelType& model) { @@ -18,7 +23,14 @@ void testTorchGRUModel() auto& gru = model.template get<0>(); RTNeural::torch_helpers::loadGRU(modelJson, "gru.", gru); - auto& dense = model.template get<1>(); + auto& gru2_l0 = model.template get<1>(); + RTNeural::torch_helpers::loadGRU(modelJson, "gru2.", gru2_l0, true, 0); + auto& gru2_l1 = model.template get<2>(); + RTNeural::torch_helpers::loadGRU(modelJson, "gru2.", gru2_l1, true, 1); + auto& gru2_l2 = model.template get<3>(); + RTNeural::torch_helpers::loadGRU(modelJson, "gru2.", gru2_l2, true, 2); + + auto& dense = model.template get<4>(); RTNeural::torch_helpers::loadDense(modelJson, "dense.", dense); }; diff --git a/tests/functional/torch_lstm_test.cpp b/tests/functional/torch_lstm_test.cpp index dc118b5..523e6d3 100644 --- a/tests/functional/torch_lstm_test.cpp +++ b/tests/functional/torch_lstm_test.cpp @@ -8,7 +8,12 @@ namespace template void testTorchLSTMModel() { - using ModelType = RTNeural::ModelT, RTNeural::DenseT>; + using ModelType = RTNeural::ModelT, + RTNeural::LSTMLayerT, + RTNeural::LSTMLayerT, + RTNeural::LSTMLayerT, + RTNeural::DenseT>; const auto loadModel = [](std::ifstream& jsonStream, ModelType& model) { @@ -18,7 +23,14 @@ void testTorchLSTMModel() auto& lstm = model.template get<0>(); RTNeural::torch_helpers::loadLSTM(modelJson, "lstm.", lstm); - auto& dense = model.template get<1>(); + auto& lstm2_l0 = model.template get<1>(); + RTNeural::torch_helpers::loadLSTM(modelJson, "lstm2.", lstm2_l0, true, 0); + auto& lstm2_l1 = model.template get<2>(); + RTNeural::torch_helpers::loadLSTM(modelJson, "lstm2.", lstm2_l1, true, 1); + auto& lstm2_l2 = model.template get<3>(); + RTNeural::torch_helpers::loadLSTM(modelJson, "lstm2.", lstm2_l2, true, 2); + + auto& dense = model.template get<4>(); RTNeural::torch_helpers::loadDense(modelJson, "dense.", dense); };