Skip to content

Commit

Permalink
Edit quantization notebook
Browse files Browse the repository at this point in the history
  • Loading branch information
sviperm committed Jul 8, 2021
1 parent ba2ef4a commit 125a996
Showing 1 changed file with 46 additions and 33 deletions.
79 changes: 46 additions & 33 deletions notebooks/quantization.ipynb
Original file line number Diff line number Diff line change
Expand Up @@ -25,33 +25,6 @@
"from neuro_comma.model import CorrectionModel"
]
},
{
"cell_type": "code",
"execution_count": 3,
"metadata": {},
"outputs": [
{
"data": {
"text/plain": [
"'Библиотека является некоторой надстройкой над catalyst, однако допускает использования своих train loop-ов, для применения библиотеки требуется лишь изменить forward моделей, а потому нет никакой привязки к домену использования/архитектуре.'"
]
},
"execution_count": 10,
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"text = (\"Я расскажу о своем pet project библиотеки для уменьшения моделей compressors \"\n",
"\"библиотека является некоторой надстройкой над catalyst однако допускает использования \"\n",
"\"своих train loop-ов для применения библиотеки требуется лишь изменить forward моделей \"\n",
"\"а потому нет никакой привязки к домену использования/архитектуре конвертация тоже не нужна \"\n",
"\"хочется заметить что библиотека ортогональна к использованию различных специализированных \"\n",
"\"библиотека типа onnx OpenVINO и так далее\")\n",
"\n",
"predictor(text)"
]
},
{
"cell_type": "code",
"execution_count": 4,
Expand Down Expand Up @@ -88,7 +61,27 @@
},
{
"cell_type": "code",
"execution_count": 7,
"execution_count": 14,
"metadata": {},
"outputs": [
{
"data": {
"text/plain": [
"'Я расскажу о своем pet project библиотеки для уменьшения моделей, compressors, библиотека является некоторой надстройкой над catalyst, однако допускает использования своих train loop-ов, для применения библиотеки требуется лишь изменить forward моделей, а потому нет никакой привязки к домену, использования/архитектуре, конвертация тоже не нужна, хочется заметить, что библиотека ортогональна к использованию различных специализированных библиотека типа onnx, OpenVINO и так далее'"
]
},
"execution_count": 14,
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"quantized_model.save('../models/repunct-model-new/weights/quantized_weights_ep6_9912.pt')"
]
},
{
"cell_type": "code",
"execution_count": 3,
"metadata": {},
"outputs": [],
"source": [
Expand All @@ -100,22 +93,27 @@
},
{
"cell_type": "code",
"execution_count": 14,
"execution_count": 4,
"metadata": {},
"outputs": [
{
"data": {
"text/plain": [
"'Я расскажу о своем pet project библиотеки для уменьшения моделей, compressors, библиотека является некоторой надстройкой над catalyst, однако допускает использования своих train loop-ов, для применения библиотеки требуется лишь изменить forward моделей, а потому нет никакой привязки к домену, использования/архитектуре, конвертация тоже не нужна, хочется заметить, что библиотека ортогональна к использованию различных специализированных библиотека типа onnx, OpenVINO и так далее'"
"'Показатели давления могут изменяться в зависимости от ряда факторов. Даже у одного и того же пациента в течение суток наблюдаются колебания АД. Например, утром после пробуждения кровяное давление может быть низким, после обеда оно может начать подниматься.'"
]
},
"execution_count": 14,
"execution_count": 4,
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"quantized_model.save('../models/repunct-model-new/weights/quantized_weights_ep6_9912.pt')"
"text = (\"Показатели давления могут изменяться в зависимости от ряда факторов \"\n",
"\"Даже у одного и того же пациента в течение суток наблюдаются колебания АД \"\n",
"\"Например утром после пробуждения кровяное давление может быть низким \"\n",
"\"после обеда оно может начать подниматься\")\n",
"\n",
"predictor(text)"
]
},
{
Expand All @@ -127,9 +125,24 @@
}
],
"metadata": {
"interpreter": {
"hash": "0f6647ac222ee8180da4b9f4daf24da456a5df3bc659c190f01c4ac62564739c"
},
"kernelspec": {
"display_name": "Python 3.8.9 64-bit ('venv': venv)",
"name": "python3"
},
"language_info": {
"codemirror_mode": {
"name": "ipython",
"version": 3
},
"file_extension": ".py",
"mimetype": "text/x-python",
"name": "python",
"nbconvert_exporter": "python"
"nbconvert_exporter": "python",
"pygments_lexer": "ipython3",
"version": "3.9.4"
},
"orig_nbformat": 4
},
Expand Down

0 comments on commit 125a996

Please sign in to comment.