diff --git a/.ipynb_checkpoints/checkLora-checkpoint.py b/.ipynb_checkpoints/checkLora-checkpoint.py index e980d762dcbd652e600064915e7ca18b6c9ba5a6..00e7efb853480c943072c0741337324cca4af2f4 100644 --- a/.ipynb_checkpoints/checkLora-checkpoint.py +++ b/.ipynb_checkpoints/checkLora-checkpoint.py @@ -152,10 +152,10 @@ device = torch.device("cuda" if torch.cuda.is_available() else "cpu") config = PeftConfig.from_pretrained("./micro_no_cross_fine_tuned") # Загружаем базовую модель для классификации с двумя выходами (безопасность и атака) -model = BertForSequenceClassification.from_pretrained(config.base_model_name_or_path, num_labels=5) # 1 для безопасности и 4 для атак +base_model = BertForSequenceClassification.from_pretrained(config.base_model_name_or_path, num_labels=5) # 1 для безопасности и 4 для атак # Загружаем LoRA-адаптеры -model = PeftModel.from_pretrained(model, "./micro_no_cross_fine_tuned", is_trainable=False) +model = PeftModel.from_pretrained(base_model, "./micro_no_cross_fine_tuned", is_trainable=False) # Переводим модель на нужное устройство и переводим в режим предсказания model.to(device) diff --git a/checkLora.py b/checkLora.py index e980d762dcbd652e600064915e7ca18b6c9ba5a6..00e7efb853480c943072c0741337324cca4af2f4 100644 --- a/checkLora.py +++ b/checkLora.py @@ -152,10 +152,10 @@ device = torch.device("cuda" if torch.cuda.is_available() else "cpu") config = PeftConfig.from_pretrained("./micro_no_cross_fine_tuned") # Загружаем базовую модель для классификации с двумя выходами (безопасность и атака) -model = BertForSequenceClassification.from_pretrained(config.base_model_name_or_path, num_labels=5) # 1 для безопасности и 4 для атак +base_model = BertForSequenceClassification.from_pretrained(config.base_model_name_or_path, num_labels=5) # 1 для безопасности и 4 для атак # Загружаем LoRA-адаптеры -model = PeftModel.from_pretrained(model, "./micro_no_cross_fine_tuned", is_trainable=False) +model = PeftModel.from_pretrained(base_model, "./micro_no_cross_fine_tuned", is_trainable=False) # Переводим модель на нужное устройство и переводим в режим предсказания model.to(device)