Update model.py

model.py

@@ -43,7 +43,10 @@ class MedicalMasterAI(nn.Module):
     def __init__(self, vocab_size=115, n_layer=48, n_head=8, n_embd=768):
         super().__init__()
         self.token_embedding = nn.Embedding(vocab_size, n_embd)
-        self.position_embedding = nn.Parameter(torch.zeros(1, 1024, n_embd))
+        
+        # ⚠️ التعديل الجذري هنا: تم تغيير 1024 إلى 256 ليتطابق مع أوزانك المدربة ⚠️
+        self.position_embedding = nn.Parameter(torch.zeros(1, 256, n_embd))
+        
         self.blocks = nn.Sequential(*[Block(n_embd, n_head) for _ in range(n_layer)])
         self.ln_f = nn.LayerNorm(n_embd)
         self.lm_head = nn.Linear(n_embd, vocab_size)
@@ -52,4 +55,4 @@ class MedicalMasterAI(nn.Module):
         b, t = idx.shape
         x = self.token_embedding(idx) + self.position_embedding[:, :t, :]
         x = self.blocks(x)
-        return self.lm_head(self.ln_f(x))
+        return self.lm_head(self.ln_f(x)