Update app.py

app.py

@@ -54,17 +54,17 @@ def generate_response(input_text, source_lang, target_lang, task_type, max_lengt
             formatted_input = f"{input_text} </s> {src_code}"
             decoder_start_token = tgt_code
         
-        # Tokenize input - KEY FIX: Explicitly set return_token_type_ids=False
+        # FIX 1: Tokenize with explicit token_type_ids=False
         inputs = tokenizer(
             formatted_input, 
             return_tensors="pt", 
             padding=True, 
             truncation=True, 
             max_length=512,
-            return_token_type_ids=False  # This prevents the error
+            return_token_type_ids=False  # KEY FIX: Prevent token_type_ids
         )
         
-        # Alternative fix: Remove token_type_ids if present
+        # FIX 2: Alternative approach - manually remove if present
         if 'token_type_ids' in inputs:
             del inputs['token_type_ids']
         
@@ -74,10 +74,11 @@ def generate_response(input_text, source_lang, target_lang, task_type, max_lengt
         except:
             decoder_start_token_id = tokenizer.convert_tokens_to_ids(decoder_start_token)
         
-        # Generate on CPU
+        # FIX 3: Use explicit parameters instead of **inputs (most reliable)
         with torch.no_grad():
             outputs = model.generate(
-                **inputs,
+                input_ids=inputs['input_ids'],  # Explicit parameter
+                attention_mask=inputs['attention_mask'],  # Explicit parameter
                 decoder_start_token_id=decoder_start_token_id,
                 max_length=max_length,
                 num_beams=2,
@@ -150,7 +151,7 @@ with gr.Blocks(title="IndicBART CPU Multilingual Assistant", theme=gr.themes.Sof
                 label="Max Length"
             )
     
-    # Simplified examples to avoid caching issues
+    # Simple examples without caching
     gr.Markdown("### 💡 Try these examples:")
     
     with gr.Row():
@@ -204,12 +205,11 @@ with gr.Blocks(title="IndicBART CPU Multilingual Assistant", theme=gr.themes.Sof
         outputs=[input_text, source_lang, target_lang, task_type]
     )
 
-# Launch with all fixes applied
+# FIX 4: Updated launch parameters (removed cache_examples)
 if __name__ == "__main__":
     demo.launch(
         share=True,
-        ssr_mode=False,           # Disable SSR
-        cache_examples=False,     # Disable example caching - KEY FIX
         show_error=True,
-        enable_queue=False        # Disable queue to avoid startup issues
+        enable_queue=False,
+        # Removed cache_examples parameter - not supported in newer Gradio versions
     )