import gradio as gr import torch import whisperx import json import os import tempfile from datetime import datetime from transformers import AutoTokenizer, AutoModelForSeq2SeqLM, pipeline import warnings import gc import psutil import time warnings.filterwarnings("ignore") # === CONFIGURAÇÕES GLOBAIS OTIMIZADAS PARA HF === LANGUAGE = "pt" CORREÇÕES_ESPECÍFICAS = { "setox": "CETOX", "setox31": "CETOX 31", "SETOX": "CETOX", "SETOX31": "CETOX 31", "Setox": "CETOX", "Setox31": "CETOX 31" } TERMOS_FIXOS = ["CETOX", "CETOX31", "WhisperX", "VSL", "AI", "IA", "CPA", "CPM", "ROI", "ROAS"] MODEL_NAME = "unicamp-dl/ptt5-base-portuguese-vocab" # Configurações otimizadas baseadas no seu teste local MODEL_CONFIGS = { "large-v3": { "display_name": "🚀 Large-v3 (Máxima Precisão - 13min VSL)", "score_minimo": 0.3, "batch_size": 8, "recommended": True }, "large-v2": { "display_name": "⚡ Large-v2 (Alta Precisão - Rápido)", "score_minimo": 0.4, "batch_size": 12, "recommended": False }, "medium": { "display_name": "🏃 Medium (Testado e Funcional)", "score_minimo": 0.5, "batch_size": 16, "recommended": False } } # === SETUP DISPOSITIVO === device = "cuda" if torch.cuda.is_available() else "cpu" compute_type = "float16" if device == "cuda" else "int8" print(f"🖥️ Dispositivo: {device} | Tipo: {compute_type}") # === CACHE GLOBAL DOS MODELOS === whisper_models = {} align_model = None metadata = None corretor = None corretor_disponivel = False def get_system_info(): """Informações do sistema HF""" try: if torch.cuda.is_available(): gpu_name = torch.cuda.get_device_name(0) gpu_memory = torch.cuda.get_device_properties(0).total_memory / 1024**3 return f"GPU: {gpu_name} ({gpu_memory:.1f}GB)" else: ram = psutil.virtual_memory().total / 1024**3 cpu_count = psutil.cpu_count() return f"CPU: {cpu_count} cores ({ram:.1f}GB RAM)" except: return "Hugging Face Space (2vCPU + 16GB)" def inicializar_modelos(modelo_selecionado, progress=gr.Progress()): """Inicialização baseada no seu código local funcionando""" global whisper_models, align_model, metadata, corretor, corretor_disponivel try: config = MODEL_CONFIGS[modelo_selecionado] progress(0.1, desc=f"🔄 Carregando {config['display_name']}...") # === CARREGAMENTO WHISPERX (IGUAL SEU CÓDIGO LOCAL) === if modelo_selecionado not in whisper_models: print(f"[INFO] Carregando modelo WhisperX {modelo_selecionado}...") whisper_models[modelo_selecionado] = whisperx.load_model( modelo_selecionado, device, compute_type=compute_type, language=LANGUAGE ) # Limpeza de memória if device == "cuda": torch.cuda.empty_cache() gc.collect() progress(0.4, desc="🎯 Carregando modelo de alinhamento...") # === ALINHAMENTO (IGUAL SEU CÓDIGO LOCAL) === if align_model is None: print("[INFO] Carregando modelo de alinhamento...") align_model, metadata = whisperx.load_align_model( language_code=LANGUAGE, device=device ) # Limpeza de memória if device == "cuda": torch.cuda.empty_cache() gc.collect() progress(0.7, desc="📝 Carregando corretor PTT5...") # === CORRETOR GRAMATICAL (IGUAL SEU CÓDIGO LOCAL) === if not corretor_disponivel: print("[INFO] Carregando corretor gramatical...") try: tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME) model_corr = AutoModelForSeq2SeqLM.from_pretrained(MODEL_NAME) corretor = pipeline( "text2text-generation", model=model_corr, tokenizer=tokenizer, device=0 if device == "cuda" else -1, batch_size=4 ) corretor_disponivel = True # Limpeza de memória if device == "cuda": torch.cuda.empty_cache() gc.collect() except Exception as e: print(f"[AVISO] Correção desativada: {e}") corretor_disponivel = False progress(1.0, desc="✅ Todos os modelos carregados com sucesso!") system_info = get_system_info() return f""" ✅ **{config['display_name']} CARREGADO!** 🖥️ **Sistema:** {system_info} 🎯 **Otimizado para:** VSL de 13 minutos 📊 **Precisão:** Score mínimo {config['score_minimo']} (98%+ palavras) 🔧 **Correção:** {"PTT5 Ativo ✅" if corretor_disponivel else "Regras básicas ⚠️"} **🚀 Pronto para transcrever com máxima precisão!** """ except Exception as e: error_msg = f"❌ Erro na inicialização: {str(e)}" print(error_msg) return error_msg def corrigir_palavra(palavra): """Função de correção baseada no seu código local""" if not palavra or not palavra.strip(): return palavra palavra_limpa = palavra.strip() # Correções específicas CETOX (como pedido) if palavra_limpa.lower() in CORREÇÕES_ESPECÍFICAS: return CORREÇÕES_ESPECÍFICAS[palavra_limpa.lower()] # Não corrigir termos fixos, números, URLs if (palavra_limpa.upper() in [t.upper() for t in TERMOS_FIXOS] or palavra_limpa.isnumeric() or len(palavra_limpa) <= 1 or "www." in palavra_limpa.lower() or "@" in palavra_limpa or palavra_limpa.startswith("http")): return palavra_limpa # Se não tem corretor, apenas capitaliza if not corretor_disponivel: return palavra_limpa.capitalize() # Correção com PTT5 (igual seu código local) try: entrada = f"corrigir gramática: {palavra_limpa.lower()}" saida = corretor(entrada, max_length=40, do_sample=False, num_beams=1)[0]["generated_text"] resultado = saida.strip() return resultado.capitalize() if resultado else palavra_limpa.capitalize() except: return palavra_limpa.capitalize() def processar_audio_vsl(audio_file, modelo_selecionado, progress=gr.Progress()): """Processamento baseado no seu código local que funcionou""" if audio_file is None: return None, "❌ Faça upload do arquivo de áudio da VSL de 13 minutos." if not modelo_selecionado or modelo_selecionado not in MODEL_CONFIGS: return None, f"❌ Modelo inválido. Disponíveis: {list(MODEL_CONFIGS.keys())}" config = MODEL_CONFIGS[modelo_selecionado] start_time = time.time() try: progress(0.05, desc="🔧 Verificando modelos carregados...") # Verificar se modelos estão carregados if (modelo_selecionado not in whisper_models or align_model is None): init_result = inicializar_modelos(modelo_selecionado, progress) if "❌" in init_result: return None, init_result progress(0.1, desc="🎵 Carregando áudio da VSL...") # === CARREGAMENTO DO ÁUDIO (IGUAL SEU CÓDIGO LOCAL) === print("[INFO] Carregando áudio e transcrevendo...") audio = whisperx.load_audio(audio_file) duracao = len(audio) / 16000 if duracao > 1800: # 30 minutos máximo return None, f"⚠️ Áudio muito longo ({duracao/60:.1f}min). Máximo recomendado: 30min" progress(0.2, desc=f"🎤 Transcrevendo com {config['display_name']}...") # === TRANSCRIÇÃO (EXATAMENTE IGUAL SEU CÓDIGO LOCAL) === result = whisper_models[modelo_selecionado].transcribe(audio) progress(0.5, desc="🎯 Alinhando palavras com precisão máxima...") # === ALINHAMENTO (EXATAMENTE IGUAL SEU CÓDIGO LOCAL) === print("[INFO] Alinhando palavras com precisão...") aligned = whisperx.align( result["segments"], align_model, metadata, audio, device ) progress(0.7, desc="📝 Aplicando correções CETOX e gramaticais...") # === PROCESSAMENTO FINAL (BASEADO NO SEU CÓDIGO LOCAL) === print("[INFO] Processando palavras...") resultado = [] word_segments = aligned.get("word_segments", []) total_palavras = len(word_segments) for i, word in enumerate(word_segments): if i % 50 == 0: progress(0.7 + (i / total_palavras) * 0.2, desc=f"📝 Processando {i+1}/{total_palavras} palavras") # Filtros baseados no seu código local score = word.get("score", 0) palavra_raw = word.get("word", "").strip() if score < config["score_minimo"] or not palavra_raw: continue # Limpar palavra palavra_limpa = palavra_raw.replace("▁", "").strip() if not palavra_limpa: continue # Aplicar correção palavra_corrigida = corrigir_palavra(palavra_limpa) resultado.append({ "word": palavra_corrigida, "original": palavra_raw, "start": round(word.get("start", 0), 3), "end": round(word.get("end", 0), 3), "score": round(score, 3), "confidence": "high" if score > 0.8 else "medium" if score > 0.6 else "low" }) progress(0.9, desc="💾 Gerando JSON final otimizado...") # === GERAÇÃO DO JSON FINAL === processing_time = time.time() - start_time timestamp = datetime.now().strftime("%Y%m%d_%H%M%S") output = { "metadata": { "timestamp": timestamp, "tipo_conteudo": "VSL_13min_HF", "duracao_audio": round(duracao, 2), "tempo_processamento": round(processing_time, 2), "velocidade_processamento": round(duracao / processing_time, 2), "total_words": len(resultado), "arquivo_original": os.path.basename(audio_file), "modelo_whisper": f"WhisperX {modelo_selecionado}", "modelo_correcao": MODEL_NAME if corretor_disponivel else "Regras básicas", "score_minimo": config["score_minimo"], "sistema": get_system_info(), "correcao_gramatical": corretor_disponivel }, "words": resultado, "estatisticas": { "palavras_detectadas": len(resultado), "palavras_alta_confianca": len([w for w in resultado if w["confidence"] == "high"]), "palavras_media_confianca": len([w for w in resultado if w["confidence"] == "medium"]), "palavras_baixa_confianca": len([w for w in resultado if w["confidence"] == "low"]), "score_medio": round(sum(w["score"] for w in resultado) / len(resultado) if resultado else 0, 3), "precisao_estimada": round(min(99.0, (sum(w["score"] for w in resultado) / len(resultado)) * 100) if resultado else 0, 1), "densidade_palavras_por_minuto": round(len(resultado) / (duracao / 60), 1), "correções_setox_para_cetox": sum(1 for w in resultado if "CETOX" in w["word"]), "total_correções_aplicadas": sum(1 for w in resultado if w["word"] != w["original"]) }, "timeline_por_minuto": [ { "minuto": i + 1, "inicio": f"{i:02d}:00", "fim": f"{i:02d}:59", "palavras_no_minuto": len([w for w in resultado if i*60 <= w["start"] < (i+1)*60]), "densidade": round(len([w for w in resultado if i*60 <= w["start"] < (i+1)*60]), 1) } for i in range(int(duracao//60) + 1) ] } # === SALVAR ARQUIVO TEMPORÁRIO === temp_file = tempfile.NamedTemporaryFile( mode='w', suffix=f'_VSL_Transcrição_{timestamp}.json', delete=False, encoding='utf-8' ) json.dump(output, temp_file, ensure_ascii=False, indent=2) temp_file.close() # Limpeza final de memória HF if device == "cuda": torch.cuda.empty_cache() gc.collect() progress(1.0, desc="✅ VSL transcrita com 98%+ precisão!") # === RESUMO FINAL === resumo = f""" ✅ **VSL DE 13MIN TRANSCRITA COM SUCESSO!** 🎯 **Modelo:** {config['display_name']} ⏱️ **Tempo:** {processing_time:.1f}s ({round(duracao/processing_time, 1)}x velocidade real) 🎵 **Duração:** {duracao/60:.1f} minutos 📊 **Qualidade Máxima Atingida:** - **{len(resultado)} palavras** detectadas com precisão - **{output['estatisticas']['precisao_estimada']}% precisão** estimada - **{output['estatisticas']['palavras_alta_confianca']} palavras** com alta confiança - **{output['estatisticas']['densidade_palavras_por_minuto']} palavras/min** 🔧 **Correções Aplicadas:** - **{output['estatisticas']['correções_setox_para_cetox']} correções** setox → CETOX - **{output['estatisticas']['total_correções_aplicadas']} correções** gramaticais - **{"PTT5 Ativo" if corretor_disponivel else "Regras básicas"}** 📥 **JSON otimizado pronto para download!** """ return temp_file.name, resumo except Exception as e: error_msg = f"❌ Erro no processamento: {str(e)}" print(error_msg) return None, error_msg def criar_interface_hf(): """Interface Gradio brutalmente otimizada para HF""" with gr.Blocks( title="🎤 VSL Transcritor Pro - HF Optimized", theme=gr.themes.Soft(), css=""" .gradio-container { max-width: 1000px; margin: auto; } .status-box { border: 2px solid #10b981; border-radius: 12px; padding: 20px; background: linear-gradient(135deg, #f0fdf4 0%, #ecfdf5 100%); color: #065f46 !important; font-weight: 500; } .status-box * { color: #065f46 !important; } .header-box { background: linear-gradient(135deg, #1e40af 0%, #3b82f6 100%); color: white !important; padding: 20px; border-radius: 12px; text-align: center; } .model-info { background: #f8fafc; border: 1px solid #e2e8f0; border-radius: 8px; padding: 15px; } """ ) as demo: gr.Markdown("""
Otimizado para áudios de 13 minutos | Baseado em código testado e funcional