Update app.py

app.py

@@ -3,34 +3,41 @@ from PIL import Image
 from transformers import AutoModel, AutoTokenizer
 import gradio as gr
 
+# Verificar se a GPU está disponível
+device = "cuda" if torch.cuda.is_available() else "cpu"
+dtype = torch.bfloat16 if device == "cuda" and torch.cuda.is_bf16_supported() else torch.float16
+
 # Carregar o modelo e o tokenizer
-model = AutoModel.from_pretrained('openbmb/MiniCPM-V', trust_remote_code=True, torch_dtype=torch.bfloat16)
-model = model.to(device='cuda', dtype=torch.bfloat16)  # Ajuste para o dispositivo e tipo de dados adequados
+model = AutoModel.from_pretrained('openbmb/MiniCPM-V', trust_remote_code=True, torch_dtype=dtype)
+model = model.to(device=device, dtype=dtype)  # Ajuste para o dispositivo e tipo de dados adequados
 tokenizer = AutoTokenizer.from_pretrained('openbmb/MiniCPM-V', trust_remote_code=True)
 model.eval()
 
 # Função para processar a imagem e a pergunta
 def chat_with_model(image, question):
-    # Converter a imagem para RGB (se necessário)
-    if isinstance(image, str):
-        image = Image.open(image).convert('RGB')
-    else:
-        image = image.convert('RGB')
-
-    # Preparar a mensagem para o modelo
-    msgs = [{'role': 'user', 'content': question}]
-
-    # Gerar resposta do modelo
-    res, context, _ = model.chat(
-        image=image,
-        msgs=msgs,
-        context=None,
-        tokenizer=tokenizer,
-        sampling=True,
-        temperature=0.7
-    )
+    try:
+        # Converter a imagem para RGB (se necessário)
+        if isinstance(image, str):
+            image = Image.open(image).convert('RGB')
+        else:
+            image = image.convert('RGB')
+
+        # Preparar a mensagem para o modelo
+        msgs = [{'role': 'user', 'content': question}]
+
+        # Gerar resposta do modelo
+        res, context, _ = model.chat(
+            image=image,
+            msgs=msgs,
+            context=None,
+            tokenizer=tokenizer,
+            sampling=True,
+            temperature=0.7
+        )
 
-    return res
+        return res
+    except Exception as e:
+        return f"Erro ao processar a imagem ou pergunta: {str(e)}"
 
 # Interface Gradio
 def gradio_interface(image, question):