Update app.py

app.py

@@ -2,13 +2,9 @@ import os
 import json
 import time
 import requests
-# Lägg till Anthropic import
 from anthropic import Anthropic
 from openai import OpenAI
 import gradio as gr
-from sentence_transformers import SentenceTransformer
-import numpy as np
-import faiss
 import pandas as pd
 from huggingface_hub import CommitScheduler
 from datetime import datetime, timedelta
@@ -19,8 +15,6 @@ import threading
 
 # --- Konfiguration ---
 CHARGENODE_URL = "https://www.chargenode.eu"
-MAX_CHUNK_SIZE = 1024
-RETRIEVAL_K = 3
 
 # Kontrollera om vi kör i Hugging Face-miljön
 IS_HUGGINGFACE = os.environ.get("SPACE_ID") is not None
@@ -61,9 +55,9 @@ scheduler = CommitScheduler(
     token=hf_token
 )
 
-
 # --- Globala variabler ---
 last_log = None  # Sparar loggdata från senaste svar för feedback
+full_context = None  # Används för att spara hela kontexten
 
 # --- Förbättrad loggfunktion ---
 def safe_append_to_log(log_entry):
@@ -99,6 +93,7 @@ def safe_append_to_log(log_entry):
 
 # --- Laddar textkällor ---
 def load_local_files():
+    """Laddar alla lokala filer och returnerar som en sammanhängande text."""
     uploaded_text = ""
     allowed = [".txt", ".docx", ".pdf", ".csv", ".xls", ".xlsx"]
     excluded = ["requirements.txt", "app.py", "conversation_log.txt", "conversation_log_v2.txt", "secrets"]
@@ -132,114 +127,59 @@ def load_local_files():
                 print(f"Fel vid läsning av {file}: {str(e)}")
     return uploaded_text.strip()
 
+# Uppdatera load_prompt-funktionen för bättre felhantering
 def load_prompt():
+    """Läser in system-prompts från prompt.txt med bättre felhantering."""
     try:
         with open("prompt.txt", "r", encoding="utf-8") as f:
-            return f.read().strip()
+            prompt_content = f.read().strip()
+            if not prompt_content:
+                print("Varning: prompt.txt är tom, använder standardprompt")
+                return "Du är ChargeNode's AI-assistent. Svara på frågor om ChargeNode's produkter och tjänster baserat på den tillhandahållna informationen."
+            return prompt_content
+    except FileNotFoundError:
+        print("Varning: prompt.txt hittades inte, använder standardprompt")
+        return "Du är ChargeNode's AI-assistent. Svara på frågor om ChargeNode's produkter och tjänster baserat på den tillhandahållna informationen."
     except Exception as e:
-        print(f"Fel vid prompt.txt: {e}")
-        return ""
-
+        print(f"Fel vid inläsning av prompt.txt: {e}, använder standardprompt")
+        return "Du är ChargeNode's AI-assistent. Svara på frågor om ChargeNode's produkter och tjänster baserat på den tillhandahållna informationen."
+# Ladda prompt template
 prompt_template = load_prompt()
 
-# Förbered textsegment
-def prepare_chunks(text_data):
-    chunks, sources = [], []
-    for source, text in text_data.items():
-        paragraphs = [p for p in text.split("\n") if p.strip()]
-        chunk = ""
-        for para in paragraphs:
-            if len(chunk) + len(para) + 1 <= MAX_CHUNK_SIZE:
-                chunk += " " + para
-            else:
-                if chunk.strip():
-                    chunks.append(chunk.strip())
-                    sources.append(source)
-                chunk = para
-        if chunk.strip():
-            chunks.append(chunk.strip())
-            sources.append(source)
-    return chunks, sources
-
-    # Lazy-laddning av SentenceTransformer
-embedder = None
-embeddings = None
-index = None
-
-def initialize_embeddings():
-    """Initierar SentenceTransformer och FAISS-index vid första anrop."""
-    global embedder, embeddings, index, chunks, chunk_sources
-    
-    if embedder is None:
-        print("Initierar SentenceTransformer och FAISS-index...")
-        # Ladda och förbered lokal data
-        print("Laddar textdata...")
-        text_data = {"local_files": load_local_files()}
-        print("Förbereder textsegment...")
-        chunks, chunk_sources = prepare_chunks(text_data)
-        print(f"{len(chunks)} segment laddade")
-
-        print("Skapar embeddings...")
-        embedder = SentenceTransformer('all-MiniLM-L6-v2')
-        embeddings = embedder.encode(chunks, convert_to_numpy=True)
-        embeddings /= np.linalg.norm(embeddings, axis=1, keepdims=True)
-        index = faiss.IndexFlatIP(embeddings.shape[1])
-        index.add(embeddings)
-        print("FAISS-index klart")
-
-def retrieve_context(query, k=RETRIEVAL_K):
-    """Hämtar relevant kontext för frågor."""
-    # Säkerställ att modeller är laddade
-    initialize_embeddings()
-    
-    query_embedding = embedder.encode([query], convert_to_numpy=True)
-    query_embedding /= np.linalg.norm(query_embedding)
-    D, I = index.search(query_embedding, k)
-    retrieved, sources = [], set()
-    for idx in I[0]:
-        if idx < len(chunks):
-            retrieved.append(chunks[idx])
-            sources.add(chunk_sources[idx])
-    return " ".join(retrieved), list(sources)
-
-# Ändra modellsträngen i generate_answer-funktionen:
-
 def generate_answer(query):
-    """Genererar svar baserat på fråga med hela kontexten."""
+    """Genererar svar baserat på fråga med hela kontexten och system-prompt från prompt.txt."""
     # Hämta hela kontexten
     context = load_full_context()
     
     if not context.strip():
         return "Jag hittar ingen relevant information i mina källor.\n\nDetta är ett AI genererat svar."
     
-    # System-prompts och användarfråga
-    prompt = f"""{prompt_template}
+    # Använd prompt_template som system-prompt istället för att lägga den i användarens meddelande
+    system_prompt = prompt_template
     
-Hela dataunderlaget:
+    # Skapa ett renare användarmeddelande
+    user_message = f"""Jag har en fråga om ChargeNode.
+
+Hela dataunderlaget du kan använda för att svara:
 {context}
 
-Fråga: {query}
-Svar (baserat enbart på den tillhandahållna datan):"""
+Min fråga är: {query}"""
     
     try:
-        # Använd Claude Haiku med hela kontexten
-        # Ändra modellsträngen till den korrekta
+        # Använd Claude Haiku med hela kontexten och system-prompt
         response = anthropic_client.messages.create(
-            model="claude-3-haiku-20240307",  # Korrigerad modellsträng
+            model="claude-3-haiku-20240307",
             max_tokens=500,
             temperature=0.2,
-            system=("Du är en expert på ChargeNodes produkter och tjänster. "
-                   "Svara enbart baserat på den information som finns i den tillhandahållna datan."),
+            system=system_prompt,  # Använd prompt.txt som system-prompt
             messages=[
-                {"role": "user", "content": prompt}
+                {"role": "user", "content": user_message}
             ]
         )
         answer = response.content[0].text
         return answer + "\n\nAI-genererat. Otillräcklig hjälp? Kontakta support@chargenode.eu eller 010-2051055"
     except Exception as e:
         return f"Tekniskt fel: {str(e)}\n\nAI-genererat. Kontakta support@chargenode.eu eller 010-2051055"
-
-# Resten av koden lämnas oförändrad...
 # --- Slack Integration ---
 def send_to_slack(subject, content, color="#2a9d8f"):
     """Basfunktion för att skicka meddelanden till Slack."""
@@ -836,5 +776,10 @@ with gr.Blocks(css=custom_css, title="ChargeNode Kundtjänst") as app:
         [chat_interface, support_interface, success_interface, chat_preview]
     )
 
+# Ladda kontexten direkt vid uppstart
+print("Förbereder hela kontexten vid uppstart...")
+load_full_context()
+print("Kontext laddad och redo!")
+
 if __name__ == "__main__":
     app.launch(share=True)