Medizinische & KI-Sicherheit

Was MedCite Ist

• Ein klinisches Evidenzrecherche- und Synthesewerkzeug für Gesundheitsfachkräfte
• Eine quellenbasierte Referenz, die jede Behauptung mit veröffentlichter Literatur verknüpft
• Ein Leitlinien-priorisierendes System, das nationale und europäische klinische Leitlinien bevorzugt
• Ein transparentes Werkzeug, bei dem jede Antwort gegen ihre Quellen überprüft werden kann

Was MedCite Nicht Ist

• Ein Medizinprodukt unter der EU MDR 2017/745
• Ein klinisches Entscheidungsunterstützungssystem
• Ein diagnostisches Werkzeug oder Differentialdiagnose-Generator
• Ein Behandlungsempfehlungs- oder Verschreibungssystem
• Ein Triage- oder Notfallbewertungswerkzeug
• Ein patientenspezifisches Entscheidungsunterstützungssystem

Menschliche Aufsicht

Gesundheitsfachkräfte tragen die volle Verantwortung für alle klinischen Entscheidungen. MedCite-Ausgaben müssen vor jeder Anwendung in einem klinischen Kontext gegen Primärquellen, lokale klinische Leitlinien und institutionelle Protokolle überprüft werden. Der Dienst ist darauf ausgelegt, die professionelle ärztliche Beurteilung zu unterstützen — nicht zu ersetzen.

Integrierte Sicherheitsfunktionen

• Erkennung patientenspezifischer Anfragen — Anfragen, die individuelle Patienten beschreiben, lösen rein evidenzbasierte Antworten mit expliziten Haftungsausschlüssen aus
• Notfallerkennung — potenzielle Notfallanfragen werden mit Anleitungen zur Kontaktaufnahme mit lokalen Notdiensten markiert
• Verschreibungssicherungen — Dosierungsanfragen erhalten nur leitlinienbasierte Informationen, niemals patientenspezifische Anweisungen
• Zitatsdisziplin — jede faktische Behauptung muss durch eine zitierte Quelle gestützt werden
• Quellenüberprüfung — Nutzer können auf Originalquellen zur unabhängigen Verifizierung zugreifen

Regulatorischer Kontext

Der EU AI Act (in Kraft seit 1. August 2024) stuft KI-Systeme, die für medizinische Zwecke bestimt sind, als hochriskant ein, wenn sie unter die Medizinprodukteverordnung fallen. MedCite ist absichtlich als Evidenzrecherche- und Zusammenfassungswerkzeug konzipiert, nicht als Medizinprodukt oder klinisches Entscheidungsunterstützungssystem, um diese Einstufung zu vermeiden. Unser Zweck, unsere Produktsprache und unser technisches Verhalten sind alle auf diese Positionierung abgestimmt.

Clinical Evidence Planner

MedCite uses a Clinical Evidence Planner that transforms opaque AI search into an auditable decision pathway. Every query is classified into a clinical task (e.g., drug timing, treatment guideline, diagnosis), entities are extracted (drug, condition, procedure), and evidence retrieval is planned accordingly. The system exposes this reasoning so clinicians can inspect why sources were selected, validate the task interpretation, and understand the evidence basis for each answer.

Key Features

• Transparent task classification — see how MedCite interpreted your clinical question
• Entity extraction — drugs, conditions, and procedures are identified and normalised
• Task-driven retrieval — searches use answer-bearing concepts, not just topic keywords
• Answerability validation — evidence packs are checked for required clinical concepts before synthesis
• Deterministic fallback — known clinical patterns trigger structured query templates as rescue path
• Source-role prioritisation — guidelines and systematic reviews are boosted over case reports and imaging-only papers
• EU AI Act–aligned transparency — audit trail exports task, entities, sources, and validation results